[RAG 서비스 완성 및 배포 도전 4탄] 질문 분류기 사용, 사용자의 파일 업로드, 프롬프트 고도화, 지식 벗어나는 질문은 몰라요 등등 구현, (형식은 따라했는데, 내용은 실패...)
2025.09.21
![[RAG 서비스 완성 및 배포 도전 4탄] 질문 분류기 사용, 사용자의 파일 업로드, 프롬프트 고도화, 지식 벗어나는 질문은 몰라요 등등 구현, (형식은 따라했는데, 내용은 실패...) 본문 이미지](/_next/image?url=https%3A%2F%2Fcdn-beta.gpters.org%2Fexternal%2F1de88b4fbe51d65354509633.jpg&w=3840&q=75)
3주차에 스터디장님이 알려주신 내용들 많은 부분을 체화해보고자 만들어봤습니다.
질문 분류기 사용, 사용자의 파일 업로드, 프롬프트 고도화, 지식 벗어나는 질문은 몰라요 등등을 구현해 본 결과입니다.
아직 makitdown 사용은 못해봤는데
시간 날 때, 더 해보고,
이미지 추출도 전처리에 하는 것을 시도해 보겠습니다.
워런 버핏의 투자 철학을 상담해 주는 챗봇
(투자자가 자신의 투자에 대해 워런 버핏에게 상담받는 챗봇)
워런 버핏의 투자 철학을 조사하여 지식 파일로 제작
지식 영역에 넣고 벡터 DB화 하는데 이상하게 자꾸 전체 문서가 들어가지 않고
(용량도 md 파일이라 작은데.....) 중간에 자꾸 잘려서
수작업 노가다로 md 파일을 다시 8개의 md 파일로 잘라서 사용함

전체 워크 플로우 구축

질문 분류기 사용해서 투자 포트폴리오 분석, 개별 기업이 투자할 가치가 있는지 분석, 워런 버핏의 투자 철학 Q&A로 구성하고 워런 버핏 투자와 관련 없는 질문에는 모른다고 답변하도록 설정
그리고 Doc 추출기를 사용하여 사용자가 파일을 업로드 할 수 있게 함
분기를 이용해서 보다 세밀하게 질문들에 대한 답변이 나오도록 프롬프트를 각각 설정할 수 있었음
또한, 기능에서 다음을 설정하여 익혀봄

인용 및 소유권 on 시켜 놓았음
결과




외형은 성공적으로 작동하는 듯 했으나
하나하나 뜯어보기 시작하니
실패 사례임....
Tracking 해 보니
지식 참조도 안되어 있고,
그냥 LLM이 알아서 답변한 모양새였음 T.T
문제점 및 Questions
왜 md file이 용량도 작은데 벡터 db화를 한 번에 못해서 문서를 여러 개로 분할해서 넣어주어야 하는지? 방법이 있을 것 같은데....해결책은? 무언가 설정을 잘 못 한 것인지?
doc 추출기는 html, htm도 인식할 수 있다고 나오는데 막상 링크를 주었더니
링크를 인식했다가 바로 사라지면서 안되던데.....왜 그런 것인지? 해결책은?doc 추출기에 사용자가 분량이 큰 문서를 (예를 들어 100페이지 넘어가는 IR 자료) 올릴 경우, 처리할 수 없는 분량이라고 나오면서 에러가 나던데, 해결책은? 또한, 이 경우 api 요금 문제가 발생할 것 같은데.... 해결책은?
감사합니다.




왜 md file이 용량도 작은데 벡터 db화를 한 번에 못해서 문서를 여러 개로 분할해서 넣어주어야 하는지? 방법이 있을 것 같은데....해결책은? 무언가 설정을 잘 못 한 것인지?
>> 이건 텍스트로만 보아서는 저도 원인 파악이 잘 안 되어 사례 발표 때 화면 공유와 함께 어떤 문제인지 구체적으로 보여주시면 의견 드리도록 하겠습니다.
doc 추출기는 html, htm도 인식할 수 있다고 나오는데 막상 링크를 주었더니
링크를 인식했다가 바로 사라지면서 안되던데.....왜 그런 것인지? 해결책은?
>> html 파일을 인식하는 것이지, url을 인식하는 것이 아닙니다!
doc 추출기에 사용자가 분량이 큰 문서를 (예를 들어 100페이지 넘어가는 IR 자료) 올릴 경우, 처리할 수 없는 분량이라고 나오면서 에러가 나던데, 해결책은? 또한, 이 경우 api 요금 문제가 발생할 것 같은데.... 해결책은?
>> 그건 dify의 doc 추출기의 제약 조건인지, LLM의 토큰 문제인지 말씀해주신 내용만으로는 특정되지 않아서 이 부분 또한 화면 공유와 함께 구체적으로 보여주시면 의견 드리도록 하겠습니다.