본문으로 건너뛰기
궁금해요

Gpts 챗봇 vs RAG 챗봇

드로니

2024.11.22

안녕하세요 저는 회사원인데요

회사업무에 pdf로 된 매뉴얼이 상당히 많고

관계법령도 많이 다뤄야 합니다.

후임자들을 위해

이 pdf파일들을 학습한 챗봇이 있다면 얼마나 좋을까? 라는 생각이 들게 되었고

gpts에 pdf파일들을 업로드 해서 업로드 파일에 기반한 답변을 기대했으나

퀄리티가 영 시원찮아서요

이것저것 검색하다보니 rag라는걸 알게 되었습니다.

rag을 이용하면 제가 원하는 커스텀 챗봇을 만들수있는건가요??

시험삼아 pdf파일 1개(100페이지가량)만 학습시켜보려는데

저같은 비전공자도 해볼수있을까요?

4

함께 이야기해요 4

로그인하고 댓글을 남겨 주세요

윤누리 프로필 이미지
윤누리2024.11.24

네, pdf 파일들을 학습한 챗봇이 있다면 정말 좋겠어요ㅎㅎ RAG 챗봇을 활용하면 원하시는 커스텀 챗봇을 만들 수 있을 것 같아요...! 비전공자분도 해볼 만한 것 같습니다.

J
Junghun Lee2024.11.22

RAG는 원하는 데이터를 모델에 학습시키는 개념이 아니라 모델에 질의를 할 때에 모델이 알고 있지 않은 정보들(작성자님의 경우, 관련 법령 pdf)을 추가하여 해당 정보들 내에서 검색하게끔 하여 최적의 답변을 생성함으로 답변의 정확도를 개선시키는 개념입니다.

RAG를 구현하기 쉽게 래핑해놓은 Langchain이나 LlamaIndex와 같은 프레임워크를 이용해 직접 구현해보세요! 관련 지식이 다소 필요하긴 하겠다만 RAG Langchain, RAG LlamaIndex 등의 키워드로 검색해보시면 많은 예제들이 존재합니다.

J
JoungRae Kim2024.11.22

다소 오래 걸리긴 하겠지만, 가능합니다. 검색해보시면 RAG 따라하는 방법이 많기 때문에 차근차근 따라해보시면 됩니다.

다만, RAG는 어떠한 자료를 검색하냐에 따라서 약간 데이터를 조정할 필요가 있긴 합니다.
항목별로 정리된 데이터라면 저는 graphRAG를 추천드리고, 그게 아니고 논문과 같은 줄글 위주의 전문가적 데이터라면 vector search를 통한 RAG를 추천드립니다.

이건 제가 만든 graphDB로 법률 챗봇인데, 학습데이터를 보시면 엑셀 형태로 바꿔서 진행했었습니다.
https://www.carillon.ai/apps/labor-law-chatbot

Green 프로필 이미지
Green2024.11.22

와 너무 멋있네요! 정래님 댓글 덕에 RAG라는 것에 대해 처음 알게 되었습니다!
별개로, 저는 작성자님께 조금 더 쉽게 '노트북LM' 도 조심스레 추천해봅니다.

https://notebooklm.google/

pdf를 넣어서 관련 내용으로 질문할 수 있어요!

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기