본문으로 건너뛰기
궁금해요

RAG 관련 질문입니다..!

안정현

2024.04.08

안녕하세요. 현재 졸업 프로젝트로 RAG를 이용해 챗봇을 제작하려고 하는데 RAG를 공부하다보니 궁금한 것이 생겨 질문 남깁니다!


RAG에서 prompt engineering에서 example selector를 사용할 때 질문과 유사한 예제를 선택하고,
예제와 질문이 담긴 프롬프트를 retriever 과정을 거쳐 하나의 프롬프트에 외부 데이터에서 찾은 context, example selector에서 가져온 예제,질문이 LLM 모델에게 전달이 되는 것인지 궁금합니다..!
또한 이 과정을 pipeline prompt로 구현하면 되는것인지 궁금합니다!

감사합니다.

4

함께 이야기해요 4

로그인하고 댓글을 남겨 주세요

김욱영 프로필 이미지
김욱영2024.04.08

RAG의 개념을 짧게 설명드리면,

(1) 자료들을 vector DB에 미리 임베딩을 시켜 둡니다.
(2) 그런다음, 사용자가 요청을 하면 해당 요청을 임베딩하여, 1)의 Vector DB에게 쿼리를 보내게 되고.
(3) 2)의 쿼리를 LLM과 합쳐서 답변을 하는 것

입니다.

Pincone api를 찾아보시면 좋을 것 같아요. (현재로서 구현하는 가장 편한 방법)

김욱영 프로필 이미지
김욱영2024.04.08

화이팅입니다!

vcxa 프로필 이미지
vcxa2024.04.08

https://python.langchain.com/docs/modules/model_io/prompts/example_selectors/
답변 감사합니다. 말씀해주신 2)쿼리를 VectorDB에 보내기전에 위의 링크에 나와있는 example selector를 이용해서 원하는 답변 형식 예제를 선택하여 참조하고 그 다음에 Vector DB에게 쿼리를 보낼 수 있는지 궁금합니다..!

김욱영 프로필 이미지
김욱영2024.04.09

@안정현 2번 과정에서 하는 게 아니라, 3번 과정에서 하는게 원활한 플로우일 것 같아요.

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기