본문으로 건너뛰기

임베딩 데이터를 꺼내 GPT에게 질문하기

김욱영

2023.08.11

임베딩 데이터를 꺼내 GPT에게 질문하기 본문 이미지

[ 김승우 | 개발 | IT ]

임베딩을 한번 해두면 파인콘에게 사용자의 질문을 query 할수있고 거기서 매칭된 문자열들을

{context} = 파인콘 쿼리 결과

{question} = 사용자 질문

이렇게 치환시켜서 gpt 모델에 임베딩 데이터를 넣어주는거네용 벡터DB에 자연어로 질의할 수 있다는게 신기합니다

이렇게 하면 벡터DB에 쿼리하는 비용이 GPT모델 사용료보다 낮고 속도도 빨라서 효율적일것같아요

OpenAI Embeddings, GPT-3.5, Pinecone and AWS Lambda: Building a Serverless QA Chatbot | AntStack

이 링크에서 임베딩 데이터 꺼내서 gpt에 질의하는거 예제코드 찾았는데 혹시 임베딩 직접구현에 관심있는 분들은 참고하시면 도움될거같습니다

2

함께 이야기해요 2

로그인하고 댓글을 남겨 주세요

김욱영 프로필 이미지
김욱영2023.08.14
 승우님 화이팅이에요!!
김승우 프로필 이미지
김승우2023.08.11
리턴된 context를 question 값과 함께 GPT 3.5/4 모델에 전달하여 최종적으로 임베딩 기반 답변을 생성합니다! 하단 프롬프트 부분을 보면 context 기반으로 (엄격하게) 답변하라는 프롬프트가 있습니다. 욱영님 글 공유해주셔서 감사합니다!!

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기