임베딩 데이터를 꺼내 GPT에게 질문하기
김욱영
2023.08.11

[ 김승우 | 개발 | IT ]

임베딩을 한번 해두면 파인콘에게 사용자의 질문을 query 할수있고 거기서 매칭된 문자열들을
{context} = 파인콘 쿼리 결과
{question} = 사용자 질문
이렇게 치환시켜서 gpt 모델에 임베딩 데이터를 넣어주는거네용 벡터DB에 자연어로 질의할 수 있다는게 신기합니다
이렇게 하면 벡터DB에 쿼리하는 비용이 GPT모델 사용료보다 낮고 속도도 빨라서 효율적일것같아요
OpenAI Embeddings, GPT-3.5, Pinecone and AWS Lambda: Building a Serverless QA Chatbot | AntStack이 링크에서 임베딩 데이터 꺼내서 gpt에 질의하는거 예제코드 찾았는데 혹시 임베딩 직접구현에 관심있는 분들은 참고하시면 도움될거같습니다
로그인하고 댓글을 남겨 주세요
김욱영2023.08.14
승우님 화이팅이에요!!
김승우2023.08.11
리턴된 context를 question 값과 함께 GPT 3.5/4 모델에 전달하여 최종적으로 임베딩 기반 답변을 생성합니다! 하단 프롬프트 부분을 보면 context 기반으로 (엄격하게) 답변하라는 프롬프트가 있습니다. 욱영님 글 공유해주셔서 감사합니다!!



