https://twitter.com/0xggoma/status/1613437613024882688?s=46&t=Tpch8vtK5CeJDx8-1_8cLA
임베딩 API는 텍스트를 GPT3 모델에 빗대어 Multidimensional 한 벡터값을 만들어줌
그래서 유저가 질문을했을 때
임베딩 API는 텍스트를 GPT3 모델에 빗대어 Multidimensional 한 벡터값을 만들어줌
그래서 유저가 질문을했을 때
- 유저의 질문을 가지고 Embedding 유사값 생성
- 내가 만들어놓은 Embedding 값들과 비교해서 거리가 제일 가까운 값 정보들만 컨텍스트에 끼워넣음
Embedding 을 사용하면 OpenAI API를 호출할때 이런 플로우로 변경된다
- " Context: ${"세상에서 제일 맛있는 과일은?" 이라는 질문과 관련있는 내가 넣어놓은 임베딩 데이 터들을 여기에 유동적으로 제공}
- Q: 세상에서 제일 맛있는 과일은? A:
이를 통해
- "기억" 이라는 개념을 영구적으로 사용
- API 를 호출할때 사용되는 토큰 절약
- 내가 원하는 데이터값을 마음껏 넣어놓을수있음