본문으로 건너뛰기

ChatGPT에 임배딩 API를 이용하면 유용하다는 트윗 글

김욱영

2023.01.13

https://twitter.com/0xggoma/status/1613437613024882688?s=46&t=Tpch8vtK5CeJDx8-1_8cLA

임베딩 API는 텍스트를 GPT3 모델에 빗대어 Multidimensional 한 벡터값을 만들어줌

그래서 유저가 질문을했을 때
  1. 유저의 질문을 가지고 Embedding 유사값 생성
  2. 내가 만들어놓은 Embedding 값들과 비교해서 거리가 제일 가까운 값 정보들만 컨텍스트에 끼워넣음

Embedding 을 사용하면 OpenAI API를 호출할때 이런 플로우로 변경된다
  • " Context: ${"세상에서 제일 맛있는 과일은?" 이라는 질문과 관련있는 내가 넣어놓은 임베딩 데이터들을 여기에 유동적으로 제공}
  • Q: 세상에서 제일 맛있는 과일은? A:

이를 통해
  • "기억" 이라는 개념을 영구적으로 사용
  • API 를 호출할때 사용되는 토큰 절약
  • 내가 원하는 데이터값을 마음껏 넣어놓을수있음

함께 이야기해요 0

로그인하고 댓글을 남겨 주세요

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기