안녕하세요, 고수님들! 갓 입문한 생초보입니다ㅠㅠ
토큰 & 결제 요금 관련해서, 고수님들의 도움이 절실해 몇가지 여쭤보려고 합니다 ㅠㅠ 도와주시면 정말 감사드리겠습니다ㅎㅎ..
GPT와 구글 스프레드 시트와 연관해서 활용하고 있습니다. 사용 중 결제 금액이 정말 과하게 많이 나왔고, 뭐가 문젠지 정확하게 모르겠어서요..ㅠㅠ
다들 아실 구글 확장 프로그램(GPT for sheets and docs) 설치 후 사용 중에 있었는데,
며칠 간 GPT 함수들 사용하며 얼추 틀 맞춰놓고 어느정도 실무에 쓰일 수 있겠다 싶을 때 쯤hard limit을 $120까지 늘려놨거든요.
틀 맞추는 동안 모델 및 토큰 제한은 기본 셋팅 그대로 진행하였습니다. (gpt-3.5-turbo 4k)
이후 hard limit을 기존 제한에서 $120로 늘렸습니다. (+모델 gpt-3.5-turbo 16k로 변경)
주로 쓰는 GPT 함수는 GPT_Fill 함수입니다. (평균 질문에 사용되는 토큰: 약 15,000토큰 / 답변: 약 1,600 토큰 소요)
문제는.. 멍청하게도 hard limit을 $120까지 늘린 후 업무 진행하다보니 갑자기 하루만에 $100 넘게 소모되더군요..
괜찮으시다면 어떤 점이 문제일지, 고수님들께서는 토큰 관리를 어떻게 하시는지 여쭤봅니다. 부탁드릴게요 😭