api 비용 질문입니다
짚티
2024.01.07


input과 output 비용이 따로 책정되어있는데
이게 정확히 어떤 비용을 의미하는건지 모르겠습니다
로그인하고 댓글을 남겨 주세요
J
Junghun Lee2024.01.08
input은 system, assistant, user role에 해당하는 프롬프트를 의미하고 output은 생성 문장을 의미합니다.
from openai import OpenAI
client = OpenAI()
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{
"role": "system",
"content": "You will be provided with statements, and your task is to convert them to standard English."
},
{
"role": "user",
"content": "She no went to the market."
}
],
temperature=0.7,
max_tokens=64,
top_p=1
)이건 openai에서 제공하는 api examples 중 하나인데요. response의 messages의 content에 해당하는 부분이 input, 이 api 호출로 인해 생성되는 문장이 output이라고 이해하시면 됩니다..!

INPUT은 아마 시스템 프롬프트라 생각하시면 될 것 같아요. 챗GPT가 어떤 역할을 하는지 정의해주는 역할입니다!