GPT API 개행 질문
Junghun Lee
2023.12.07
안녕하세요. OpenAI GPT API를 이용해서 서비스를 개발 중에 있습니다.
gpt-3.5-turbo 모델을 이용하여 답변을 생성 중인데 생성 답변에서 개행을 규칙적으로 하기 위한 방법 혹은 프롬프트에 대해서 아시는 분이 계실지 하여 질문 남기게 되었습니다.
문맥이 바뀌거나, 적당한 양(세 네 문장)이 생성되면 개행하여 계속 답변을 생성하고자 합니다. 답변 생성 후 처리 방안도 고민해보았으나, 문맥을 판단하여 개행하기는 어렵다고 판단했습니다. 답변 생성 과정에서 개행이 자연스럽게 되었으면 좋겠습니다.
관련하여 도움이 될 만한 포스트나 방법이 있으면 알려주시면 감사드리겠습니다.

기존 생성문장
"동해물과 백두산이 마르고 닳도록. 하느님이 보우하사 우리나라 만세. 무궁화 삼천리 화려강산. 대한사람 대한으로 길이 보전하세. 남산 위에 저 소나무 철갑을 두른 듯 바람서리 불변함은 우리 기상일세. 무궁화 삼천리 화려강산. 대한사람 대한으로 길이 보전하세."
원하는 생성문장
"동해물과 백두산이 마르고 닳도록.
하느님이 보우하사 우리나라 만세.
무궁화 삼천리 화려강산.
대한사람 대한으로 길이 보전하세.
남산 위에 저 소나무 철갑을 두른 듯.
바람서리 불변함은 우리 기상일세.
무궁화 삼천리 화려강산.
대한사람 대한으로 길이 보전하세."
문맥/주제가 바뀌면 개행하도록 하는 프롬프트나 후처리 방식에 대해 질문드린 것입니다. 마침표 단위로 개행하거나, 적당한 양(세 네 문장)이 생성되면 개행하는 방법은 문맥/주제가 바뀌는 상황을 제대로 처리할 수 없다고 판단했고요.
프롬프트 단에서 해결할 수 없으면 GPT 모델 파인튜닝을 수행하거나 최초 생성문장을 교정 모델에 input으로 넣는 방법이 있을 듯 한데 좋은 방법을 알고 계시다면 공유해주시면 감사드리겠습니다.