매우 긴 문서의 번역을 LangChain에 요청하는 방법이 있을까요?

문서가 너무 길어서 분당 토큰 수를 초과하는 오류가 발생합니다.

그래서 현재 로직은 문서를 청크로 분리 한 후 doc[0] ~ doc[5] 까지 하드 코딩으로 프롬프팅을 해주고 있습니다.

그러니까 아래와 같은 방식으로 현재 프롬프팅 중입니다.

python 

chain.invoke(f”{doc[0]}을 영문으로 번역해줘”)

// AI answer : ~~~

chain.invoke(f”{doc[1]}을 영문으로 번역해줘”)

LangChain 프롬프트에서 긴 문서 번역을 요청할 떄 어떻게 하면 효율적으로 할 수 있을까요?

예시코드도 제시해주신다면 감사드리겠습니다.

2
2개의 답글

(채용) 유튜브 PD, 마케터, AI엔지니어, 디자이너

지피터스의 콘텐츠 플라이휠로 고속 성장할 팀원을 찾습니다!

👉 이 게시글도 읽어보세요