GPT로 비트코인 거래 자동화 - 프롬프트 줄이는 법??
2024.03.25
안녕하세요.
유튜버 조코딩님의 ‘GPT API로 비트코인 거래 자동화봇 만들기’ 영상을 보고 따라 만들어서 실제로 작동중에 있는데요, 2가지 큰 문제가 있어서 고수님들께 질문드립니다…
그 문제는
GPT api 에게 주는 명령 프롬프트(instruction)가 너무 길다는 것
그 명령 프롬프트는 매번 요청할 때마다 똑같은 내용이라 중복, 토큰 낭비가 심하다는 것 (‘너는 투자전문가야’, ‘너가 받을 데이터는 ~~야’, ‘너의 대답은 ~ 형식으로 해줘’ 등등 이기 때문에 바뀌지 않습니다. 실시간 시장 지표 데이터는 따로 줘요.)
입니다.
GPT에게 주는 instruction의 내용이 긴 것은 성능을 위해 GPT에게 역할을 지정해주고 인풋/아웃풋 예시를 들어주느라 어쩔 수 없다고 생각합니다.
하지만 해당 instruction을 똑같은 내용임에도 매번 GPT에게 api 요청할 때마다 전달해주는 게 토큰이 너무 낭비되는 것 같습니다..ㅜ (chat completion, gpt4.5 turbo 모델 사용중입니다) api 사용비가 더 많이 나오고 있어요 ㅠ
제가 assistant 강의를 아무리 봐도 이해가 잘 안가서 그러는데, assistant를 사용하면 중복된 instruction은 전달해주지 않아도 돼서 토큰을 아낄 수 있는 걸까요? 그리고 꼭 GPT 아니고 로컬 LLM으로 돌려도 되니 혹 좋은 팁 있다면 충고해주세요 고수님들 ㅜㅜ
답변 미리 감사드립니다..!!
로그인하고 댓글을 남겨 주세요
오 ^^
‘GPT API로 비트코인 거래 자동화봇 만들기’ 강의 내용으로
실제 동작이 되나 보군요 ^^
관련 깃허브 링크 내용만으로는 잘 모르겠어서,
가이드 매뉴얼이 있어야지 알 수 있을 것 같아서,
아직 test 시연 준비만 하고 있습니다. ^^;;
혹시 도움된만한 링크가 있으면
알려 주시면 감사하겠습니다.
샘호트만님, 항상 전문적인 답변 감사드려요! 역시 노하우가 엄청나십니다! 프롬프트를 구체적으로 쓰겠다고 무조건 길게만 쓰는 것도 좋지 않군요! 새로 배워갑니다
샘호트만님, 항상 전문적인 답변 감사드려요! 역시 노하우가 엄청나십니다! 프롬프트를 구체적으로 쓰겠다고 무조건 길게만 쓰는 것도 좋지 않군요! 새로 배워갑니다
프롬프트가 길다 → 요구사항이 길다 → 프롬프트 스터핑 현상이 심해지고 → 결국 LLM 답변 품질이 떨어지고, 말귀를 못 알아먹는 경우가 많습니다.
그래서 하나의 instructions에 다 넣지말고, 단계별로 나눠서 I/O 토큰을 줄이면서 여러 llm을 둬서 접근을 하시면 그나마 말귀 알아먹으실 겁니다

@류승택
하기 링크내용만 보고서, 코딩을 못하는 저로서는
쫒아가는 것도 쉽지 않겠지만,
실제 정상적으로 되려나 ? 하고 문의를 드린 것인데…
https://jocoding.net/GPT-AI-b029e92ed6e24746838c2f525752ee74
5시간 풀타임 코딩영상을 봐야지만 알 수 있는 것이였군요 ^^
저도 적용을 해서 한번 test를 해 보고 싶네요 ^^
제 연락 메일주소는 [email protected] 입니다.
잘 부탁드리겠습니다.