( 용어설명 ) Prompt : GPT에게 내리는 명령 Attention : 나의 입력값(Prompt)을 반영해서 "어떤 부분에 집중"해야 하는지, 나의 목표에 도달하기 위한 모든 행위의 총합이라는 의미로 사용했습니다.
( 딥러닝의 Attention에서 차용한 말이지만 정확히는 차이가 있습니다. 원하는 부분에 '강조'를 한다는 맥락에서 본 용어를 사용하였습니다. )
이 글은 MetaPrompt와 CoT(생각사슬)의 아이디어에서 차용하여 제가 사용하고 있는 Framework입니다.
네, 제목 좀 멋드러지게 써봤는데 별거 아니구요. 사람들이 하루종일 Prompt 쓰는데 몰두하고 있어서 쓰는 글입니다. 특히 초보, 중수~분들에게 자주 나타나는 현상이에요. 우리는 투입시간도 항상 고려해보아야 합니다.
Prompt를 왜 쓸까요?
Prompt를 쓰는 행위는 결국 목표에 도달하기 위한 수단입니다. 좋은 Prompt가 중요한 것 이전에, GPT가 나의 결과를 도출해 주기 위해 Attention( 어떤 결과물을 원하는지! ) 만 잘 지정해주면 된다는 겁니다.
즉, Prompt를 잘 만들어서 주는 것은 꽤 좋은 방법이지만, 상황에 따라 시간을 너무 많이 투자하는것은 별로 좋지 않은 방법이라는 겁니다.
왜 Prompt쓰는 시간을 줄여야 할까?
수천억의 Parameter(매개변수)가 어떤식으로 작동하는지 모른다. → 내가 열심히 쓰고있는 Prompt가 사실 해골물일 수 있다. ( 내가 GPT를 100% 컨트롤 할 수 없다. )
같은 Prompt라 하더라도 매번 조금씩 다른 결과값이 나온다.
우리가 받을 수 있는건 결과밖에 없다.
위 이유로 좋은 Prompt구성보다 그냥 적당히, 빠르게 질문 → 결과 → 피드백 → 질문 순서로 나아가는 것이 더 좋을 수 있다는 겁니다. 그리고 사실 꽤 많은 분들이, 내가 무엇이 필요한지도 잘 모르는 채 고민만 계속 하고 있습니다.
지금부터 제안드리는 방법은 다음 두가지 상황에 적합합니다.
앞으로 다시 작업하지 않을 1회성 작업 / 반복하는 작업이지만 Prompt템플릿이 존재하지 않을 때.
ChatGPT를 사용하는 일반적인 사고의 흐름과 우리의 작업방식을 나타내면 다음 그림과 같습니다.
( Open Ai의 Plugin 독성 확인 Prompt 참고 : [역할] → [업무] → [업무 속 지침] )
사고의 흐름 : 내 상황 파악 → 목표 설정 → 해결주체 선정 → 업무/지침 설정 → Prompt 생성 → GPT → 피드백 → GPT → 문제 해결
우리는 사고의 흐름 중 ( 내 상황 파악 → 목표 설정 → 해결주체 선정 → 업무/지침 설정 → Prompt 생성 ) 을 한번에 해결해버리려고 하기 때문에, Prompt 구성에 많은 시간을 투자합니다.
우리는 이 사고의 흐름과 우리의 GPT와의 작업방식을 더 일치시킬 필요가 있습니다.
결국 생산성 향상을 위해서는 GPT가 업무에서 차지하는 비중을 늘려야합니다. 여기서 더 좋은 방법은, GPT의 비중을 늘림과 동시에 검증시간을 늘리는 것입니 다. ( GPT 사용 + 정보 검색, 검증 )
하지만 GPT도 대부분의 일반적인 내용은 Pretrained 된 학습 Data가 있기 때문에, GPT를 검색용으로도 제한적으로 사용가능합니다. ( 작업에 따라 상이합니다. )
GPT는 나와의 대화를 기억합니다.
GPT는 나와의 대화를 기억합니다. 때문에, 내가 앞서 했던 작업들 ( 상황 제시, 문제이해 향상 요청, 목표 설정, 해결책 요청 ) 의 작업들의 전체 흐름정도는 기억하고 있습니다. 이 과정(상황제시~해결책요청)이 사실 우리가 목표에 접근하고 도달하는 중입니다. GPT도 나와의 대화를 통해 업무에 대한 이해가 향상됩니다.
이 방법의 장점은 두가지입니다. 첫째, 앞의 대화로 인해 나의 목표값과 멀어지는 경우 (결과가 맘에 안든다) : 과정을 분할해 두었기 때문에 중간서부터 다시 시작할 수 있습니다. 즉, 과정을 분할해 두었기 때문에 잘못된 부분을 교정 가능 ( 피드백이 용이 ) 합니다. 혹은 맘에 들었던 부분만을 차용하여 새 대화에서 시작이 가능합니다. 매몰비용(작업하는데 쓴 시간) 회수 가능
둘째, 앞의 대화로 인해 목표값과 가까워지는 경우 (결과가 맘에 든다) : 사실 이것 때문에 CoT에서 차용한 이야기라고 한것인데, 우리가 대화를 이어나가는 행위 자체가 생각사슬입니다. GPT는 나와 앞서 했던 작업들을 기억하고 있습니다.
GPT의 가장 큰 장점은 무한생성이 가능하다 입니다. 비용이 0으로 수렴합니다. 최대한 빠르게 많이 생성하고, 빠르게 피드백+검증을 주세요. 일단 실행하세요. 질문하세요. GPT를 일단 키시고 빨리 질문하세요! 뭐라든 물어보시면 그 이전보다 더 나은상태로 갈 수 있습니다.
