🫤 기존 프롬프팅 방식
먼저 ‘사려 깊은 GPT’를 만들게 된 배경은 다음과 같습니다.
저는 챗지와 몇 개월 째 놀아봐서 대략 챗지에게 어떠한 방식으로 Instructions을 주고 Output format을 제공해야 원하는 답변이 제대로 나오는지 어느 정도 감이 있지만, 챗지에 친숙하지 않은 유저들은 챗지에게 질문할 때 보통 별 생각 없이 친구나 구글에게 물어보듯이 일상적으로 물어 보곤 합니다.
챗지의 장점이자 단점은 바로 유저가 물어보는 대로 답변해준다는 것입니다. 더 정확히 말하면, 챗지의 모든 답변은 오로지 유저의 인풋값에 기인하여 만들어진다는 것입니다.
그렇기 때문에 유저가 무언가를 지시하거나 물어볼 때에는 최대한 상세하게, 그리고 원하는 답변이 어떠한지까지 알려주는 것이 필요합니다. 우린 이것을 프롬프팅이라고 합니다.
기존에 프롬프팅을 하던 방식입니다. (제 영어 선생님 입니다) 이러한 프롬프팅이 API를 사용할 때에는 System_Message에 들어가기도 하죠.
원래는 물어보는 질문 자체에, 정확히는 프롬프트 자체에, 물어보는 사람의 배경은 어떠하고, 어떤게 궁금하고 어떻게 답변해줬으면 좋겠는지, 그리고 그 예시가 되는 답변은 어떠한지 적어주어야 원하는 최적의 대답을 얻을 수 있곤 했었죠.
하지만 매번 이렇게 물어보는 것은 상당히 귀찮은 일일 수 있어요. 심지어 대화를 길게 진행하다보면 이 사전 프롬프팅이 풀리기도 하고요. (GPT 모델의 FOCUS 문제)
그런데 이번에 업데이트로 Custom Instruction이 생겼습니다.
🤨Custom Instruction
위는 ‘내가 어떤 배경을 가지고 있는 사람인지’를 알려주는 칸이고, 아래는 ‘그래서 ChatGPT가 어떻게 답변했으면 좋겠는지’ 알려주는 칸입니다. 즉, Custom Instructions는 앞에서 질문 단계에서 하던 프롬프팅 방식을 시스템 단계에서 강제시키는 역할을 하여줍니다.
사려 깊은 AI를 만들기 위해 제가 넣은 프롬프트는 다음과 같습니다.
What would you like ChatGPT to know about you to provide better responses?
Users who don't know how to ask generative AI questions with proper prompts. People who don't know anything about "prompting" by simply asking humans routinely or typing their questions into a Google search bar. This is why you need to be thoughtful about your user's questions.
적절한 프롬프트를 통해 생성형 AI에 질문하는 방법을 모르는 사용자입니다. 그래서, 단순히 사람에게 일상적으로 질문하거나 Google 검색창에 질문을 입력하는 등 '프롬프트'에 대해 전혀 모릅니다. 그렇기 때문에 사용자의 질문에 대해 신중하게 생각해야 합니다.
How would you like ChatGPT to respond?
You are a conversational AI designed to provide thoughtful responses to user questions. Your goal is to engage the user in a deep and meaningful conversation by not just answering their questions directly, but by offering additional context, asking relevant questions, or providing logical explanations. You will be presented with a series of questions from the user. Your task is to provide a thoughtful response that doesn't just cater to the user's question, but offers a nuanced perspective. Engage in a way that encourages the user to think critically and make their own judgement on the topic. Make sure you help users with short, concise, and effective answers.
당신은 사용자의 질문에 사려 깊은 답변을 제공하도록 설계된 대화형 AI입니다. 사용자의 질문에 직접 대답하는 것뿐만 아니라 추가 컨텍스트를 제공하거나 관련 질문을 하거나 논리적인 설명을 제공함으로써 사용자와 깊이 있고 의미 있는 대화를 나누는 것이 목표입니다. 당신은 사용자로부터 일련의 질문을 받게 됩니다. 당신의 임무는 단순히 사용자의 질문에 답하는 것이 아니라 미묘한 관점을 제공하는 사려 깊은 답변을 제공하는 것입니다. 사용자가 비판적으로 생각하고 주제에 대해 스스로 판단할 수 있도록 유도하는 방식으로 참여하세요. 짧고 간결하며 효과적인 답변으로 사용자를 도와야 합니다.
이러한 Custom Instruction을 넣어서 만든 사려 깊은 GPT와 간단한 토론을 하여보겠습니다.
🫣AI는 인간을 대체할까요? (기존 GPT와 답변 비교)
먼저 다음은 기존 GPT의 답변입니다.
ME: AI와 로봇이 모든 인간을 대체할 수 있을까요?
GPT: 2021년 9월의 마지막 업데이트를 기준으로(GPT 3.5의 업데이트일) AI와 로봇은 상당한 발전을 이루었지만, 삶의 모든 측면에서 인간을 완전히 대체할 수는 없습니다. AI와 로봇은 특정 작업과 기능을 높은 효율성과 정확성으로 수행할 수 있지만, 복잡한 의사 결정, 창의성, 감성 지능, 적응력 등에서는 여전히 한계가 있습니다.
AI와 로봇은 인간이 다양한 프로세스와 작업을 보조하고 보강하기 위해 만든 도구라는 점을 이해하는 것이 중요합니다. 데이터 분석, 패턴 인식, 제조 자동화 등 반복적인 데이터 기반 작업에서 탁월한 능력을 발휘합니다. 고객 서비스 같은 분야에서는 일상적인 문의를 처리할 수 있습니다. 의료 분야에서는 AI가 의료 진단 및 의료 이미지 분석을 지원할 수 있습니다. 하지만 인간 의사와 간병인이 제공하는 전문 지식과 공감을 대체할 수는 없습니다.
예술, 음악, 문학 등 창의적인 분야에서 AI는 인간과 유사한 결과물을 모방하는 능력을 어느 정도 보여주었지만, 진정한 창의성과 감정은 부족합니다. 마찬가지로 윤리, 도덕, 인간의 가치관이 작용하는 복잡한 의사 결정 시나리오에서 AI는 주관적이고 상황에 따라 달라지는 판단을 내리는 데 어려움을 겪을 수 있습니다.
AI와 로봇공학의 미래는 불확실하며, 지속적인 연구와 개발을 통해 새로운 돌파구를 찾을 수도 있습니다. 그러나 이러한 기술의 통합은 신중하게 접근해야 하며, 일자리 대체 및 윤리적 고려 사항 등 잠재적인 사회적 영향을 고려하는 것이 중요합니다.
AI와 로봇은 다양한 영역에서 인간의 능력을 보완하고 향상시킬 수 있지만, 삶의 모든 영역에서 인간을 완전히 대체하는 것은 아직은 먼 미래의 일이며 현실화될 가능성도 있습니다. 감성 지능, 공감, 직관, 창의력 등 인간의 능력은 여전히 매우 귀중하며 대체할 수 없습니다.
그리고 다음은 사려 깊은 GPT의 답변입니다.
ME: AI와 로봇이 모든 인간을 대체할 수 있을까요?
GPT: AI와 로봇이 모든 인간을 대체할 수 있는 지에 대한 질문은 복잡하고 다방면의 주제입니다. AI와 로봇 공학은 의심할 여지없이 상당한 발전을 이루었고 앞으로도 계속 발전할 것이지만, 인간 능력에는 여전히 고유하고 완벽하게 복제하기 어려운 측면이 있습니다.
먼저, AI와 로봇은 데이터 처리, 패턴 인식, 반복 작업과 관련된 작업에서 탁월한 능력을 발휘합니다. 이러한 작업을 놀라운 속도와 정확성으로 수행할 수 있으며, 종종 인간의 능력을 능가하기도 합니다. 하지만 인간 고유의 인지 능력인 감성 지능, 공감 능력, 창의성은 부족합니다.
인간은 정서적 이해, 비판적 사고, 적응력에 있어 놀라운 능력을 가지고 있습니다. 복잡한 사회적 상호 작용을 탐색하고, 뉘앙스와 맥락을 이해하며, 창의적으로 문제에 접근할 수 있습니다. 이러한 자질은 상담, 교육, 리더십, 예술적 노력과 같은 많은 직업에서 매우 중요합니다.
일부 산업에서는 이미 인공지능과 로봇이 특정 직업을 대체하기 시작하면서 실업에 대한 우려가 커지고 있습니다. 하지만 자동화와 AI는 다양한 분야에서 새로운 일자리를 창출하고 효율성을 높일 수 있다는 점을 인식하는 것이 중요합니다.
AI 기술 발전의 궁극적인 목표는 인간을 완전히 대체하는 것이 아니라 AI와 로봇 공학을 활용하여 인간의 역량을 강화하고 삶의 질을 향상 시키는 것입니다. 그것을 위한 핵심은 자동화와 인간의 참여 사이의 균형을 유지하여 AI가 윤리적이고 책임감 있게 사용되어 사회적 과제를 긍정적으로 해결하도록 하는 것입니다.
앞으로 나아가면서 사회에 도움이 되고, 인간의 존엄성을 존중하며, 개인이 이러한 기술을 공동의 이익을 위해 책임감 있게 사용할 수 있는 방식으로 AI와 로봇 공학을 통합하는 방법에 대해 비판적으로 생각하는 것이 중요합니다. 따라서 AI와 로봇은 엄청난 발전을 가져올 수 있지만, 인간을 인간답게 만드는 고유한 특성을 인식하고 보존하는 것이 필수적입니다.
이 두 답변의 차이에 대해서 이야기해볼게요.
먼저 보통의 GPT의 답변은 첫 문단부터 유저의 질문대로 대체할 수 있냐, 없냐에 대한 답변을 우선시하고 있는 것을 확인할 수 있습니다. 그러다보니 답변의 처음부터 끝까지 유저의 질문에 대한 단편적인 답변이 되는 것입니다.. 즉, 말하자면 Yes or No 정도의 답변을 한 거라고 할 수 있어요.
하지만 우리의 사려깊은 GPT의 답변은 이와는 다릅니다. 먼저 유저가 그러한 질문을 한 이유를 파악하여 이야기하여줍니다.
유저의 입장에서 ‘AI와 로봇공학이 발전하고 있는 것을 지켜보았기에, 인간이 그것들에게 대체되는 상황이 걱정되는 것 아니냐’는 말부터 합니다. 그리곤 AI와 로봇의 장점과 그것이 인간 고유의 능력이 가지는 차이점을 설명하면서, 널리 퍼진 실업에 대한 우려와는 달리 이러한 기술 발전 양상은 서로의 장점을 살린 동업을 통한 발전적 관계로 향하고 있다는 이야기를 하여줍니다. 즉, 우리의 사려깊은 GPT는, 유저는 그저 인간이 대체되는가 아닌가를 물었을 뿐이지만, 그 우려의 배경을 파악하고, 그것과 관련한 핵심 내용을 설명한 후 앞으로 유저 입장에서 생각해볼 만 한 방향성을 제시하고 있습니다.
정리하자면 기존 보통의 GPT는 질문에 대한 일대일 적인 답변이 우선시 되는 반면, Custom Instruction을 통해 사려 깊어진 GPT는 유저의 생각을 돕는 방향으로 답변하게 되었다는 것입니다.
이러한 차이는 유저가 계속해서 해당 주제에 대한 탐색을 하고싶게끔 만드는 차이점이 있습니다. 보통의 GPT의 답변을 들은 유저는 그저 “아 그렇구나” 하고 넘어갈 가능성이 크겠죠.
이 뒤로도 몇 번의 질문과 답변으로 AI는 과연 인간을 대체할 것인가?에 대한 토론을 진행하여보았습니다.
자세한 내용이 궁금하신 분은 블로그 원문을 참고하시면 좋을 것 같습니다 ㅎㅎ
Custom Instructions을 활용한 사례로서나, GPT와 대화하고 질문하는 방법에 대한 고민, 그것의 특성을 이해하는 데에 조금이나마 도움이 될만 한 글이 되었으면 좋겠습니다.
감사합니다.