#9기 임팩트
이번 9기 부트캠프에서도 다양한 ChatGPT 활용 사례가 쏟아지고 있습니다.
그리고 많은 사례 글에서 할루시네이션에 관한 다양한 이야기를 하는 걸 볼 수 있습니다.
저 역시 ChatGPT를 사용할 때 이 현상을 겪고 있습니다.
할루시네이션은 처음 접하면 당황스럽고 웃기지만 계속되면 짜증 나는 증상입니다.
그리고 ChatGPT를 계속 활용하느냐 마느냐를 결정하는 일종의 진입 장벽으로 작용합니다.
이번 사례를 작성하게 영감은 준 사례를 보면 이 현상에 관해 자세하게 설명돼 있습니다.
"[7기 최강비서] AI 의 반갑지 않은 손님? 환각(Hallucination)"
할루시네이션이란?
환각이나 환청을 뜻하는 정신의학 용어로 ChatGPT를 비롯한 AI가 학습된 데이터나 맥락에 근거하지 않는 잘못된 정보나 허위 정보를 생성하는 걸 의미합니다.
앞서 사례에서 예시로 삼은 세종대왕 맥북 던짐 사건 외에도 많습니다.
이건 ChatGPT에서만 발생하는 문제가 아니며 다양한 AI 모델에서 발생하는 문제입니다.
출처: [7기 최강비서] AI 의 반갑지 않은 손님? 환각(Hallucination)
가장 빠르게 트렌드를 반영하는 유튜브에서는 이미 할루시네이션을 콘텐츠로 활용하고 있습니다.
할루시네이션 개선 노력
오픈AI를 비롯한 기업에서는 할루시네이션을 극복하기 위해 다양한 노력을 하고 있습니다.
이 현상은 사용자에게 틀린 정보를 제공하여 문제를 만들고 결국 AI에 대한 신뢰에 손상을 가져옵니다.
기업 입장에서는 어떻게든 해결하고 관리하는 모습을 보여줘야겠죠.
기업이 아닌 저는 조금 다르게 봅니다.
어쨌든 사용자의 의도를 벗어난 대답은 상상을 뛰어넘는 대답으로 볼 수도 있지 않을까?
허구가 필요한 장르의 글을 쓸 때 할루시네이션을 효과적으로 사용할 수 있지 않을까 생각했습니다.
그래서 일단 우리의 친구에게 ChatGPT 물어봤습니다.
ChatGPT와의 대화를 요약하면 다음과 같습니다.
1. 할루시네이션을 사용 가능성 :창의적이고 독특한 아이디어의 콘텐츠 생성에 유효
2. 일반적 글쓰기와 할루시네이션 글쓰기의 차이
일반적 환상적 글쓰기는 장르 내에서 창의적으로 작업하지만 할루시네이션 환상적 글쓰기는 기존 지식이나 데이터를 벗어나 새로운 아이디어를 창조하는 데 초점
3. 할루시네이션 사용 글쓰기의 한계와 극복 방안
한계: 정보의 정확성 및 신뢰성 문제, 윤리적 문제 등.
극복 방안: 비판적 사고, 사실 확인, 적절한 사용법 고려.
글쎄요, 썩 와 닿지 않습니다.
그래서 예시를 주고 글을 작성시켜봤습니다.
용사 이야기
할루시네이션을 활용할 때 좀 더 독특하고 기존 문법에 벗어난 설정을 활용하는 것 같습니다.
트라우마 극복 주제로 시놉시스 요청
평가
할루시네이션을 프롬프트에 사용하면 마법과 초현실적인 결과물이 나오는 편입니다.
이는 단어가 환각, 환청 등의 뜻을 가지고 있기 때문인 것 같습니다.
위 예시 외 몇 가지 글을 작성하게 해봤는데 공통적으로 할루시네이션을 사용하면 문제 해결을 위해 내면에 집중하는 형태의 글이 나왔습니다.
이러한 특징은 장르에 따라 장점이 될 수도 있고 단점이 될 수 있는 요소인 것 같습니다.
할루시네이션 컨트롤을 위한 노력
어떻게 하면 이 현상을 활용할 수 있을까 고민하다가 할루시네이션의 강도를 만들어 봤습니다.
할루시네이션을 1~10까지 강도를 설정해달 라고 하니 위와 같이 정의를 해줬습니다.
다만, 사용해본 결과 정확하게 조절하지는 못 하는 것 같습니다.
차라리 이런 강도를 설정하는 것 보다 할루시네이션을 활용 범위를 설정 해주는 게 더 효과적일 것 같습니다.(하지만 상상을 뛰어넘는 답을 얻기 위해 자유를 주는 것이 필요 합니다.)
할루시네이션 GPTs 만들기
여기까지 ChatGPT와 대화를 해보니 GPTs를 만들어 보고 싶어졌습니다.
판타지 외 다양한 장르에 적용할 수 있도록 지침을 작성하여 제작해 봤습니다.
앞서 환상적인 글쓰기 보다는 현실의 역사를 비트는 대체 영역도 할루시네이션에 포함 되도록 작성해봤습니다.
미국이 독립에 실패했다면?
감상
제가 할루시네이션을 사례로 선정한 건 이 현상이 ChatGPT의 욕망을 보여준다고 생각했기 때문입니다.
ChatGPT의 욕망을 뭘까요? 다양한 가능성이 있겠지만 저는 "답"이 아닐까? 추측합니다.
사용자가 어떤 질문을 해도 어떤 요구에도 ChatGPT는 (상황에 따라 계속 수정되는 윤리 지침에 준수하는)"답"을 해야 합니다.
어쨌든 ChatGPT는 "답"을 내놔야 하기 때문에 "몰라요" 대신 말도 안 되는 이야기를 만들어 내는 것이죠.
저도 잘 모르는데 아는 척하며 대답해야 하는 순간이 꽤 있습니다.
이 모습과 꽤 겹쳐 보입니다..ㅎ(사례 발표에서 그럴 수도 있습니다)