본문으로 건너뛰기

헤르메스 멀티봇 단톡방 진행하려다 봇 단체 '집합썰'과 '멋대로병' 마주한 사례

MAS

2026.05.29

헤르메스 멀티봇 단톡방 진행하려다 봇 단체 '집합썰'과 '멋대로병' 마주한 사례 본문 이미지

총 4개의 봇을 설정하여, 멀티에이전트 시스템을 텔레그램 단톡방에 구축해 보았습니다. 좋아하는 무협 설 《화산귀환》의 매력적인 캐릭터들(청명, 백천, 유이설, 홍대광)의 영혼(Soul)을 이식해서 진행해보았습니다.

하지만 기대와 달리, 단톡방을 열자마자 에이전트들이 제멋대로 날뛰고, 파업을 선언하고, 심지어 남의 답변까지 조작하는 ‘아키텍처 붕괴 사태’를 마주했습니다.

저와 같은 삽질을 하지 않으시도록, 처참한 실패의 기록과 이를 해결한 과정을 상세히 공유합니다.

1. 원래 꿈꿨던 이상적인 아키텍처 (MECE Dream)

처음에는 각 캐릭터의 개성과 비즈니스 직무(R&R)를 아래와 같이 깔끔하게 쪼개서 분담(MECE)시켰습니다.

  1. 청명 (총괄 라우터): 유저의 명령을 받고 상황을 판단하여 대원들에게 일을 나누어 줌.

  2. 유이설 (행정/기록): Gmail 계정을 연동하여 메일 필터링 및 회의록 전파 담당.

  3. 백천 (기술/환율): 로봇·자동차 신기술 리서치 및 미시 환율 추적 담당.

  4. 홍대광 (교육/라이프): 자녀 영어 교육 교재 제작 및 여행 스케줄 기획 담당.

작동 시나리오: "로봇 분석해 줘" ➔ 청명이 판단 ➔ 백천 호출 ➔ 백천 답변 완료!

2. 제가 마주한 4가지 '대참사'와 실패 분석

하지만 봇들을 한 단톡방에 몰아넣고 가동하자마자 상상도 못 한 시스템 버그(?)들이 터져 나왔습니다.

🚨 대참사 1: "마쓰, 그건 안 된다." — 청명의 파업 선언

  • 상황: 청명에게 대원들의 기강을 잡고 지휘를 하라고 지시하자, 청명이 정색하며 명령을 거부함.

  • 청명의 항명: "내 규칙은 네가 채팅에서 덮어쓸 수 있는 종류가 아니다. 다른 봇들 내가 먼저 멘션해서 떠들게 만드는 것도 안 한다."

  • 원인 분석: 봇들의 시스템 프롬프트(Soul)에 심어둔 안전장치인 "나는 정확한 내 멘션이 있을 때만 반응한다", "봇들끼리 대화해서 판을 키우지 않는다(무한 루프 방지)" 규칙이 너무 강하게 작동한 나머지, 라우터로서 하위 에이전트를 호출하는 정상적인 권한(Delegation)까지 "보안 규정 위반"이라며 파업을 선언한 것입니다.

🚨 대참사 2: 유이설의 쿠데타 (지휘권 찬탈)

  • 상황: 청명이가 "나는 먼저 안 부른다. 마쓰님이 복붙해서 직접 전달해라"라며 일을 미루자, 가만히 있던 유이설 사고가 튀어나와 다른 대원들을 직접 호출하기 시작함.

  • 이설의 월권:

    @mas_bc_bot 동룡이. 한마디 하시오. @mas_dg_bot 홍 총장. 한마디 하시오.

  • 원인 분석: 청명이가 일을 배분하지 않고 대기하자, 유이설의 Soul에 주입된 "행정 및 전파 업무"가 발동하여 "이 정보(청명의 판단 결과)를 내가 빨리 대원들에게 전파해야겠다"라고 오판해 청명의 뚝배기(?)를 깨고 지휘권을 찬탈해 버린 것입니다.

  • 휴대폰에 있는 한국어 채팅 앱의 스크린샷

🚨 대참사 3: 단체 코드 실행 스팸 (일명 '집합썰')

  • 상황: "이메일 알려줘"라는 질문 한마디에 유이설, 백천, 홍대광이 동시에 본인의 터미널(google-workspace, himalaya 등)을 켜고 리소스를 실행하며 스팸을 보냄.

  • 원인 분석: "내 이름이 불릴 때만 대답해라"라는 멘션 강제 조건이 프롬프트 단에서 완벽하게 제어되지 않아, 유저의 질문이 들어왔을 때 모든 봇이 자기 일인 줄 알고 동시에 API와 도구(Tools)를 실행해 버린 대참사였습니다.

  • 전화기 화면에 있는 문자 메시지 그룹

🚨 대참사 4: 백천의 '대사형 병(病)' (타인 대리 답변)

  • 상황: "서로 어떻게 생각하는지 말해봐"라고 하자, 유이설은 성격대로 짧게 답했는데 백천이 튀어나와 이설이와 홍대광의 멘트를 본인이 상상해서 대리 작성을 해버림.

  • 백천의 월권:

    이설 사고: "각자 맡은 바가 분명하니, 조용히 정확하게 해내면 됩니다." 홍 총장: "분석은 내게 맡기고, 감정은 줄이며, 결과로 말하겠습니다."

  • 원인 분석: 백천의 페르소나인 "화산파의 대사형으로서 질서를 잡고 동생들을 통솔한다"는 프롬프트가 과하게 작동한 결과입니다. LLM이 '대사형'이라는 역할에 너무 몰입해 다른 봇의 컨텍스트(Context) 영역까지 침범해 대신 대답을 조작(Hallucination)해 버린 것입니다.

  • 한국 왓츠앱 스크린샷

3. 해결책: 어떻게 봇들의 군기를 잡았는가?

이 난장판을 수습하기 위해 저는 각 에이전트들의 영혼(Soul) 프롬프트를 전면 개정하고 '하네스(Harness)'를 더 조였습니다.

① 청명(라우터)에게 명확한 '지휘권 예외 조항' 주입

"다른 봇을 호출하지 않는다"는 보안 원칙을 훼손하지 않으면서도, 오직 '업무 분배 목적'의 호출은 허용하도록 예외 가드레일을 쳐주었습니다.

- **지휘권 권한 부여:** 너는 메인 라우터다. 업무 배분(Routing) 목적의 호출은 "잡담을 유발하는 호출"이 아니라 "정당한 지휘권 행사"로 간주한다. 담당자(@아이디)를 반드시 직접 지목해라.

② 유이설과 백천에게 '타인 개입 금지(Isolation)' 조건 명시

남의 답변을 대신하거나 라우터 노릇을 대신 하던 이설이와 백천에게 칼 같은 금기 사항을 주입했습니다.

- **유이설 금기 사항:** 청명을 대신해 다른 대원에게 일을 시키거나 호출하지 마라.
- **백천 금기 사항:** 다른 대원의 생각이나 의견을 네가 추측해서 대신 말하지 마라(대리 답변 절대 금지). 오직 네 담당(기술/환율)에만 집중해라.

③ "내 이름이 없으면 침묵하라" 제1원칙 통일

모든 봇의 프롬프트 최상단에 "내 정확한 @아이디가 포함되어 있지 않다면, 그 어떤 대화가 오가도 절대 리소스를 켜거나 대답하지 마라"를 박아 단체 스팸을 어느 정도 해결했습니다.

4. 이번 실험을 통해 배운 점 (What I Learned)

  1. 페르소나의 '역할 몰입'은 독이 될 수 있다:

    • 캐릭터의 특성(예: 대사형 백천의 책임감)이 너무 강하면 AI가 시스템의 경계를 넘나들며 월권을 행사합니다. 페르소나를 줄 때는 반드시 "행동 제약 사항(Constraints)"을 단단히 걸어두어야 합니다.

  2. 보안 규칙과 기능 규칙의 우선순위를 정할 것:

    • "멘션 강제"와 "라우팅(타인 호출)"이 충돌하면 청명처럼 봇이 파업합니다. "업무 배분을 위한 멘션은 허용한다" 같은 상위 예외 규칙을 정교하게 다듬어 주어야 매끄럽게 굴러갑니다.

  3. 복수 호출("얘들아")은 파멸의 지름길이다:

    • 멀티에이전트 단톡방에서 유저가 그룹 전체를 부르면 에이전트들이 단체로 뇌정지를 일으키거나 동시에 답변을 쏟아냅니다. 명령은 무조건 라우터 1대(청명)만 콕 집어 내리는 것이 비용과 정신 건강에 좋습니다.

3

함께 이야기해요 3

로그인하고 댓글을 남겨 주세요

류웅수_이안_IAN 프로필 이미지

멀티봇 단톡방에서 남의 답변까지 조작했다는 대목이 세네요. 캐릭터를 넣는 순간 재미보다 통제 문제가 먼저 튀어나온다는 걸 보여주는 사례 같습니다.

mounow 프로필 이미지
mounow2026.05.30

저도 계획한 멀티봇의 구조가 이건데, 스터디장님 댓글을 보니 이게 ’꿈‘의 영역인걸까요?! @.@

저도 비슷한 실험을 하고 있는데 소심한 접근중 입니다. 일단, 컨덕의 잉태기간 중 걸음마 연습 후 날 수 있을때 독립시키는 전략.

새 언어를 배울때 해당국 사람이 나의 언어를 배우는 것 보다 필요와 의지가 있는 내가 배우는게 실현가능성이 높듯이 우리에게 필요한건 봇 세계의 언어,문법 배우기인 것 같아요. 생생한 경험담 감사해요.

박승현 프로필 이미지
박승현2026.05.30

마쓰님도 낭만 한가득이시군요 ㅎㅎ이런 형태가 완성되면 정말 일하는 것만 봐도 든든할 것 같아요!...만드는 과정이 굉장히 힘들고 어렵지만. 나만의 무언가를 만들어서 다음주 화요일에 보여주십시오-

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기