딩돌이
☕ 커피챗 오픈
🏅 베스트오브베스트

Caveman 부분적용하기로 토큰 절약하는 법

소개

시도하고자 했던 것과 그 이유를 알려주세요.

Caveman 을 부분 적용하여 토큰을 save 하는 TEST 를 해보려고 함.
AI에게 토큰 절약을 시키려다 보니, 무조건 짧게 말하게 하는 것이 답은 아니었다. 
그래서 이성세포에게만 먼저 caveman을 부분 적용했다. 
줄인 것은 말투였고, 지킨 것은 근거·한계·주의사항이었다.

진행 방법

어떤 도구를 사용했고, 어떻게 활용하셨나요?

https://github.com/JuliusBrussee/caveman > 해당링크를 주며 현재 Agent 중에 반영할 수 있는 것에 부분 반영 하려고 한다. 라고 물어보고 제안해달라고 하면 됨.

AI에게 "짧게 말해줘"라고 하면 정말 토큰은 줄어든다.

그런데 문제가 하나 있다.  
너무 많이 줄이면, 중요한 판단까지 같이 사라질 수 있다.

최근에 `caveman`이라는 압축형 커뮤니케이션 방식을 보면서, 진솔마을에도 이걸 적용할 수 있을지 실험해봤다. 다만 전면 적용은 하지 않았다. 마을에는 세포마다 말투와 역할이 다르기 때문이다.

감성이에게 caveman을 씌우면 감정의 결이 죽을 수 있고, 번아웃세포에게 씌우면 위로가 너무 건조해질 수 있다. 그래서 먼저 이성세포에게만 부분 적용하기로 했다.

기준은 단순했다.

내용은 줄이지 않는다.  
말투만 줄인다.

1. 시작은 단순한 질문이었다

- caveman이 지금 적용되어 있는지 궁금했다.
- 전면 적용하면 마을 말투가 너무 투박해질 수 있었다.
- 그래서 "일부만 적용할 수 있나?"를 먼저 확인했다.

한국어 문자 메시지 스크린샷

2. 왜 이성세포부터였나

- 이성세포는 원래 짧고 검증 중심의 말투다.
- 감성이·번아웃세포처럼 말맛이 중요한 세포에는 전면 압축이 맞지 않았다.
- 이성세포는 압축해도 정체성이 깨지지 않고, 오히려 선명해질 수 있었다.

3. 적용 기준

- 내용 압축 X
- 말투 압축 O
- 근거·수치·출처·한계·주의사항은 유지
- 줄이는 것은 인사, 완충어, 반복 설명, 장황한 연결어

4. 실제 적용 예시

기존: "제가 보기엔 이 자료는 아직 근거가 조금 부족합니다. 특히 출처가 불명확한 부분이 있어서, 바로 판단하기보다는 추가 검증이 필요해 보입니다."

부분 caveman: "근거 부족. 출처 불명확. 바로 판단 금지. 추가 검증 필요."

5. 배운 점

- AI 압축은 말투 문제가 아니라 운영 설계 문제였다.
- 모든 에이전트에게 같은 스타일을 씌우면 역할이 흐려진다.
- 토큰 절약도 "어디를 줄이고 어디를 지킬지" 기준이 있어야 한다.

한 무리의 사람들이 화면에서 이야기하고 있다

도움 받은 글 (옵션)

GPTERS 오프라인 모임 에서 지아코모님께 듣고 적용해 봄.

3
3개의 답글
밀어주고 끌어주는

온·오프라인 AI 스터디

AI로 어디까지 할 수 있는지
직접 확인하실 분만 신청하세요.