"그 많던 토큰은 누가 먹었나"
'클로드 코드(Claude Code)'를 프로젝트에 활용하고 있었습니다. 그런데 최근 API 토큰이 순식간에 증발하는 경험을 했고, 그 원인이 켜둔 창의 '이전 컨텍스트'에 있다는 것을 알게 되어 이 시행착오를 공유합니다.
진행 방법
- 사용한 도구: 클로드 코드(Claude Code) CLI
- 상황: 터미널에서 클로드 코드를 띄워두고 한참 작업을 하며 대화를 나눴습니다. 그러다 토큰이 떨어져서 작동이 멈췄고, 저는 멈춘 단계에서 다시 시작하고 싶어 굳이 창을 끄지 않고 그대로 노트북을 덮었습니다.
한계에 도달했다는 단어가 적힌 검정색 배경
부장님 저 먼저 퇴근해보겠습니다
결과와 배운 점
가장 뼈아픈 시행착오는 노트북을 다시 켰을 때 발생했습니다. 나중에 노트북을 열고, 어제 하던 작업에 이어서 짧은 질문을 하나 툭 던졌습니다.
문제는 CLI 세션이 종료되지 않고 켜져 있었기 때문에, 이전에 나누었던 엄청난 양의 대화 텍스트가 컨텍스트에 그대로 남아있었다는 점입니다. 저는 아주 짧은 질문 하나를 던졌을 뿐인데, 챗봇은 맥락을 유지하기 위해 어제의 그 긴 대화 내역을 처음부터 끝까지 통째로 다시 읽고 작업을 진행했고, 이로 인해 어마어마한 토큰이 한순간에 소비되어 버렸습니다.
나만의 꿀팁 & 해결책
- 세션 초기화 습관: 클로드 코드 같은 CLI AI 도구를 사용할 때, 이전 작업의 상세한 맥락이 더 이상 필요 없다면 반드시 대화 내역을 초기화(예: /clear 또는 /exit 명령어 등) 하거나 터미널을 새로 열어야 합니다.
- 프로젝트의 저장 습관화: 각 단계 끝날 때마다 상태 파일을 갱신하고, 중간에 죽어도 마지막 커밋이 재개 지점이 되게 스킬을 세팅합니다.
- 이어하기의 숨겨진 비용: 노트북을 덮었다 켜서 바로 이어가면 편하긴 하지만, Enter를 칠 때마다 이전 대화 전체가 매번 다시 전송되며 과금된다는 사실을 꼭 기억해야 합니다. 작업을 마칠 때는 컨텍스트를 비우고 닫는 것이 좋습니다.
