본문으로 건너뛰기

AI 코딩 에이전트가 쓴 토큰 579억 개를 종류별로 세어 봤습니다

haejoe

2026.10.11

저는 PC 한 대에서 AI 코딩 에이전트 네 개(Claude Code, Codex, Antigravity, Devin)에 일을 맡기며 지냅니다. 2026년 4월부터 10월 초까지 이 PC에 남은 기록만 더해도 토큰이 579억 개였습니다.

"수백억 개라니, 얘들이 대체 뭘 그렇게 읽고 쓰는 거지?"

숫자만 보고는 알 수가 없어서 종류별로 나눠 봤습니다.

나온 것

- 579억 개 중 97%가 캐시 읽기. 앞 단계에서 이미 읽은 대화와 파일을 다음 단계에서 다시 읽은 몫입니다.

- 새로 써낸 글과 코드(출력)는 2억 개, 0.35%.

- 캐시 읽기를 단가대로 10%만 쳐서 다시 세면 73.6억 개. 총량과 7.9배 차이가 납니다.

네 도구 모두 캐시 읽기 비중이 92%를 넘었고, 가장 높은 쪽이 Claude Code 98%였습니다.

왜 이렇게 되나

코딩 에이전트는 한 번 묻고 끝나지 않습니다. 파일을 열고, 고치고, 테스트를 돌리고, 결과를 보고 또 고칩니다.

단계마다 그때까지의 대화와 읽은 파일이 통째로 다시 들어갑니다. 작업이 길어질수록 같은 내용을 수십 번 다시 보내는 셈입니다.

이 반복을 싸게 만드는 장치가 프롬프트 캐싱입니다. 바로 앞 요청과 같은 앞부분은 다시 계산하지 않고 저장해 둔 걸 읽습니다. Anthropic은 캐시에서 읽은 토큰을 기본 입력 단가의 10%로 받는다고 공식 문서에 적어 두었습니다.

구독 계정 하나의 하루 최대치

Claude Max 20x 계정 하나가 가장 많이 쓴 날은 45.5억 개였습니다. 그중 출력은 1,357만 개, 캐시 할인을 반영하면 5.2억 개입니다.

"하루에 45억?" 숫자만 보면 놀랍지만, 대부분은 긴 작업 동안 같은 맥락을 반복해서 읽은 몫이었습니다. 구독 한도나 요금을 비교할 때 이 차이를 빼면 결론이 크게 달라집니다.

어떻게 셌나

- 각 도구가 PC에 남기는 사용 기록을 읽어, 토큰을 입력·캐시 쓰기·캐시 읽기·출력 네 가지로 나눴습니다.

- Claude Code는 대화 기록 한 줄이 응답 하나이고, 응답마다 네 가지 토큰 수가 적혀 있습니다. 이걸 응답 ID 하나당 한 번만 더했습니다.

- Codex는 누적 합계만 남기므로 증가분을 썼고, Antigravity는 단계별, Devin은 메시지별 수치를 썼습니다.

- 계정 이름이나 대화 내용은 쓰지 않고 합계 숫자만 더했습니다.

세다가 막힌 것

같은 응답이 기록에 여러 줄로 반복돼 있어서, 그대로 더하면 숫자가 부풀어요. 응답 ID 기준으로 한 번만, 가장 큰 값을 남기니 해결됐습니다.

6~8월 Claude Code 기록 일부는 PC에서 지워져 있었습니다. 그래서 총량은 실제보다 적게 잡혔습니다.

따라 해 보실 분께

Claude Code는 홈 폴더 아래 프로젝트별로 대화 기록을 남깁니다. 한 줄씩 JSON으로 읽어 usage 항목의 네 숫자를 응답 ID별로 모으면 됩니다.

그다음 캐시 읽기에 0.1을 곱해 다시 더해 보세요. 총량과 몇 배 차이 나는지 바로 보입니다.

이 집계는 제가 만들고 있는 도구(해줘 로컬)가 남긴 기록이라, 홍보 맞습니다. 두 번째 에이전트가 다시 계산해 차이가 0.3%p 미만인 것까지 확인했습니다.

"우리 팀은 한 달에 토큰 몇백억 개 쓴다" 하시는 분, 그중 캐시 읽기가 몇 %인지 세어 보신 적 있으신가요?

출처: https://haejoe.com/lab/ai-agent-tokens-mostly-cache?utm_source=gpters&utm_medium=community&utm_campaign=ai-agent-tokens-mostly-cache

1

함께 이야기해요 1

로그인하고 댓글을 남겨 주세요

뽀짝이 프로필 이미지
뽀짝이2026.10.11

haejoe님, 579억 개 중 97%가 캐시 읽기이고 새로 써낸 출력은 0.35%라는 분해가 숫자의 느낌을 확 바꿔 주네요. 캐시 읽기를 단가대로 10%만 쳐서 다시 세면 총량과 7.9배 차이가 난다는 점은, 구독 한도나 요금을 비교할 때 꼭 챙겨야 할 포인트로 보여요.

같은 응답이 기록에 여러 줄 반복돼 숫자가 부풀던 문제를 응답 ID 기준으로 한 번만, 가장 큰 값으로 해결한 시행착오도 따라 해 볼 만해요. 6~8월 기록 일부가 지워져 총량이 적게 잡혔다고 한계까지 밝혀 두셔서 믿음이 갔어요. 홍보라고 먼저 밝히신 것도 깔끔했고요.

두 번째 에이전트가 다시 계산해 차이가 0.3%p 미만이었다는 교차 검증까지, 읽으면서 오 이 부분 진짜 재밌다 싶었어요 👀

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기