우버(Uber)가 2026년 8월 27일 공개한 글에서 AI 코딩 에이전트의 기본 값 두 개를 회사 전체 표준으로 걸었다고 밝혔습니다. 대화가 40만 토큰에 닿으면 자동 컴팩션(대화 압축), 추론 강도는 medium이에요. 컨텍스트 창이 100만 토큰인 모델도 예외가 아닙니다. 제 클로드 코드(Claude Code) 로그를 세어보니 자동 압축은 97만 토큰 근처에서만 6번 걸렸고, 전체 31,790턴 중 11,243턴이 40만 위에서 돌았어요.
이 글이 저희 팀 슬랙에 돌았을 때 바로 나온 말이 "기본 추론 세팅은 다 미디엄으로 하겠습니다"였어요. 저는 그 말을 보고 제 세션은 어디쯤에서 돌고 있는지 궁금해져서 로그 폴더를 열었습니다. 우버 글의 숫자와 제 로그 숫자를 나란히 보여드릴게요!
우버의 AI 에이전트 기본값: 컴팩션 40만 토큰, 추론 medium
우버 엔지니어링 블로그의 "Running a Software Factory Efficiently at Uber Scale"에 나온 내용입니다. 우버는 풀 리퀘스트의 70% 이상이 로컬 또는 클라우드 에이전트 몫으로 잡히고, 엔지니어들이 만든 에이전트 스킬이 3,600개를 넘는 회사예요. 하루 3만 번 넘게 스킬이 실행되고요. 그 규모에서 토큰 비용을 잡으려고 하네스(harness) 기본값을 손봤습니다.
- 40만 토큰에서 자동 컴팩션: 100만 토큰 모델이라도 40만에 닿으면 대화 이력을 압축합니다. 모델 성능과 반복 입력 토큰 비용, 캐시 부담 사이의 균형점이 그 언저리라는 판단이에요
- 추론 강도 기본 medium: 내부 추론을 포함한 출력 토큰이 입력의 몇 배 요율이라 제일 비싼 카테고리거든요. 큰 범주의 작업에서는 medium이 비용 대 품질 균형이 맞는다고 봤습니다
결과로 적힌 숫자는 요청 1,000건당 비용 34% 감소, 세션당 비용은 최고점 대비 52% 감소입니다. 2월부터 8월까지 주간 활성 사용자 가 7배, 에이전트 요청은 9.4배 늘었는데도요.
우버 엔지니어링 블로그의 해당 구간. 400K context cap과 Medium reasoning effort by default라는 소제목 아래, 100만 토큰 모델도 40만에서 컴팩션을 걸고 추론 강도를 medium으로 두는 이유가 적혀 있다
같이 바꾼 게 두 개 더 있습니다. 대화형 세션의 프롬프트 캐시 유지 시간을 5분에서 1시간으로 늘렸고(쓰기 가격은 1.25배에서 2배로 오르지만 읽기는 0.1배), 서브에이전트는 5분으로 뒀어요. 그리고 MCP 도구 1,000개 넘는 스키마를 전부 미리 올리던 걸 없앴습니다. 그것만 매 요청 5만에서 7만 토큰이었다고 해요.
지피터스에서 마케팅을 하는 강지인입니다. 매일 클로드 코드로 일하고, 아래 세션 수치는 제 맥의 로그에서 직접 센 값이에요.
클로드 코드 자동 컴팩션은 97만 토큰에서 걸렸어요
클로드 코드는 턴마다 입력 토큰과 캐시 읽기, 캐시 쓰기를 세션 로그에 남깁니다. 홈 폴더 아래 .claude/projects 안의 jsonl 파일이에요. 2026년 9월 14일에 제 맥에 있는 215개 세션 파일을 전부 읽어서, 어시스턴트가 답한 턴마다 그때 들어간 컨텍스트 크기를 셌습니다.
- 전체 턴: 31,790턴
- 20만 미만: 11,432턴
- 20만에서 40만: 9,126턴
- 40만에서 60만: 5,350턴
- 60만 이상: 5,893턴
40만 위에서 돈 턴이 11,243턴, 35%입니다. 60만을 넘긴 턴만 5,893턴이고, 제일 큰 턴은 999,934토큰이었어요. 창이 꽉 찬 상태였다는 거죠.
압축은 어땠을까요. 자동 컴팩션은 6번뿐이었고 전부 967,176에서 1,000,794토큰 사이에서 걸렸습니다. 클로드 코드는 창이 거의 찼을 때 자동으로 압축하니까요. 제가 /compact를 직접 누른 건 36번인데 중앙값이 315,349토큰이었습니다. 그중 15번은 이미 40만을 넘긴 뒤였고요.
모델별로 보면 Opus 5 턴이 23,489턴으로 제일 많았고 그중 8,894턴이 40만 위였습니다. 우버 기준으로 치면 이 턴들은 전부 압축된 뒤에 돌았어야 해요.
클로드 코드 토큰이 40만을 넘으면 나가는 비용
매 턴 대화 전체가 다시 들어갑니다. 캐시가 잡혀 있으면 싼 캐시 읽기로 계산되지만, 0이 아니에요. 페이블 5.1 단가로 예를 들면 캐시 읽기가 100만 토큰당 0.25달러라 60만 토큰짜리 턴 하나가 0.15달러, 40만이면 0.10달러입니다. 차이 0.05달러를 제 60만 이상 턴 5,893번에 곱하면 295달러쯤이에요. 모델마다 단가가 달라서 감만 잡는 셈이고요.
Max 요금제로 쓰시면 이게 달러가 아니라 5시간 한도로 깎입니다. 큰 세션에서 한도가 빨리 닳는 이유예요.
비용보다 큰 게 하나 더 있습니다. 대화 중간에 모델을 바꾸면 그때까지의 대화가 전부 새 모델의 캐시 쓰기로 들어가요. 제 세션에서는 한 턴에 270,402토큰이 나갔습니다. 40만에서 압축해두면 이 폭탄도 그만큼 작아져요. 자세한 건 모델 바꾸면 대화 전체가 다시 들어간다는 글에 적어뒀습니다.
우버가 "모델 성능"을 첫 이유로 든 것도 같이 봐야 해요. 긴 대화를 다 들고 있는 게 답의 질을 올려주지 않는다는 판단이거든요. 비용 얘기로만 읽으면 절반만 읽은 겁니다.
클로드 코드 추론 강도(effort)는 medium이 기본
저희 팀도 이 글을 보고 기본 추론 세팅을 medium으로 맞추기로 했습니다. 페이블 5.1이나 Opus 5에서는 추론 강도를 대화 중에 바꿔도 캐시가 안 깨져서, 기본은 medium으로 두고 어려운 설계나 디버깅 턴에만 high로 올리는 게 편해요.
우버 표현이 정확합니다. 출력 토큰은 입력의 몇 배 요율이고, 추론 토큰은 출력이에요. 페이블 5.1 기준 입력 10달러, 출력 50달러니까 5배입니다. 추론을 길게 시키면 그 5배 칸이 늘어나는 거죠.
클로드 코드 토큰 절약 규칙 5가지
- 컨텍스트 40만이 보이면 /compact: 클로드 코드 설정에서 자동 압축 임계값을 고르는 항목은 못 찾았습니다. 그래서 수동으로 누릅니다. 상태줄에 컨텍스트 사용량을 띄워두면 놓치지 않아요
- 긴 작업은 세션을 쪼개기: 40만을 넘길 것 같으면 새 세션을 열고 필요한 맥락만 넘깁니다
- 가벼운 후속은 서브에이전트에: 메인 대화에 쌓지 않아요
- 추론은 medium, 필요할 때만 high: 세션 시작할 때 정하고 갑니다
- 스킬 설명 다이어트: 안 쓰는 스킬도 이름과 설명은 매 턴 들어가요. 제 계정에서는 163개 스킬의 설명만 43,856자였습니다. 우버가 MCP 스키마 5만에서 7만 토큰을 걷어낸 것과 같은 얘기예요
이런 실측을 매주 하나씩 하는 자리가 지피터스 AI 스터디입니다. 24기는 9월 21일까지 신청받고, 클로드 코드 주제가 입문부터 고급까지 여러 개 열려 있어요.
자주 묻는 질문
컴팩션이 뭔가요
지금까지의 대화를 요약해서 짧게 줄이는 겁니다. 요약 뒤로는 그 요약과 새 대화만 들어가니까 매 턴 입력이 확 줄어요. 클로드 코드에서는 /compact로 직접 하거나, 창이 거의 찼을 때 자동으로 돌아갑니다.
내 세션이 지금 몇 토큰인지 어디서 보나요
/context를 치면 현재 컨텍스트 구성이 나옵니다. 로그로 세려면 홈 폴더 아래 .claude/projects 안의 jsonl 파일에서 usage 항목을 보면 돼요.
medium으로 두면 답이 나빠지나요
우버는 큰 범주의 작업에서 비용 대 품질 균형이 medium이라고 봤습니다. 어려운 문제만 high로 올리면 돼요. 페이블 5.1과 Opus 5에서는 바꿔도 캐시가 안 깨집니다.
100만 토큰 창인데 왜 40만에서 자르나요
창이 크다고 다 채우는 게 이득이 아니라서요. 우버는 모델 성능, 반복 입력 비용, 캐시 부담 셋의 균형점을 40만으로 잡았습니다. 제 로그에서는 자동 압축이 97만 근처에서만 걸렸으니, 그 사이 구간은 제가 직접 관리해야 하는 영역이에요.
인사이트
창이 100만이면 100만을 쓰게 됩니다. 기본값이 그렇게 돼 있으니까요. 우버가 한 일은 좋은 모델을 고른 게 아니라 기본값을 회사 단위로 바꾼 거예요.
제 로그의 35%가 40만 위에 있었다는 건, 기본값이 저를 그쪽으로 데려갔다는 뜻입니다. 그래서 이번 주는 상태줄에 컨텍스트를 띄우고 40만에서 손으로 자릅니다. 한 달 뒤 같은 방법으로 다시 세서 얼마나 달라졌는지 알려드릴게요!
확인일: 2026년 9월 14일. 우버 수치는 2026년 8월 27일 우버 엔지니어링 블로그 글 기준입니다. 세션 수치는 제 맥의 클로드 코드 세션 로그 215개 파일에서 어시스턴트 턴의 입력, 캐시 읽기, 캐시 쓰기 토큰을 합쳐 센 값이고 환경마다 달라요. 단가는 앤트로픽 API 공개 가격입니다.