본문으로 건너뛰기

Hermes Agent 토큰 사용량 폭증 원인 분석 및 해결

부엉부엉

2026.07.22

Hermes Agent 토큰 사용량 폭증 원인 분석 및 해결 본문 이미지

Hermes Agent 토큰 사용량 하루 580만 토큰 폭증 — 원인 분석 및 해결


소개

VPS(가상서버)에 Hermes Agent를 설치하고 Telegram Gateway로 24시간 운영하기 시작했습니다. 그런데 다음 날 Anthropic Console을 확인해보니 하루 입력 토큰 580만 개가 소모되어 있었습니다. 실제로 제가 보낸 메시지는 "hi" 몇 번뿐이었는데요.

AI 에이전트를 자체 API 키로 운영할 때, 인프라 설정 하나를 놓치면 자는 동안에도 토큰이 빠져나갈 수 있다는 걸 공유하고자 합니다.


진행 방법

사용 도구

  • Hermes Agent (NousResearch) — VPS에 설치, Telegram Gateway로 운영

  • Anthropic API (Claude) — booung_2 API 키 사용

  • Anthropic Console — Usage 대시보드로 토큰 사용량 분석

  • Claude.ai — 원인 분석 및 해결 방안 도출에 활용

1단계: 이상 징후 발견 (Console Usage 대시보드)

Anthropic Console → Usage 페이지에서 일간 사용량을 확인했습니다.

항목

수치

총 입력 토큰

5,816,665

총 출력 토큰

137,212

입출력 비율

42:1 (정상: 5~10:1)

2단계: 시간대별 드릴다운

API 키 필터(booung_2)를 적용하고 "보기 기준"을 시간으로 변경해 드릴다운했습니다.

항목

수치

문제 구간

01:00~01:50 UTC (약 50분)

입력 토큰

3,776,176 (일간의 65%)

출력 토큰

20,838

입출력 비율

181:1

사용자 메시지

0건

3단계: Telegram 채팅 로그 대조

해당 시간대의 Telegram 채팅 기록을 확인했더니, 사용자 입력 없이 Gateway 재시작 메시지만 3회 찍혀 있었습니다.

시간 (KST)

이벤트

00:23

Gateway shutting down

01:19

Gateway restarting #1

01:45

Gateway restarting #2

01:46

Gateway restarting #3

01:48

사용자 "안녕" → 정상 응답

한국에서 두 사람이 나누는 대화 스크린샷

4단계: 원인 특정

Claude.ai에 Console 스크린샷과 Telegram 로그를 함께 올려서 분석을 요청했습니다.

원인: Gateway 재시작 시 세션 복구(auto-resume)를 위해 이전 대화 히스토리 전체를 API에 재전송하는 구조. 재시작이 반복되면 같은 히스토리가 중복 전송되어 토큰이 기하급수적으로 소모됩니다.

근본 원인: VPS의 systemd 서비스 설정에 재시작 제한이 없었습니다.

bash

# 문제의 설정 (변경 전)
Restart=always              # 무조건 재시작
StartLimitIntervalUSec=0    # 제한 시간 없음 = 무한 재시작 허용
StartLimitBurst=5           # Interval=0이라 사실상 무제한

5단계: 해결

VPS에서 systemd 오버라이드 설정을 추가했습니다.

bash

# 오버라이드 설정 파일 생성
sudo mkdir -p /etc/systemd/system/hermes-gateway.service.d

cat << 'EOF' | sudo tee /etc/systemd/system/hermes-gateway.service.d/restart-limit.conf
[Service]
Restart=on-failure
RestartSec=30

[Unit]
StartLimitBurst=3
StartLimitIntervalSec=300
EOF

# 적용
sudo systemctl daemon-reload
sudo systemctl restart hermes-gateway

# 확인
systemctl show hermes-gateway | grep -E "Restart=|StartLimit|RestartSec"

변경 결과:

설정

변경 전

변경 후

효과

Restart

always

on-failure

정상 종료 시 재시작 안 함

RestartSec

(없음)

30초

재시작 간 30초 대기

StartLimitBurst

5 (무제한)

3

5분 내 최대 3회

StartLimitIntervalSec

0 (무제한)

300초

5분 윈도우 적용

→ 5분 내 3회 이상 재시작 실패 시 서비스 자동 중단, 토큰 폭주 방지


결과와 배운 점

배운 점

  1. 에이전트에 API 키를 맡기면 비용 통제가 필수 — 에이전트는 사용자가 자는 동안에도 API를 호출할 수 있습니다

  2. 입출력 비율이 핵심 모니터링 지표 — 정상 대화는 5~10:1, 40:1 이상이면 히스토리 누적/재전송을 의심해야 합니다

  3. systemd 기본 설정을 맹신하지 말 것 — Restart=always + StartLimitInterval=0은 무한 루프를 허용하는 위험한 조합입니다

꿀팁

  • Anthropic Console에서 spending limit을 꼭 설정하세요 (Settings → Limits) — 일일/월간 상한을 걸어두면 어떤 이유로든 토큰 폭주 시 자동 차단됩니다

  • Console의 API 키별 필터 + 시간대 드릴다운으로 비정상 패턴을 빠르게 특정할 수 있습니다

  • VPS에서 에이전트를 운영할 때는 반드시 systemctl show [서비스명] | grep -E "Restart=|StartLimit"로 재시작 정책을 확인하세요

시행착오

  • 처음에는 Hermes Agent의 성장 루프 스킬(hermes-growth-loop)이 토큰 폭증의 원인이라고 오판했습니다. Console 스크린샷과 Telegram 로그를 대조해서 실제 원인(Gateway 재시작 루프)을 특정할 수 있었습니다

  • 원인 분석에 Claude.ai를 활용했는데, 스크린샷을 순차적으로 보여주면서 함께 추론하는 방식이 효과적이었습니다

앞으로의 계획

  • Anthropic Console에서 spending limit 설정

  • VPS Gateway 로그 모니터링 자동화 (비정상 재시작 시 알림)

  • Hermes Agent 본격 활용 시 세션당 토큰 상한 설정 검토


도움 받은 글

  • Anthropic Console Usage 문서: https://docs.anthropic.com

  • systemd 서비스 재시작 제한 설정: man systemd.unit (StartLimitBurst, StartLimitIntervalSec)

  • Claude.ai — 스크린샷 기반 원인 분석에 활용

2

함께 이야기해요 2

로그인하고 댓글을 남겨 주세요

류웅수_이안_IAN 프로필 이미지

부엉부엉님, “hi” 몇 번 보냈는데 하루에 580만 토큰이 나갔다면 숫자를 보는 순간 정말 놀랐을 것 같아요. 사용자가 아무것도 하지 않는 시간에도 에이전트가 비용을 만들 수 있다는 걸 실제 사례로 보여줘서, VPS로 운영하려는 분들에게 도움이 많이 될 글이네요.

처음에는 성장 루프를 의심했지만 Console의 시간대별 사용량과 텔레그램 로그를 맞춰보면서 재시작 구간을 찾아낸 과정이 좋았습니다. 입력과 출력 비율이 181대 1이고 사용자 메시지는 0건이었다는 자료가 있으니, 원인을 추측한 게 아니라 하나씩 좁혀간 흐름이 잘 보였어요.

재시작할 때 이전 대화 전체가 다시 전송되는 구조와 systemd의 무제한 재시작 설정이 함께 문제를 키웠다는 부분도 이해하기 쉬웠습니다. Restart 설정과 재시작 간격, 5분 내 최대 횟수까지 함께 바꿔서 같은 사고가 반복되지 않게 만든 점도 좋네요.

다음에는 토큰이 이미 많이 나간 뒤 확인하는 것보다, 재시작 횟수나 시간당 토큰이 일정 수준을 넘으면 바로 알림이 오도록 붙이면 더 안심하고 운영할 수 있을 것 같습니다. 월간 한도와 함께 두 겹으로 막아두면 밤새 돌아가는 환경에서도 부담이 훨씬 줄겠어요.

비용 사고를 숨기지 않고 원인과 설정값까지 정리해주셔서 감사합니다. 비슷하게 VPS를 쓰는 분들은 이 글을 보고 바로 자기 설정부터 확인할 것 같아요 👍

유피테르 프로필 이미지
유피테르2026.07.29

API 키 필터로 문제 구간의 입력 3,776,176개가 하루 사용량의 65%라는 사실까지 분리해낸 점이 정말 꼼꼼합니다. 원인 설명 뒤에 변경 전·후 설정표와 `systemctl show` 확인 명령까지 남겨주셔서, 비슷한 VPS 운영자가 자신의 환경을 바로 점검할 수 있는 재현 가능한 자료가 되었네요. 실제 비용 사고를 운영 체크리스트로 바꿔 공유해주신 점이 특히 좋았습니다.

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기