출시 3일 만에 멈춘 Fable 5, 그리고 프런티어 모델의 이중용도 딜레마

출시 사흘째 되던 날, 한 API 문자열이 오류를 뱉기 시작했습니다. claude-fable-5. 앤트로픽이 올해 가장 공들여 내놓은 모델은 그렇게, 전 세계 모든 고객 화면에서 동시에 사라졌습니다.

흔히 모델이 내려가는 이유는 둘 중 하나입니다. 성능이 기대에 못 미쳤거나, 심각한 결함이 발견됐거나. Fable 5는 어느 쪽도 아니었습니다. 멈춘 이유는 정반대였습니다. 너무 잘 작동해서였습니다.

사흘 동안 무슨 일이 있었나

타임라인은 짧고 분명합니다.

6월 10일, 앤트로픽은 Claude Fable 5와 Mythos 5를 공개했습니다. 두 모델은 Opus 4.8보다 한 단계 위인 'Mythos급'으로 분류됐습니다. Fable 5는 안전 분류기를 적용한 일반 공개 버전이고, Mythos 5는 같은 기반 모델에서 사이버보안 가드레일을 제거해 Project Glasswing 승인 파트너에게만 제한 제공한 버전입니다.

성능 수치는 출시 당시 화제였습니다. SWE-bench Pro 80.3%(Opus 4.8은 69.2%), 복잡 코딩을 측정하는 FrontierCode 29.3%(Opus 13.4%). Stripe는 5천만 줄 규모의 Ruby 코드베이스를 수동으로 두 달 걸려 옮기던 작업을 하루로 줄였습니다. Mozilla는 Glasswing 파트너로서 수백 건의 취약점을 해결했습니다.

그리고 6월 12일 동부시간 오후 5시 21분. 미국 상무부(Commerce Department)의 지시가 앤트로픽에 도달했습니다. 외국인(foreign nationals)의 Fable 5·Mythos 5 접속을 차단하라는 명령이었습니다.

문제는 실행 방식이었습니다. 앤트로픽은 미국인과 외국인을 실시간으로 구분해 한쪽만 차단할 수 없었습니다. 그래서 규정을 지키기 위해 택한 방법이 전 세계 전면 비활성화였습니다. 한 나라의 수출통제 지시가, 필터링 기술의 한계를 만나, 결국 모든 사용자의 접근 차단으로 번진 셈입니다.

Opus 4.8을 포함한 다른 모든 모델은 영향받지 않았습니다. 이 점이 중요합니다. 앤트로픽 전체가 제재당한 게 아니라, 정확히 그 두 모델만 표적이 됐습니다.

통념과 실제: 무엇이 모델을 멈췄나

이 사건을 두고 흔히 나오는 설명은 "또 하나의 AI 규제 사례"입니다. 안전하지 않은 AI를 정부가 막았다는 프레임입니다.

데이터를 보면 그 설명은 정확하지 않습니다.

정부가 인용한 트리거는 알려진 jailbreak였습니다. 사용자가 Fable 5에게 "특정 코드베이스를 읽고 소프트웨어 결함을 고쳐달라"고 요청할 수 있었던 것입니다. 그런데 앤트로픽은 이를 안전장치 우회가 아니라 일상적인 사이버보안 워크플로우라고 공개 반박했습니다. 같은 종류의 요청은 다른 모델에서도 처리할 수 있고, 이 jailbreak은 좁고 보편적이지 않다(narrow and non-universal)는 입장이었습니다.

여기서 통념과 실제가 갈립니다. 일반적으로는 "위험한 결함이 발견돼서 막았다"고 생각합니다. 그런데 실제 구조는 다릅니다. 막힌 것은 결함이 아니라 능력이었습니다.

자체 정리된 벤치마크를 보면 그림이 더 선명해집니다. Mythos급 모델의 사이버 공격 능력을 측정한 ExploitBench에서 Mythos는 78.0, Opus 4.8은 40.0이었습니다. Glasswing 발표 단계에서 이미 이 계열 모델은 Cybench CTF 35개 전 문제를 100% 풀었고, OpenBSD에서 27년, FFmpeg에서 16년간 발견되지 않았던 제로데이를 자율적으로 찾아냈습니다.

코드의 결함을 찾아 고치는 능력은, 방향을 뒤집으면 코드의 약점을 찾아 뚫는 능력입니다. 같은 능력의 양면입니다. 상무부가 본 것은 버그가 아니라 바로 그 능력이었습니다.

이중용도(dual-use) 딜레마

여기서 프레임워크 하나를 제안합니다. 이중용도 딜레마입니다.

핵심 명제는 이렇습니다. 프런티어 모델은 상업적 가치가 클수록 국가안보 규제의 표적이 되기 쉽습니다. 쓸모가 약점이 아니라, 쓸모 자체가 회수 사유가 됩니다.

이 딜레마는 세 가지 조건이 겹칠 때 작동합니다.

조건Fable 5에서의 실제의미능력의 양면성코드 취약점을 고치는 능력 = 뚫는 능력 (ExploitBench 78.0)상업 가치와 무기화 가능성이 같은 기능에서 나옴노출 범위출시 즉시 전 세계 외국인 포함 일반 공개통제 대상(외국인)과 일반 고객이 한 채널에 섞임통제 불가능성실시간 국적 필터링 불가 → 전면 차단 외 선택지 없음부분 차단이 기술적으로 불가능

세 조건이 모두 충족된 모델은 언제든 회수될 수 있습니다. Fable 5는 세 조건을 정확히 다 채웠습니다. 능력은 양면적이었고, 노출은 전면적이었으며, 통제는 불가능했습니다.

반대로 말하면, 이 중 하나라도 끊으면 딜레마는 약해집니다. 능력을 의도적으로 낮추거나(가드레일 강화), 노출을 좁히거나(승인 파트너 한정), 통제 가능성을 확보하면(국적 단위 접근 제어) 됩니다. 실제로 Mythos 5가 처음부터 Glasswing 파트너에게만 열려 있던 것은 두 번째 조건을 미리 끊어둔 설계였습니다. 그럼에도 함께 내려간 것은, 같은 기반 모델이라는 사실 자체가 정부 판단에서 묶였기 때문으로 보입니다.

이중용도 딜레마 한 줄 정의

프런티어 모델의 회수 가능성은 그 모델이 얼마나 위험한지가 아니라, 얼마나 유능한지에 비례한다.

선례가 만들어졌다는 사실

이 사건이 단발성으로 끝나지 않는 이유가 있습니다.

복수 매체는 이를 공개 배포된 프런티어 모델에 대한 첫 정부 강제 철회(first government-forced takedown of a publicly deployed frontier model)로 기록했습니다. 한 번 만들어진 선례는 다음 판단의 기준점이 됩니다.

개발자 반응도 갈렸습니다. 한 집계에서 38%는 정부 권한 남용과 선례를 우려했고, 24%는 위험이 과장됐다고 봤으며, 10%는 국가안보 차원의 조치를 지지했습니다. 우려가 가장 컸다는 점은, 이 사건이 기술 문제가 아니라 거버넌스 문제로 받아들여졌음을 보여줍니다.

여기에 자본시장 신호가 겹쳤습니다. 앤트로픽은 IPO(S1 상장)를 앞둔 상황이었고, 이번 중단 직후 상장 전 베팅이 급락했다는 보도가 나왔습니다. 규제 리스크가 더 이상 추상적 위협이 아니라, 출시 사흘 만에 기업가치에 즉시 반영되는 재무 변수가 됐다는 의미입니다.

솔직히 이 글이 사건의 모든 인과를 확정하지는 못합니다. 상무부 지시문의 구체적 법적 근거와 조항은 공개 보도에서 명확히 확인되지 않았고, 재개 시점과 조건도 현재로선 미정(TBD)입니다. 앤트로픽은 "빠르게 접근을 복구하기 위해 작업 중"이라고만 밝혔습니다. 이 부분은 추정일 뿐 단정할 수 없습니다.

Takeaways

이 사건에서 창업자와 PM이 가져갈 함의를 위치별로 정리합니다.

위치함의해외 프런티어 모델에 핵심 업무를 의존하는 팀단일 모델 종속은 가용성 리스크다. 모델이 기술적 문제 없이도 규제로 하루아침에 사라질 수 있음을 운영 계획에 반영해야 한다. 폴백 모델 경로를 사전에 확보한다.AI를 제품에 내장한 빌더어떤 모델 위에 올렸는지가 곧 규제 노출도다. 모델 선택 기준에 성능·가격뿐 아니라 '회수 가능성'을 한 축으로 추가한다.상장·투자 단계 AI 기업규제 리스크는 재무제표 변수다. 출시-회수 시나리오를 기업가치 평가에 명시적으로 넣는 흐름이 시작됐다.정책·거버넌스 관찰자첫 강제 철회 선례가 생겼다. 다음 사례의 판단 기준이 여기서 형성되므로, 후속 조치의 일관성을 추적할 가치가 있다.

표면적으로 이 사건은 한 모델의 중단입니다. 그 너머의 함의는, 모델의 능력이 일정 선을 넘는 순간 그 모델은 더 이상 순수한 상업 제품이 아니라 수출통제 대상으로 분류된다는 점입니다. 능력이 곧 규제 노출이라는 등식이 처음으로 현실에서 작동한 사례입니다.

원문 및 참고: