• 강력한 AI 모델인 Fable 5와 Mythos 5는 미국 정부의 수출통제 지시 이후 모든 고객 접근이 갑자기 중단됨
  • 미국 정부 지시는 미국 안팎의 외국 국적자와 Anthropic 외국 국적 직원까지 접근 차단 대상으로 삼았고, Anthropic은 준수를 위해 전체 접근을 끊음
  • Anthropic은 정부가 특정 탈옥(jailbreak) 우회를 문제 삼았지만, 시연된 취약점은 이미 알려진 소수의 경미한 취약점이며 다른 공개 모델도 찾을 수 있다고 봄
  • 이번 조치는 AI 안전 규제인지, Anthropic을 겨냥한 정치적·경쟁적 압박인지 구분하기 어렵게 만들며 정부 결정의 신뢰 문제를 키움
  • 강력한 LLM의 공개 접근이 정부 통제로 제한되는 선례가 생겼고, 향후 일반 이용자가 최고 성능 모델을 쓰기 어려워질 수 있다는 우려로 이어짐

금요일 저녁에 끊긴 모델 접근

  • 금요일 저녁 AI 에이전트로 HTML 게임을 만들던 중 에이전트가 “이 모델은 더 이상 존재하지 않는다”고 응답하며 작업이 중단됨
  • 처음에는 재로그인 문제나 병렬 에이전트 사용에 따른 이상한 제한 오류로 보고 API로 전환했지만 여전히 접근하지 못함
  • 팀이 만든 커스텀 Rust 에이전트 클라이언트의 하네스(harness)가 망가졌다고 의심해 Rust 코드를 살펴보다가, 친구에게서 정부가 Fable을 금지했다는 말을 들음

정부의 접근 차단 지시

  • 미국 정부가 국가안보 권한을 근거로 수출 통제 지시를 내려, Fable 5와 Mythos 5에 대한 모든 외국 국적자의 접근을 중단하도록 요구
    • 대상은 미국 내외를 불문한 모든 외국 국적자이며, 외국 국적 Anthropic 직원까지 포함
    • 이를 준수하기 위해 Anthropic은 전 고객 대상으로 Fable 5와 Mythos 5를 즉시 비활성화, 다른 모든 Anthropic 모델 접근은 영향 없음
  • 지시는 당일 오후 5시 21분(ET) 에 수신됐으며, 서한에 구체적 안보 우려 내용은 미포함

Anthropic의 공식 입장

  • 정부가 Fable 5 탈옥(jailbreaking) 우회 기법을 인지한 것으로 이해하며, 해당 기법 시연을 검토한 결과 이미 알려진 소수의 경미한 취약점 식별에 그침
    • 이 취약점들은 비교적 단순하며, 우회 없이도 다른 공개 모델들이 동일하게 발견 가능
  • 지시 근거로 추정되는 보고서를 검토, 해당 역량 수준이 OpenAI GPT-5.5 등 다른 모델에서도 널리 제공되고 보안 방어자들이 매일 활용하는 수준임을 검증, 24시간 내 추가 정보 공유 예정
  • 법적 지시는 준수하되, 좁은 범위의 잠재적 탈옥 발견이 수억 명에게 배포된 상용 모델 회수의 사유가 되어선 안 된다는 반대 입장

AI 안전성과 최적화 우려

  • AI에 대한 입장은 양가적이며, 딥러닝 모델을 많이 훈련한 경험 때문에 최적화 도구가 잘못 작동할 수 있는 방식에 강한 우려를 가짐
  • 사람은 실제로 달성하고 싶은 목표가 아니라 측정 가능한 지표를 최적화하는 경향이 있음
  • 좋은 제품을 만들고 싶어도 방법을 모르기 때문에 참여도를 최적화하고, 아이들에게 읽기와 쓰기를 가르치고 싶어도 시험 점수를 최적화하는 식의 문제가 발생함
  • AGI와 ASI 시스템은 최적화 도구이며, 측정 가능한 것을 최적화하는 과정에서 좋은 것에서 멀어질 수 있어 예측하기 어려운 위험을 가질 수 있음
  • 기업도 최적화 도구처럼 작동하므로, 많은 개발자가 위험을 말하는 상황에서도 측정 가능한 목표인 빠른 수익화를 향해 움직일 수 있음

정부와 Anthropic의 갈등 배경

  • Anthropic과 현 행정부는 우호적이지 않은 관계로, DoD 통합 및 군 협력을 시도해 모델이 고도 기밀 시스템에 사용된 바 있음
    • 그럼에도 Trump 행정부는 Anthropic을 공급망 리스크(supply chain risk) 로 규정, 정부 협력 주체의 Anthropic 모델 사용을 금지
    • 이후 6개월간 Venezuela 전쟁, Iran 전쟁 등 군사 작전에 Anthropic 모델을 계속 사용했으며, Chinese LLM은 공급망 리스크로 지정조차 되지 않음
  • 일부 극우 진영은 행정부가 Anthropic을 파괴하려 한다는 이유로 Anthropic을 'woke'로 규정하는 논리를 전개
  • 이번 조치가 유해 AI 규제 목적인지, 문화적 적대 대상에 타격을 가하려는 기회인지 의문 제기

경쟁 구도와 IPO 시점

  • 경쟁사들은 행정부 전반에 우호 세력을 보유, 예시로 Kushner 가문이 OpenAI에 대규모 투자
  • 이번 조치를 다른 연구소가 Anthropic에 타격을 가하는 기회로 해석 가능
    • Fable은 매우 강력한 모델로 평가되며, Anthropic의 IPO 임박 시점에 소비자 이용이 중단된 점이 공교로움
  • 전리품 정치(spoils system)는 모든 사안의 optics를 의심스럽게 만들며, 수십 년간 쌓은 신뢰가 무너졌다고 지적

금요일 5시 21분 발표와 시장 우려

  • 발표 시각이 금요일 오후 5시 21분이라는 점은 의심스러운 시간대로 보임
  • 금요일 저녁 발표는 주말 동안 시장 충격이 흡수되기를 기대하며 나쁜 소식을 내놓는 방식으로 이해됨
  • Claude가 인용한 The Kobeissi Letter 사례에는 금요일 장 마감 뒤나 토요일 새벽에 나온 지정학·무역 발표들이 들어감
    • 예시에는 이란 핵시설 타격, 카리브해 마약 운반선 군사행동, 중국 100% 관세 위협, 베네수엘라 영공 폐쇄, 나이지리아 군사행동, 2026년 2월 이란 직접 타격 포함
    • 2025년 8월 11일 Intel 거래 발표도 CEO Lip-Bu Tan에 대한 공개 압박 뒤 활성 거래시간 밖에 배치된 기업 관련 사례로 묶임
  • AI 붐은 컴퓨터 지능에 대한 지속적 수요가 있을 것이라는 생각에 크게 기대고 있음
  • 부채, 구축 투자, 데이터센터, GPU, 메모리, 디스크, 서버 랙에 이르는 AI 체인의 주식시장 상승은 수조 달러 규모 가치가 생길 것이라는 전제에 의존함
  • 정부가 어느 순간 모든 접근을 일방적으로 끊을 수 있다는 인식은 다중 조 달러 데이터센터 투자에 큰 장애물이 될 수 있음
  • HN과 Reddit 일부 이용자는 이번 사건을 정부가 사람들이 접근하도록 허용할 모델 역량의 상한선으로 보고 있음
  • 정부가 허용하지 않으면 아무리 수요가 많아도 접근할 수 없다는 문제가 남음

커뮤니티 반응과 ‘위험한 모델’ 마케팅의 역풍

  • HN과 Reddit 일부 이용자는 Anthropic이 Mythos 관련 마케팅 쇼의 대가를 치렀다고 보고 기뻐함
  • 과거 OpenAI도 GPT-2를 “공개하기엔 너무 위험하다”는 방식으로 제한 공개했으며, 당시 대규모 기만적·편향적·악용 언어 생성 우려를 이유로 들었음
  • GPT-2 이후 AI 생성 저품질 콘텐츠가 넘쳐나 현실을 함께 이해하는 능력을 흔들었다는 점에서 OpenAI의 우려는 꽤 정확했다고 봄
  • Fable이 실제로 강력한 모델이라고 믿으며, 광범위한 Fable 공개의 보안 위험을 걱정한다는 Anthropic의 말을 어느 정도 신뢰함
  • 관련 HN 스레드의 최상위 댓글은 Anthropic이 자기 모델을 남들보다 훨씬 앞선 것으로 팔기 위해 공포를 조장한 대가를 치르게 됐다는 반응이었음
  • 정부 입장을 액면 그대로 받아들이면, Anthropic 모델은 너무 뛰어나서 말 그대로 사용할 수 없는 모델이 되므로 오히려 강력한 광고가 될 수 있음
  • 또 다른 HN 댓글은 제품이 얼마나 위험한지 오래 말하면 위험 제품을 시장에서 막을 권한이 있는 사람들이 그 말을 들을 수 있다는 점을 짚음
  • Bernie Sanders는 AI CEO들의 발언을 읽어 주는 정책 영상을 만들며 AI 위험성을 강조하는 의원으로 묘사됨
  • AI 모델이 정말 안전하지 않아 규제가 필요할 수도 있지만, 폐쇄 위험을 알게 된 AI CEO들은 앞으로 그런 말을 하지 않을 수 있음

강력한 LLM 접근 제한의 선례

  • 마지막으로 인용된 HN 댓글은 이번 사건의 핵심을 정부가 강력한 LLM의 대중 접근을 제한하기 시작한 것일 수 있다는 점으로 봄
  • 해당 댓글은 Fable을 시장에서 가장 강력한 모델로 보고, 미국 정부가 원칙상 비미국 시민에게만 금지했지만 실제로는 미국 시민도 쓸 수 없게 됐다고 봄
  • 오픈소스 중국 모델이나 자체 하드웨어 실행이 해결책이라는 생각도 재검토해야 한다는 입장임
  • 미국 정부가 가장 강한 미국 모델을 막는 상황에서, 중국이 1년 뒤 Mythos급 역량을 가진 자국 기업의 최강 LLM을 오픈소스로 허용할 가능성은 낮다고 봄
  • 강력한 LLM은 강력한 사이버보안 무기 방향으로 가고 있으며, 국민국가는 이를 제한하고 통제할 이해관계를 갖게 됨
  • 2년 뒤 가장 강한 LLM이 일반 용도로 제공된다면 놀라울 것
  • 강력한 LLM 제한이 사람들을 더 가난하게 만들지 더 안전하게 만들지는 확실하지 않지만, 이번 사건은 선례가 생긴 중대한 분기점