• 트럼프 행정부가 Anthropic의 최상위 AI 모델에 대한 모든 해외 사용을 차단하는 결정을 내렸으며, 이는 Amazon CEO와 재무장관을 포함한 미국 당국자 간 대화에서 비롯됨
  • Amazon 연구진이 일련의 프롬프트로 Fable 5 모델에서 사이버공격에 활용될 수 있는 차단 대상 정보를 얻어냈고, 이 사실이 당국에 전달됨
  • 백악관은 대응 회의 후 외국 정부·기업·개인의 모델 접근 차단을 가장 직접적 해결책으로 결정했고, 트럼프 대통령이 보안상 이유로 승인
  • Anthropic은 규정 준수를 위해 Mythos와 Fable의 전체 사용자 접근을 차단, 외국 출신 연구진 다수가 최신 모델 작업에서 사실상 배제됨
  • 보안 우려와 별개로 행정부의 Anthropic에 대한 불신과 정치적 긴장이 결정에 영향을 미쳤을 가능성이 제기되며, AI 산업에 대한 정부 통제 강화 흐름의 일부로 평가됨

단속 촉발 경위

  • Amazon CEO Andy Jassy가 재무장관 Scott Bessent를 포함한 미국 당국자들과 나눈 대화가 트럼프 행정부의 해외 사용 차단 결정을 촉발
    • Amazon 연구진이 차단되어야 할 사이버공격 지원 정보를 Fable 5에서 얻어냈다고 Jassy가 당국에 전달
    • 기술 업계 임원들은 첨단 AI 도구의 위력에 대해 행정부와 정기적으로 접촉해 옴
  • 직후 백악관 당국자들이 대응 논의를 위한 회의를 열었고, 보안 연구진은 Amazon의 주장을 검증하기 시작
    • 외국 정부·기업·개인의 도구 접근 차단이 가장 직접적인 위험 해소 방안으로 결정됨
    • 트럼프 대통령은 혁신 저해 우려에도 보안상 이유로 조치 승인

Anthropic의 대응과 영향

  • Anthropic은 규정 준수를 위해 Mythos와 Fable의 모든 사용자 접근을 차단
    • 전 세계 기업들이 소프트웨어 취약점 식별에 이 도구를 활용하려는 노력이 저해될 수 있음
    • Anthropic 연구진 다수가 외국 출신이어서, 해당 규정으로 최신 모델 작업이 사실상 불가능해짐
  • Anthropic은 Amazon이 지적한 취약점이 상대적으로 기초적이며, 다른 공개 모델도 발견 가능하고, 완전한 탈옥(jailbreak)에는 해당하지 않는다고 밝힘
    • 일부 보안 연구진도 이 견해에 동의
    • 적절한 안전장치를 갖추고 있으며 안전을 우선시한다고 설명, 이전에도 백악관 지시로 Mythos 접근 확대를 보류한 바 있음

Amazon과 Anthropic의 관계

  • Amazon은 Anthropic의 대형 투자자로, 데이터센터용 칩을 공급하고 최상위 모델을 소프트웨어 취약점 식별에 활용
    • Amazon 대변인은 주요 클라우드 제공업체로서 정부가 보안 위험에 대해 자문을 구하는 일이 드물지 않으며, 그 세부 내용은 공유하지 않는다고 밝힘
  • Amazon이 사이버 전문가들과 공유한 Fable 보고서에 따르면, 특정 질의 세트로 최소 4개 소프트웨어 프로그램에서 보안 버그를 찾아냄
    • 이는 Fable이 통상 제공하지 않는 정보이나, GreyNoise Intelligence 창립자 Andrew Morris는 위험한 사이버보안 정보와는 거리가 멀다고 평가
    • 다수의 다른 도구도 이미 이 정보를 드러낼 수 있으나, Anthropic 소프트웨어는 버그 정보를 작동하는 익스플로잇 코드로 변환하는 능력으로 알려짐
    • 해당 능력은 Fable의 보안 가드레일로 보호되며, Amazon 연구진이 이에 접근했다는 증거는 없음

행정부의 통제 강화 흐름

  • 보안 당국에 모델 감독 권한을 부여하는 최근 행정명령, 정부의 AI 기업 지분 인수 논의와 결합되어, 행정부가 산업에 행사하려는 통제가 급격히 증가
    • R Street Institute의 Adam Thierer는 미국 내 AI의 정치화와 고급 연산 통제의 중앙집중화가 크게 심화되고 있다고 지적
  • Jassy의 통화는 일부에게 일반적 경고로 여겨졌으나, Commerce Department의 광범위한 외국 사용자 차단으로 빠르게 확대
    • National Cyber Director Sean Cairncross와 Commerce Secretary Howard Lutnick이 대화에 관여
    • Commerce Department는 핵심 기술의 수출 통제를 담당

Anthropic과 행정부 간 긴장

  • 이번 조치로 Anthropic과 트럼프 행정부 간 오랜 갈등이 재점화, 행정부는 진보 진영 기부자와의 관계 및 AI 위험 경고에 대해 불신을 유지
    • Anthropic은 전 바이든 행정부 인사 다수를 채용했고, Amodei는 트럼프와 행정부를 비판해 옴
  • 군의 AI 도구 사용을 둘러싼 갈등으로 Pentagon이 Anthropic을 보안 위험으로 지정하는 전례 없는 조치가 발생, Anthropic은 두 건의 소송으로 대응 중
    • CSIS의 Kate Koren은 보안 우려는 이해하나 백악관의 Anthropic에 대한 반감이 결정에 영향을 줬을 수 있다고 언급
    • 백악관 고위 당국자는 이번 조치가 모델 안전에 관한 것이며 국방부는 깊이 관여하지 않았다고 밝힘

사업적 파장과 배경

  • 최상위 모델 차단은 이르면 올가을 기업공개(IPO) 를 준비 중인 Anthropic에 타격이 될 수 있으며, 사용자가 다른 모델로 이탈할 경우 OpenAI 같은 경쟁사에 유리하게 작용
    • OpenAI는 자체 강력한 사이버 모델을 점진적으로 고객에게 제공하며 트럼프 행정부와 논의 중
  • Anthropic은 2021년 AI 안전을 강조하지 않는다고 느낀 Amodei와 OpenAI 출신 인사들이 설립, Claude Code 도구의 강점으로 기업용 주요 모델 제공업체로 성장
  • Anthropic은 올해 초부터 Amazon 및 여타 기술기업에 Mythos를 미리 제공하며 행정부와 단계적 접근을 진행
    • 핵심 사용자가 대중 공개 전에 소프트웨어 취약점을 찾아 해결하도록 하는 것이 목표
    • Amodei, Bessent, 백악관 비서실장 Susie Wiles가 참석한 4월 회의는 화해의 기회로 여겨졌으나 보안 논의도 포함됨