미국 정부가 국가안보 권한을 근거로 앤트로픽(Anthropic)의 인공지능(AI) 모델 페이블 5(Fable 5)와 미토스 5(Mythos 5)에 대한 접근을 전면 중단하라는 수출통제 지시를 내렸다. 앤트로픽은 6월 12일 공식 성명을 내고, 미국 안팎을 가리지 않고 모든 외국 국적자, 심지어 외국 국적의 자사 직원까지 두 모델을 사용할 수 없도록 하라는 지시를 받았다고 밝혔다. 규정을 준수하기 위해 앤트로픽은 페이블 5와 미토스 5를 모든 고객에게서 즉시 비활성화했다. 다만 클로드(Claude) 오퍼스 4.8을 비롯한 다른 모든 앤트로픽 모델은 이번 조치의 영향을 받지 않는다.
앤트로픽은 미국 동부시간 기준 이날 오후 5시 21분 정부로부터 지시를 받았으며, 서한에는 구체적인 안보 우려 내용이 적혀 있지 않았다고 설명했다. 회사는 정부가 페이블 5를 우회하는 이른바 ‘탈옥(jailbreak)’ 방법을 인지한 것으로 보고 있다고 밝혔다. 앤트로픽이 해당 기법 시연을 검토한 결과, 이미 알려진 소수의 사소한 취약점을 찾아내는 수준이었고, 이런 취약점은 우회 없이 다른 공개 모델로도 발견할 수 있다고 덧붙였다.
앤트로픽은 페이블의 안전장치를 강하게 설계해 사이버보안 등 악용 가능성을 크게 줄였으며, 오히려 너무 광범위하다는 사용자 불만이 나올 정도라고 강조했다. 출시 전 미국 정부와 영국 AI안전연구소(UK AISI), 여러 외부 기관·내부 팀이 수천 시간에 걸쳐 안전장치를 레드팀 방식으로 시험했고, 그 결과 기존에 배포된 어떤 모델보다 효과적이라는 점이 확인됐다고 밝혔다. 아직 안전장치를 광범위하게 무력화하는 ‘범용 탈옥’은 발견되지 않았다고 회사는 설명했다.
앤트로픽은 완벽한 탈옥 차단은 현재 어떤 모델 기업도 불가능하다고 보고, 페이블 5에 ‘다층 방어(defense in depth)’ 전략을 적용했다고 밝혔다. 탈옥을 좁은 범위로 묶거나 만드는 비용을 크게 높이고, 동시에 면밀한 모니터링으로 공격을 빠르게 탐지·차단하는 방식이다. 이를 위해 페이블 사용 시 고객 데이터를 30일간 보관하도록 했는데, 이는 고객과의 관계에서 실질적 비용을 감수한 정책이라고 덧붙였다.
회사에 따르면 정부는 지금까지 구두로만 좁은 범위의 비범용 탈옥 가능성을 제시했다. 그 내용은 모델에 특정 코드베이스를 읽고 소프트웨어 결함을 고치도록 요청하는 수준이다. 앤트로픽은 이 정도 역량이 오픈AI(OpenAI)의 GPT-5.5를 포함한 다른 모델에서도 널리 제공되며, 시스템을 지키는 보안 담당자들이 매일 쓰는 기능이라고 검증했다고 밝혔다. 회사는 향후 24시간 안에 더 자세한 내용을 공개하겠다고 했다.
앤트로픽은 정부의 법적 지시를 따르되, 좁은 범위의 탈옥 가능성을 이유로 수억 명이 쓰는 상용 모델을 회수하는 것에는 동의하지 않는다고 밝혔다. 이런 기준을 업계 전체에 적용하면 모든 프런티어 모델 기업의 신규 모델 배포가 사실상 멈출 것이라고 우려했다. 회사는 정부가 안전하지 않은 배포를 막을 권한을 가져야 한다고 보지만, 그 절차는 투명하고 공정하며 기술적 사실에 근거해야 한다며 이번 조치는 그 원칙에 맞지 않는다고 지적했다.
앤트로픽은 고객에게 혼란을 끼친 점을 사과하며, 이번 사안을 오해로 보고 최대한 빨리 접근을 복구하기 위해 노력하고 있다고 밝혔다. 이번 주 공개된 페이블 5가 출시 일주일도 되지 않아 사용이 막히면서, 새 AI 모델에 대한 정부 차원의 공식 통제가 본격화되는 사례로 볼 수 있다는 해석도 나온다.
자세한 내용은 앤트로픽(Anthropic)에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
