미국 정부가 앤트로픽(Anthropic)의 최신 사이버 보안 AI 모델을 거둬들이게 만든 조치를 두고, 이것이 흔히 말하는 ‘AI 탈옥(jailbreak)’ 문제가 아니라는 분석이 나왔다. 테크크런치(TechCrunch)에 따르면 이번 사안의 본질은 모델의 안전장치가 뚫렸는지가 아니라, 정부가 프런티어 AI에 직접 통제권을 행사했다는 점에 있다. 트럼프 행정부의 결정이 반사적이든 보복적이든, 분명한 메시지는 ‘AI 산업도 정부의 통제에서 예외가 아니다’라는 것이다.
앞서 백악관은 앤트로픽에 가장 강력한 모델인 클로드 페이블 5(Fable 5)와 미토스 5(Mythos 5)의 접근을 미국 시민으로 제한하라고 요구했다. 짧은 시한 안에 국적 기반 제한을 적용하기 어렵다고 본 앤트로픽은 두 모델을 아예 내려버렸다. 발단은 아마존(Amazon) 연구진이 미토스급 모델에서 본래 차단됐어야 할 사이버 공격 관련 정보를 프롬프트로 끌어낸 사례였다. 정교한 공격을 가속할 위험이 안보 사안으로 번진 것이다.
문제는 이 조치가 의도한 효과를 낼지 자체가 불투명하다는 데 있다. 6월 15일 어도비(Adobe)와 엔비디아(NVIDIA) 등 기업의 보안 전문가·경영진 100여 명은 행정부에 수출통제성 지침을 풀어달라고 요청했다. 해외 방어자에게서 강력한 도구를 빼앗는 조치가 오히려 미국의 적국을 돕는 역효과를 낼 수 있다는 주장이다. 같은 모델이 공격에도 방어에도 쓰이는 만큼, 누구의 손을 막느냐가 곧 안보의 방향을 가른다.
이번 사건은 AI 모델이 국가 안보 자산으로 다뤄지기 시작했다는 신호로 받아들여진다. 그동안 빅테크는 자사 모델의 배포 범위를 스스로 결정해 왔지만, 정부가 특정 모델의 접근 자격을 직접 지정하면서 그 자율성에 한계가 그어졌다. 사이버 보안처럼 공격과 방어가 같은 기술을 공유하는 영역일수록, 접근을 어디까지 열고 닫을지는 더 첨예한 쟁점이 된다.
국내 보안 업계와 AI 개발사에도 시사하는 바가 있다. 고성능 모델의 국가 간 접근 제한이 현실화되면, 해외 모델에 의존해온 보안 솔루션은 공급이 끊길 위험에 노출된다. 그래서 대체 모델 확보와 자체 역량 구축의 필요성이 더 커진다. 다만 어떤 규제가 방어자에게 득이 되고 공격자에게 실이 되는지는 아직 합의되지 않은 영역으로 남아 있다.
자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
