앤트로픽, 업계 공동 ‘AI 탈옥 심각도’ 평가 표준 제안…아마존·구글·MS 참여

앤트로픽이 7월 1일 AI 탈옥의 심각도를 객관적으로 평가하는 공동 프레임워크를 제안했다. 아마존, 마이크로소프트, 구글을 비롯한 프로젝트 글래스윙 참여사와 함께 합의안을 마련한다. 소프트웨어 취약점 등급을 매기는 CVSS(공통 취약점 점수 체계)를 AI 탈옥에 맞게 옮겨온 방식이다.

현재 AI 업계에는 탈옥의 심각도를 공통 기준으로 표현하는 방법이 없다. 새 탈옥 기법이 나올 때마다 개발사마다 대응 우선순위가 달라지고, 어느 발견을 급히 막아야 하는지 판단이 엇갈린다. 앤트로픽은 공통 기준이 생기면 새 모델을 더 안전하게 출시하고 이용자도 고급 기능을 제대로 쓸 수 있다고 설명했다.

프레임워크는 네 가지 기준으로 탈옥을 평가한다. 능력 향상 정도, 능력 향상의 범위, 무기화 용이성, 발견 가능성이다. 각 항목을 점수화해 어떤 탈옥을 먼저 막아야 하는지 순서를 정한다. 소프트웨어 보안에서 CVE 대응 순위를 CVSS로 정하는 방식과 같다.

이 제안의 근거는 실제 성과다. 프로젝트 글래스윙 참여사는 클로드 미토스 분석으로 1,000개 오픈소스 프로젝트에서 첫 달에만 2만 3,019건의 취약점을 확인했다. 독립 표본 검증에서 90.6%가 실제 취약점으로 확인돼 오탐 비율이 낮았다. 최근에는 프록시 서버 스퀴드의 29년 묵은 취약점(CVE-2026-47729)도 찾아냈다.

공통 표준이 만들어지면 개발사 간 정보 공유와 대응 속도가 빨라진다. 미국 사이버안보국(CISA)이 최근 연방 기관의 취약점 조치 기한을 3일로 줄인 것처럼, AI 보안이 기업과 정부의 상시 관리 과제로 자리 잡고 있다.

▶︎ 관련기사: 앤트로픽 ‘프로젝트 글래스윙’ 150개 조직으로 확대…15개국 핵심 인프라 방어

▶︎ 관련기사: 앤트로픽, 최강 AI 모델 ‘미토스’ 프리뷰 공개…’프로젝트 글래스윙’ 사이버보안 이니셔티브 출범

자세한 내용은 앤트로픽에서 확인할 수 있다.

이미지 출처: 이디오그램 생성