미국 백악관이 23일(현지시간) 중국을 상대로 산업적 규모의 인공지능(AI) 지식재산 탈취를 벌이고 있다고 공개 비판하고 나섰다. 파이낸셜타임스(Financial Times)가 먼저 보도한 백악관 과학기술정책실(OSTP) 메모의 내용을 유에스뉴스(US News)와 액시오스(Axios) 등이 인용해 전했다.
마이클 크라치오스(Michael Kratsios) OSTP 실장은 ‘중국 기반으로 추정되는 행위자들이 탐지를 피하기 위해 프록시 계정을 사용하고, AI 모델을 탈옥(jailbreak)해 독점 정보를 노출시키고 미국 AI 모델의 기능을 추출하고 있다’고 지적했다. 그는 중국과 일부 외국 기관이 수만 개의 프록시를 동원해 미국 AI 혁신 성과를 빼내는 조직적 캠페인을 벌여왔다고 주장했다.
핵심 수법으로는 이른바 ‘증류(distillation) 공격’이 거론된다. 액시오스에 따르면 이는 챗GPT, 클로드(Claude), 제미나이(Gemini) 같은 독점 모델에 API로 수백만 회 질의를 던져 모델 거동을 복제한 데이터세트를 구축하는 방식이다. 이렇게 만들어진 데이터로 훈련된 모델은 미국 프런티어 모델과 유사한 성능을 극히 낮은 비용에 재현할 수 있다는 점이 문제다.
백악관은 해당 메모에서 실제 사례도 언급한 것으로 전해진다. 최근 오픈 웨이트로 공개된 중국산 모델들이 불과 수백만 달러의 학습 비용으로 미국 프런티어 모델과 어깨를 나란히 하는 성능을 내고 있다는 점이 증류 공격의 결과물일 가능성이 있다는 지적이다.
이번 폭로는 도널드 트럼프(Donald Trump) 미국 대통령과 시진핑(Xi Jinping) 중국 국가주석의 베이징 정상회담을 수 주 앞둔 시점에 나왔다는 점에서 의미가 크다. 미국 정부가 AI 분야를 앞으로의 미-중 기술 협상 및 수출 통제 정책의 핵심 의제로 올려 놓기 위한 사전 포석이라는 해석이 지배적이다.
국내 AI 업계에도 불똥이 튈 가능성이 있다. 한국 스타트업들이 미국 프런티어 모델의 API를 적극적으로 활용해 데이터 파이프라인과 파인튜닝 데이터를 구축해온 만큼, 향후 미국 정부가 API 접근 정책이나 수출 통제 기준을 강화할 경우 직접적인 영향을 받을 수 있다는 우려가 제기된다. 특히 오픈 웨이트 모델의 배포 범위를 국가별로 제한하는 조치가 구체화될지가 관전 포인트다.
전문가들은 증류 공격을 원천 차단하는 것은 기술적으로 쉽지 않다고 지적한다. 쿼리 패턴 이상 감지, 계정 수준의 행동 분석, API 사용량 제한 같은 방어 수단이 있지만, 수만 개 프록시를 사용하면 탐지 자체가 어렵다는 것이다. 이 때문에 미국 정부가 단순 기술적 방어를 넘어 법·제도 차원의 대응을 예고한 것이라는 해석이 힘을 얻고 있다.
자세한 내용은 액시오스(Axios)에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
