아모데이 “앤트로픽은 오픈웨이트 금지 주장한 적 없다”

현지 시각 7월 27일 앤트로픽 공식 페이지에 다리오 아모데이 최고경영자 명의의 글이 게시됐다. 제목은 ‘오픈웨이트 모델에 대한 우리의 입장’이다. 오픈웨이트는 모델의 가중치를 공개해 누구나 내려받아 자기 서버에서 실행할 수 있게 한 방식을 말한다.

아모데이는 “앤트로픽은 오픈웨이트 모델 금지를 주장한 적이 없다”고 명시했다. 최근 미국 당국이 중국산 오픈웨이트 모델의 자국 기업 사용을 금지하는 방안을 검토한다는 보도가 이어졌고, 앤트로픽이 자사 사업을 보호하려고 금지를 원한다는 주장까지 제기되자 직접 반박한 것이다. 그는 위험한 능력이 없는 오픈웨이트 모델은 공공재이며 기업과 개발자, 연구자에게 가치를 제공한다고 적었다.

아모데이가 밝힌 첫 번째 우려는 권위주의 정부가 미국보다 강력한 모델을 만들어 영구적인 군사 우위를 확보하거나 자국민을 억압하는 데 쓰는 경우다. 그는 이 위험이 가중치 공개 여부와 무관하며, 오히려 비밀리에 학습돼 인민해방군과 국가안전부에만 제공되는 모델이 가장 위험할 수 있다고 봤다. 두 번째 우려는 강력한 모델이 사이버 공격이나 생물학 공격에 오용되는 경우다. 다만 미국 기업의 사용을 막는 조치로는 이 위험을 줄이지 못한다고 했는데, 악의적 행위자가 합법적인 미국 기업일 가능성은 낮기 때문이다.

아모데이는 중국에 고성능 칩과 칩 제조 장비를 판매하지 않고 밀수를 단속하는 것, 산업 규모의 증류 작업을 단속하는 것, 충분한 성능을 갖춘 모델은 개방과 폐쇄를 구분하지 않고 의무 안전성 시험을 거치게 하는 것 세 가지를 지지한다고 밝혔다. 증류는 강력한 모델의 출력을 학습 자료로 삼아 더 적은 연산으로 성능을 따라잡는 방식으로, 칩 규제를 부분적으로 우회하는 통로가 된다.

젠슨 황이 주도한 오픈웨이트 지지 서한에 대해서는 대부분 동의한다면서도 두 가지에는 동의하지 않았다. 오픈웨이트가 안전장치 개발을 반드시 쉽게 만든다는 주장과, 능력에 대한 광범위한 접근이 공격자보다 방어자를 반드시 더 돕는다는 주장이다. 아모데이는 생물학 분야에서 그 반대가 성립할 가능성도 최소한 그만큼은 된다고 봤다. 충분한 성능의 모델이 널리 구할 수 있는 재료로 대유행급 바이러스를 빠르게 무기화할 수 있는 반면, 방어는 여러 해가 걸리는 작업이기 때문이라는 설명이다. 그는 이런 질문을 미리 단정하지 말고 출시 전 시험으로 확인하자고 적었다.

자세한 내용은 앤트로픽에서 확인할 수 있다.

▶︎ 관련기사: 오픈웨이트 지지 서한 서명 50곳으로 증가…오픈AI도 서명, 아마존·앤트로픽은 불참

이미지 출처: 앤트로픽