앤트로픽(Anthropic)이 자사 웹사이트 ‘투명성 허브(Transparency Hub)’에서 백악관의 AI 자발적 약속 관련 내용을 삭제해 논란이 일고 있다. 이에 대해 앤트로픽 측은 “실질적인 내용 변화는 없으며, 여전히 백악관의 자발적 약속을 준수하고 있다”고 해명했다.
기업과 정부의 AI 안전 정책 변경 사항을 추적하는 플랫폼인 미다스 프로젝트 워치타워(The Midas Project Watchtower)가 5일(현지 시간) X에 공개한 게시물에 따르면, 2023년 바이든 행정부에서 발표된 백악관의 AI 자발적 약속은 AI 기업들이 배포 전 안전성 테스트를 실시하고, AI 위험 관리 프레임워크에 관한 정보를 공유하며, 사이버 보안에 투자하고, 버그 바운티(bug bounty) 프로그램을 시행하며, 자사 AI 기술의 기능과 한계를 공개적으로 보고하겠다는 내용을 담고 있었다.
이 자발적 약속에는 시간 제한이나 현직 대통령의 정당 소속에 따라 달라진다는 내용이 포함되어 있지 않았다. 실제로 미국 대선 이후에도 여러 기술 기업들은 이 약속이 변경되지 않았다고 확인한 바 있다.
미다스 프로젝트 워치타워는 지난 2월 27일 앤트로픽이 자사의 ‘투명성 허브’ 웹페이지에서 “안전하고 보안이 유지되며 신뢰할 수 있는 AI에 대한 백악관의 자발적 약속” 관련 내용을 흔적 없이 삭제했다고 밝혔다. 이 투명성 허브는 앤트로픽이 자발적 약속 준수 여부를 추적하기 위해 개설한 웹 리소스로, 회사는 이를 “투명성의 기준을 높인 것”이라고 소개해왔다. 미다스 프로젝트 워치타워는 “가장 놀라운 점은 앤트로픽의 투명성 센터에 이전 공약에 대한 기록이 더 이상 없다는 것”이라고 지적했다.
이에 대해 앤트로픽의 잭 클라크(Jack Clark)는 “이는 실질적인 내용 변화가 아니며 혼란을 일으켰다. 우리는 이를 수정하기 위해 노력하고 있다. 우리는 계속해서 백악관의 자발적 약속을 따르고 있다”고 설명했다. 미다스 프로젝트 워치타워는 앤트로픽의 내부 관행에 대한 세부 사항은 거의 변경되지 않았다고 밝히면서도, “앤트로픽이 해야 할 일은 자신들이 한 모든 약속과 어떤 약속을 포기하기로 선택할 때 투명성을 제공하는 것”이라고 강조했다.
전문가들은 AI 기업들의 자발적 약속 이행에 대한 투명성이 중요하다고 강조한다. 특히 정권 교체 이후에도 AI 안전과 관련된 약속들이 지속적으로 이행되어야 한다는 점에서, 앤트로픽과 같은 선도적 AI 기업들의 행보는 업계 전반에 영향을 미칠 수 있다.
해당 논란에 대한 자세한 사항은 링크에서 확인할 수 있다.
이미지 출처: 앤트로픽
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
관련 콘텐츠 더보기
