앤트로픽·오픈AI·구글, 7월부터 업계 주도 AI 표준기구 논의…디인포메이션 보도

현지 시각 9월 13일 디인포메이션이 보도한 내용이다. 앤트로픽과 오픈AI, 구글이 AI 업계 표준기구를 함께 설립하는 문제를 두고 7월부터 실무그룹 회의를 열어 왔다는 것이 보도의 핵심이다. 매체는 관계자를 인용했고, 세 회사는 공개 확인을 하지 않았다.

논의의 내용은 프런티어 모델을 공개하기 전 거치는 기술 시험과 감사의 틀을 마련하는 것이다. 독립 평가와 출시 전 안전 검토, 표준화된 위험 평가를 공통 절차로 두자는 구상이 논의됐다. 다만 정부가 어느 정도까지 관여해야 하는지, 업계 자율에 어디까지 맡길지를 두고 각 회사가 다른 입장을 밝힌 것으로 전해졌다.

시점이 앞당겨 보도되면서 앞선 발표들과의 관계도 부각됐다. 다리오 아모데이 앤트로픽 최고경영자는 9월 12일 공개한 글에서 민주국가 AI 기업들이 공통 안전 기준을 함께 정하자고 제안했고, 샘 알트만 오픈AI 최고경영자는 그 제안에 동의한다고 밝혔다. 데미스 허사비스 구글 딥마인드 최고경영자도 자신의 뉴스레터에서 프런티어 AI를 위한 업계 단체 구성 방안을 제시한 바 있다.

AI 연구자 게리 마커스는 이 보도를 두고 “AI 기업들은 이미 비공개로 다리오의 구상을 논의하고 있었다”고 포스팅했다.

업계가 스스로 표준을 정하는 방식에는 법적 쟁점이 남아 있다. 경쟁사끼리 개발 속도나 출시 조건을 함께 정하면 미국 반독점법에 저촉될 수 있어, 아모데이는 미국 정부가 안전 관련 논의에 한해 좁은 범위의 면제를 발급해 줄 필요가 있다고 적었다. 디인포메이션은 기사 제목을 ‘AI 업계가 스스로를 규율하려는 비공개 움직임의 내부’로 달았다.

규제 쪽에서도 비슷한 장치가 준비되고 있다. 캘리포니아주는 9월 10일 AI 위험 평가기관과 감사인에 관한 법안 두 건에 서명했고, 오픈AI와 앤트로픽이 모두 찬성 입장을 밝혔다. 미국 백악관은 8월 3일 AI 기업들을 불러 새 모델 시험 프레임워크를 검토하는 회의를 열었으나, 시민단체 25곳 이상은 9월 9일 그 프레임워크가 한 달 넘게 공개되지 않았다며 공개를 요구했다.

자세한 내용은 테크밈에서 확인할 수 있다.

이미지 출처: 이디오그램 생성