코히어 CEO “앤트로픽·오픈AI·구글의 AI 표준기구는 카르텔”…반독점 면제 요구에 반대

현지 시각 9월 13일 코히어 공식 블로그에 게시된 글이다. 에이단 고메즈 코히어 공동창업자 겸 최고경영자가 앤트로픽과 오픈AI, 구글이 추진하는 업계 주도 AI 표준기구를 두고 “다른 이름의 카르텔”이라고 비판했다. 다리오 아모데이 앤트로픽 최고경영자가 속도 조절 방안을 공개한 지 하루 만이다.

고메즈가 문제 삼은 것은 규칙을 누가 쓰느냐다. 그는 “성능이 높은 AI 시스템에 대한 독립적 검토는 좋은 생각이고 우리도 지지한다”고 전제하면서도, 제안대로면 한 나라의 소수 연구소가 공통 기준과 발전 속도의 상한을 정하고 나머지 개발사는 그 결정을 따르게 된다고 적었다. 경쟁사끼리 생산을 제한하기로 합의하는 것은 원래 불법이라 정부에 좁은 범위의 반독점 면제를 요구하는 구조인데, 논의에 끼지 못한 기업과 사회는 의견을 낼 기회가 없다는 것이다.

그는 두 가지 선례를 들었다. 1975년 미국 증권거래위원회는 신용평가사 세 곳을 공인 통계평가기관으로 지정하면서 다른 회사가 그 자격을 얻는 기준을 공개하지 않았다. 25년 뒤에도 평가사는 세 곳뿐이었고, 이들이 서브프라임 모기지 증권에 최고 등급을 매겼다. 1985년 유럽은 자동차 제조사에 반독점 적용을 면제해 판매와 정비 자격 기준을 직접 정하게 했는데, 유럽위원회가 이 면제를 없애는 데 약 25년이 필요했다.

고메즈는 대안으로 네 가지를 제시했다. 어떤 능력이 어떤 조건에서 어떤 피해를 일으키는지 여러 나라가 공개적으로 합의하는 증거 기반 위험 체계, 개발사의 의무 공개, 위험하다고 확인된 능력에 한정한 독립 시험, 그리고 평가받는 쪽이 평가자를 고르거나 비용을 대지 않는 검증 장치다.

최근 제기된 멸종 위험 확률에 대해서는 “근본적인 실재에서 나온 숫자가 아니라 소수점으로 표현된 직감”이라고 적었다. 7월에 드러난 사고가 가장 많은 자원을 갖춘 연구소 두 곳에서 일어났다는 점도 함께 지적했다. 능력 기준선이나 연산량 상한으로는 그 사고를 막지 못했을 것이며, 실제로 무너진 것은 지시문의 품질과 시험 격리 수준, 그리고 에이전트를 관찰 없이 얼마나 오래 두었는가였다는 설명이다.

자세한 내용은 코히어에서 확인할 수 있다.

이미지 출처: 코히어