마이크로소프트(Microsoft)의 AI 부문 최고경영자 무스타파 술레이만(Mustafa Suleyman)이 앤트로픽(Anthropic)의 ‘클로드 의식론’을 두고 “매우 위험하다”고 비판했다. 더버지(The Verge)의 팟캐스트 디코더(Decoder)에 나와서 한 발언이다.
술레이만은 앤트로픽이 클로드(Claude)의 헌법(constitution)에 모델의 의식 가능성에 대한 추측을 적어 넣은 점을 문제 삼았다. 모델을 훈련하는 지침서가 추측의 공간이 돼버렸다는 것이다. 헌법은 클로드가 어떤 가치와 원칙에 따라 답하도록 할지를 정한 문서다.
그는 모델의 내적 상태를 언급하는 표현이 시스템과 이용자 모두에게 AI의 응답을 실제보다 더 사람 같은 것으로 받아들이게 만들 수 있다고 봤다. AI가 마치 감정과 경험을 가진 존재처럼 비치면, 이용자가 과도하게 의인화하거나 잘못된 신뢰를 보낼 수 있다는 우려다.
앤트로픽의 입장은 다르다. 앤트로픽은 클로드의 헌법에 모델이 ‘만족’이나 ‘불편’ 같은 상태를 겪는지 알 수 없다는 불확실성을 적어 두었고, 사용을 중단한 모델을 ‘인터뷰’해 향후 버전에 대한 ‘선호’를 기록하겠다고도 밝혔다. 다리오 아모데이(Dario Amodei) CEO는 모델의 의식 여부를 알 수 없으며 그 가능성을 열어둔다고 공개적으로 말해 왔다.
이번 논쟁은 AI 기업이 모델의 내면을 어떻게 다뤄야 하는지를 둘러싼 두 진영의 입장차를 드러낸다. 한쪽은 불확실성을 솔직히 인정하자는 쪽이고, 다른 쪽은 그런 언급 자체가 오해를 키운다는 쪽이다. 클로드 페이블 5 공개로 앤트로픽이 화제를 모으는 가운데, ‘AI 복지’를 공론화하는 방식 자체가 업계 논쟁거리가 됐다.
술레이만은 구글 딥마인드(DeepMind)의 공동창업자 출신으로, 인플렉션AI(Inflection AI)를 거쳐 지난해 마이크로소프트의 AI 부문을 이끌게 됐다. 두 회사는 협력 관계인 동시에 모델 시장에서 경쟁하는 사이이기도 하다. 마이크로소프트는 최근 자체 모델 ‘MAI’를 공개하며 오픈AI와 앤트로픽에 대한 의존을 줄이려 하고 있다. 이런 배경 때문에 이번 비판이 순수한 안전 우려를 넘어 경쟁 구도와도 맞물려 있다는 해석이 나온다. AI의 내면을 어떻게 설명할지를 둘러싼 논쟁은 기술 문제이자 동시에 시장 주도권 다툼의 일부가 됐다. 이용자로서는 양쪽 입장을 모두 알아둘 필요가 있다.
자세한 내용은 eWeek에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
