나델라 “AI 쓰는 기업, 핵심 지식 공짜로 넘긴다”…MS CEO의 이례적 경고

현지 시각 7월 13일, 사티아 나델라 마이크로소프트 CEO가 개인 블로그에 올린 글에서 기업들이 폐쇄형 AI 모델을 쓸수록 자사의 핵심 지식을 AI 개발사에 넘겨주게 된다고 경고했다. 오픈AI·앤트로픽 같은 대형 AI 연구소가 고객의 민감한 사업 정보에 점점 더 접근하고, 그 지식으로 고객의 경쟁자가 될 수 있다는 우려에 나델라가 가세한 것이다.

나델라는 기업이 ‘지능값을 두 번 낸다’고 표현했다. 토큰 사용료라는 돈을 한 번 내고, 모델을 유용하게 쓰려고 드러내는 독점 지식으로 또 한 번 낸다는 것이다. 그는 “모델이 잘 작동하기를 바랄수록 더 많은 지식을 먹여야 한다”고 적었다. 특히 위험한 지점은 기업이 사업의 세부를 모델에 가르치는 순간이다. 나델라는 “모델은 사람이 쓴 프롬프트, 에이전트가 쓰는 도구, 그리고 무엇보다 사람이 틀린 답을 고칠 때의 수정에서 배우며, 그 수정이 제도적 노하우로 응축된다”고 설명했다. 경쟁사가 결코 살 수 없는 지식을 기업이 넘기고 있다는 것이다.

그는 모델 개발사가 공개 데이터를 자유롭게 학습할 권리를 누리면서 정작 기업이 모델을 역으로 학습(증류)하는 것은 제한하는 것을 모순이라고 봤다. 증류는 한 모델의 출력을 이용해 그 작동 방식을 배우고 더 저렴한 새 모델을 만드는 방법이다. 앞서 앤트로픽은 2월 중국 오픈소스 모델들이 클로드에 수백만 건의 프롬프트를 보내 자사 모델을 개선했다고 고발한 바 있다.

나델라의 해법은 대형 클라우드 사업자다운 제안이다. 기업이 프롬프트·피드백 등 데이터의 소유권을 유지하고, 클라우드에 자체 ‘학습 환경’을 구축하라는 것이다. 여러 공급사의 모델을 자유롭게 갈아탈 수 있는 ‘오케스트레이션 레이어’도 두라고 했다. 그는 ‘오픈소스’라는 말을 직접 쓰지 않았지만, 기업들이 온프레미스 오픈소스 모델로 옮겨 가는 흐름이 배경에 깔려 있다. 실제로 버셀(Vercel) 게이트웨이를 지난달 지나간 트래픽의 29%가 오픈 모델이었다. 나델라는 “지능을 소비하면서 당신은 지능을 만들어 낸다. 당신이 만든 것은 당신의 것이어야 한다”고 적었다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: AI 생성