샘 알트만 “한 세대의 연구자들이 AI 발전을 가로막았다”

오픈AI(OpenAI)의 샘 알트만(Sam Altman) 최고경영자가 스탠퍼드대 강연에서 거대언어모델(LLM)의 규모 확장(스케일링, scaling) 전략을 강하게 옹호했다. 더디코더(The Decoder)에 따르면 알트만은 ‘이 분야는 솔직히 한 세대의 과학자들이 규모 확장으로는 결과가 나오지 않는다고 지나치게 확신한 탓에 발목이 잡혔다’고 말했다.

그는 거대언어모델을 ‘막다른 길’이라 평가해 온 얀 르쿤(Yann LeCun) 등 비판론자들을 겨냥했다. 르쿤은 현재 형태의 언어모델로는 인간 수준의 추론에 도달할 수 없다는 입장을 고수해 왔다. 알트만은 이에 맞서 오픈AI의 한 모델이 오랫동안 똑똑한 연구자들을 괴롭혀 온 수학 추측(conjecture)을 최근 반증했다는 사례를 들며 ‘거대언어모델이 새로운 지식을 만들어낼 수 있다는 점은 분명하다’고 주장했다. 다만 그는 높은 판단력이 필요한 장기 과제에서는 거대언어모델이 사람보다 훨씬 못하다는 점도 함께 인정했다.

이번 발언은 규모 확장 가설을 둘러싼 오랜 논쟁의 연장선에 있다. 더 많은 데이터와 연산, 더 큰 모델을 투입하면 능력이 계속 향상된다는 가설은 오픈AI 개발 전략의 핵심이었다. 일부 연구자는 단순한 규모 확대만으로는 환각(hallucination)이나 추론의 한계를 근본적으로 해결하기 어렵다고 반박한다. 양측의 견해 차이는 차세대 모델의 설계 방향과 막대한 인프라 투자 규모를 좌우하는 만큼 업계의 관심이 크다.

규모 확장 가설은 그동안 막대한 자본을 인공지능 인프라에 끌어들인 핵심 논리이기도 했다. 더 큰 데이터센터, 더 많은 그래픽처리장치(GPU), 더 큰 모델에 투자하면 성능이 비례해 좋아진다는 믿음이 엔비디아(NVIDIA)를 비롯한 반도체·클라우드 생태계 전체의 성장을 떠받쳐 왔다. 알트만의 발언은 이 투자 사이클이 아직 한계에 다다르지 않았다는 신호를 시장에 보내는 것이기도 하다. 반대로 회의론자들은 단순 규모 확대가 비용만 키운다고 지적한다.

알트만의 자신감은 기업공개(IPO)를 앞둔 오픈AI의 행보와도 맞물린다. 오픈AI는 앤트로픽(Anthropic)에 이어 비공개로 상장 절차를 준비 중인 것으로 알려졌으며, 시장에서는 올해 4분기 상장 가능성이 거론된다. 규모 확장 전략을 공개적으로 재확인하는 것은 투자자에게 기술 로드맵의 일관성을 보여주려는 메시지로도 보인다.

결국 이 논쟁은 차세대 모델을 어떻게 설계하고 한정된 연산 자원을 어디에 배분할 것인가라는 현실적 질문으로 이어진다. 규모 확장에 자원을 집중할지, 아니면 효율적 구조와 추론 능력 개선에 무게를 둘지를 두고 선두 기업들의 선택이 갈리고 있다.

자세한 내용은 더디코더(The Decoder)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성