GPT-5도 막혔다…AI 기업들의 새로운 돌파구는 ‘추론’

로이터와 디 인포메이션(The Information)의 보도에 따르면, AI 기업들이 대형언어모델(LLM) 개발에서 기존 방식의 한계에 부딪혔다. 더 많은 데이터와 컴퓨팅 파워를 투입하는 방식으로는 더 이상 큰 성능 향상을 기대하기 어려워졌다는 분석이다.

지난 10년간 AI 개발을 이끌어온 ‘더 큰 것이 좋다’는 철학이 벽에 부딪혔다. 스케일링 법칙(Scaling Law)으로 알려진 이 접근법은 더 많은 데이터와 컴퓨팅 자원을 투입하면 성능이 향상된다는 것이다. 디 인포메이션에 따르면, 오픈AI(OpenAI)가 개발 중인 ‘GPT-5′(오라이온)도 이전 버전인 GPT-3에서 GPT-4로의 발전만큼의 성능 향상을 이루지 못했다. 이러한 한계를 극복하기 위해 AI 기업들은 ‘테스트-타임 컴퓨트(Test-time Compute)’라는 추론 기능에 주목하고 있다. 이는 사용자의 질문에 답변하는 과정에서 추가적인 컴퓨팅 리소스와 시간을 투입해 응답 품질을 향상시키는 기술이다. 로이터의 보도에 따르면, 앤트로픽(Anthropic), 엑스AI(xAI), 구글(Google), 메타(Meta) 등이 이 기술의 자체 버전 개발에 힘을 쏟고 있다.

새로운 접근법은 엔비디아(NVIDIA)가 독점하고 있는 AI 칩 시장에도 영향을 미칠 전망이다. 세쿼이아 캐피털(Sequoia Capital)의 소니아 황 파트너는 “시장이 거대한 사전 훈련 클러스터에서 추론을 위한 분산형 클라우드 기반 서버로 이동할 것”이라고 전망했다. 세레브라스(Cerebras)나 그로크(Grok) 같은 스타트업이 개발 중인 추론 전문 칩은 GPU보다 가격 경쟁력이 있다는 평가다. 다만 젠슨 황 엔비디아 CEO는 “우리는 이제 두 번째 스케일링 법칙을 발견했고, 이는 추론 시점의 스케일링 법칙”이라며 자사의 최신 GPU인 블랙웰(Blackwell)에 대한 수요가 여전히 높을 것이라고 강조했다.

해당 기사의 원문은 로이터와 디 인포메이션에서 확인할 수 있다.