오픈AI(OpenAI)가 지난 12월 공개한 ‘추론’ AI 모델 o3의 실제 운영 비용이 당초 예상보다 훨씬 높을 수 있다는 사실이 밝혀졌다. 모델의 성능을 입증하기 위해 활용된 벤치마크 테스트 결과가 최근 수정되면서 비용이 크게 상향 조정되었다. 테크크런치가 2일(현지 시간) 보도한 내용에 따르면, 오픈AI(OpenAI)가 지난해 12월 선보인 AI 추론(reasoning) 모델 ‘o3’의 실행 비용이 초기 예상을 훨씬 웃돌 가능성이 제기됐다.
지난주 ARC-AGI를 관리하는 아크 프라이즈 재단(Arc Prize Foundation)은 o3의 대략적인 컴퓨팅 비용을 업데이트했다. 재단은 처음에 테스트한 o3의 최고 성능 구성인 ‘o3 high’가 단일 ARC-AGI 문제를 해결하는 데 약 3,000달러의 비용이 들 것으로 추정했다. 그러나 현재 아크 프라이즈 재단은 그 비용이 훨씬 더 높을 것으로 생각하며, 작업당 약 30,000달러(한화 약 4,400만원, 3일 환율 기준)에 달할 수 있다고 밝혔다.
아크 프라이즈 재단의 공동 창립자인 마이크 누프(Mike Knoop)는 테크크런치와의 인터뷰에서 “테스트 시간에 사용된 컴퓨팅 양 때문에 o1-pro가 실제 o3 비용의 더 가까운 비교 대상이라고 생각한다”고 말했다. 그는 “하지만 이것은 여전히 대리 지표일 뿐이며, 공식 가격이 발표될 때까지 불확실성을 반영하기 위해 리더보드에서 o3를 ‘미리보기’로 표시해 두었다”고 덧붙였다.
o3 high의 높은 가격은 모델이 사용하는 컴퓨팅 자원의 양을 고려하면 충분히 가능성 있는 것으로 보인다. 아크 프라이즈 재단에 따르면, o3 high는 ARC-AGI를 해결하기 위해 가장 낮은 컴퓨팅 구성인 o3 low보다 172배 더 많은 컴퓨팅 자원을 사용했다. 또한, 오픈AI가 기업 고객을 위해 도입할 것으로 예상되는 고가의 계획에 대한 소문이 오랫동안 떠돌고 있다. 3월 초, 정보 전문 매체 디 인포메이션(The Information)은 회사가 소프트웨어 개발자 에이전트와 같은 특수 AI ‘에이전트’에 대해 월 최대 20,000달러의 요금을 부과할 계획일 수 있다고 보도했다.
일부는 오픈AI의 가장 비싼 모델조차도 일반적인 인간 계약자나 직원이 요구하는 비용보다 훨씬 적게 들 것이라고 주장할 수 있다. 그러나 AI 연구원 토비 오드(Toby Ord)가 X에 올린 글에서 지적한 바와 같이, 이 모델들은 효율성이 떨어질 수 있다. 예를 들어, o3 high는 ARC-AGI에서 최고 점수를 달성하기 위해 각 작업에 1,024번의 시도가 필요했다.
현재 오픈AI는 아직 o3의 가격을 책정하거나 출시하지 않았다. 그러나 이러한 비용 수정은 오늘날 가장 정교한 AI 모델이 특정 작업에 얼마나 비싸질 수 있는지를 보여주는 중요한 지표가 되고 있다.
해당 기사의 원문은 링크에서 확인할 수 있다.
이미지 출처: 오픈AI
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
