Emerging Space Brief: AI Neoclouds
AI 네오클라우드의 등장 배경
AI 네오클라우드는 인프라 시장 조사기관 세미애널리시스(SemiAnalysis)가 정의한 용어로, GPU 컴퓨팅 렌탈 서비스를 제공하는 클라우드 사업자를 의미한다. 이는 초기 암호화폐 채굴용 인프라에서 시작되었다. 암호화폐 채굴업자들은 자신들의 GPU가 AI 모델 학습과 배포에도 적합하다는 것을 인식하고, 클러스터를 확장해 현대 AI 모델의 수요를 충족시키기 시작했다. AI 네오클라우드 신흥 시장에 포함된 187개 기업 중 15개가 암호화폐 분야와 연관되어 있다.
2023년 AI 붐으로 GPU가 부족해지면서 고객들은 하이퍼스케일러를 넘어 대안적 클라우드 제공업체를 찾기 시작했다. 엔비디아의 최신 H100은 출시 가격의 3배까지 상승했다. 동시에 벤처캐피털은 AI 모델 다운로드 수가 많은 기업들에게 유니콘 기업 가치를 부여했고, 이는 추가 GPU 접근에 대한 수요를 촉진했다.
기술과 프로세스
GPU 컴퓨트 렌탈은 다양한 비즈니스 모델을 통해 이루어진다. 먼저 대규모 데이터 처리와 연산이 필요한 AI 인프라와 서비스를 제공하는 AI 하이퍼스케일러가 있다. 또한 기존 클라우드 서비스를 넘어선 최적화된 아키텍처와 특화된 기능을 갖춘 차세대 AI 네오클라우드 플랫폼이 운영되고 있다.
AI 기능을 갖춘 다각화된 코로케이션 호스트는 AI 인프라 지원이 추가된 데이터센터 서비스를 제공하며, GPU 렌탈 서비스는 제3자를 통해 고성능 GPU를 고객에게 대여하는 중개 역할을 한다. 마지막으로 Web3 분산형 AI는 암호화폐로 지원되는 분산 인프라를 제공한다.
주요 기업 현황과 성과
AI 네오클라우드는 가격과 성능 벤치마크 모두에서 차별화를 보이고 있다. 초기에는 GPU를 집적하여 경쟁력 있는 가격에 제공했으나, 이제는 GPU 비용이 계속 높게 유지되면서 이러한 추세가 안정화되고 있다.
주요 기업들의 반도체 보유 현황을 살펴보면, 코어위브는 HGX H100과 H200, 블랙웰 B200과 GB200 등을 보유하고 있으며, 람다는 프라이빗 클라우드를 통해 H200, H100 SXM/Pcle 등을 제공하고 있다. 크루소는 H200과 H100, MI300x, A100, A40를 운영 중이며, 그록은 자체 개발한 그록 LPU를, 세레브라스는 세레브라스 WSE-3를 사용하고 있다.
응용 분야
AI 네오클라우드는 LLM 혁신에 최적화되어 있으면서도 다양한 고객 기반을 통해 잠재적 AI 침체기에 대비하고 있다. 대규모 연산 자원이 필요한 LLM의 학습과 실시간 응답 처리가 주요 응용 분야이며, 엄격한 개인정보 보호가 요구되는 의료 분야 AI 학습에도 활용된다. GPU 접근과 실시간 하드웨어 인터페이스가 필요한 VFX 전문가들도 주요 고객이며, 유전체학, 기후과학, 분자 모델링 등 과학 연구와 고성능 컴퓨팅 분야에서도 널리 사용되고 있다.
시장의 제약 요인
AI 네오클라우드 시장은 몇 가지 중요한 제약 요인에 직면해 있다. AI 워크로드는 상당한 열을 발생시켜 고도의 냉각 시스템이 필요하며, 이는 추가 에너지 소비로 이어져 탄소 배출 문제를 야기한다. 또한 데이터센터 전력 수요는 향후 10년간 두 배로 증가할 전망이며, 전력 확보의 어려움을 겪고 있다.
실제로 메타는 희귀 벌 서식지 보호로 AI 데이터센터용 원자력 발전소 허가를 받지 못했으나, 코어위브는 850메가와트의 전력을 확보해 차별화에 성공했다. 여기에 최신 반도체는 새로운 칩 아키텍처 출시와 기본 모델의 빠른 발전으로 예상보다 빠르게 감가상각되는 문제도 있다.
시장 전망과 투자 동향
AI 네오클라우드 시장은 2024년 최소 40억 달러 규모를 형성할 것으로 예상되며, 2027년까지 320억 달러 규모까지 성장할 전망이다. 주요 기업들의 예상 매출을 보면 코어위브는 2024년 20억 달러, 람다는 6억 달러, 세레브라스와 그록은 각각 2.7억 달러와 1.08억 달러를 기록할 것으로 예측된다.
투자 시장에서는 2024년에 7건의 메가딜이 성사되었으며, 31건의 AI 네오클라우드 거래에 부채가 포함되었다. 특히 코어위브는 75억 달러 규모의 메가트랜치를 조달하는데 성공했다. 이러한 VC 거래는 대체로 향후 매출의 10배 수준에서 이루어지고 있어, 소프트웨어 중심의 AI 스타트업들과는 다른 비즈니스 모델을 보여주고 있다.
기사에 인용된 리포트의 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
