애저에 AMD 헬리오스 대규모 투입…MS, AI 추론 인프라 엔비디아 밖으로 넓힌다

AMD가 현지 시각 7월 20일 마이크로소프트와의 전략적 파트너십을 GPU와 CPU, 네트워킹, 소프트웨어 전반으로 확대한다고 발표했다. 마이크로소프트는 애저에 AMD 헬리오스 랙스케일 솔루션을 도입해 최첨단 AI 모델 추론과 애저 AI 서비스에 쓴다. AMD는 2026년 하반기부터 마이크로소프트를 비롯한 고객사에 헬리오스를 공급한다.

헬리오스는 AMD 인스팅트 MI455X GPU와 에픽 베니스 CPU, 펜산도 네트워킹, ROCm 소프트웨어를 하나로 결합한 개방형 랙스케일 플랫폼이다. 랙스케일은 서버 한 대가 아니라 랙 한 통을 하나의 컴퓨터처럼 묶어 설계하는 방식으로, 대규모 AI 학습과 추론에서 칩 사이 통신 병목을 줄이려는 구조다. 애저는 헬리오스를 최첨단 AI 모델과 애저 AI 서비스, 고객 애플리케이션의 추론 워크로드에 투입한다.

학습이 아니라 추론을 앞세운 점이 이번 발표의 특징이다. 추론은 이미 학습을 마친 모델이 실제 이용자 요청에 답하는 단계로, 서비스 이용자가 늘수록 비용이 계속 쌓인다. 최첨단 모델 개발자는 AMD 기반 인프라에서 대규모 모델을 학습하고 서비스할 수 있고, 기업 고객은 애저 파운드리 매니지드 컴퓨트에서 프로덕션 AI 워크로드를 배포하고 확장할 수 있다.

리사 수 AMD 대표는 "AMD와 마이크로소프트는 수년간 함께 고성능 인프라를 구축해 왔으며, 이제 이러한 협력을 애저에서 AMD AI 솔루션의 전체 스택으로 확대한다"며 "마이크로소프트의 새로운 AMD 도입은 애저 고객에게 업계 최고 수준의 컴퓨팅 솔루션을 제공하고 차세대 AI 인프라를 함께 확장하는 데 있어 중요한 이정표가 된다"고 말했다.

사티아 나델라 마이크로소프트 대표는 "고객들은 학습과 추론은 물론 데이터 준비, 검색, 강화학습에 이르기까지 다양한 워크로드에 최적화된 AI 인프라를 원하고 있다"며 "AMD와의 협력을 통해 AMD 헬리오스를 애저 인프라 포트폴리오에 추가함으로써 고객이 차세대 AI 애플리케이션을 구축하고 운영하는 데 필요한 성능, 확장성, 선택권을 제공한다"고 말했다.

애저는 6세대 에픽 베니스 프로세서를 기반으로 한 새 가상 머신 시리즈 두 종을 추가하는데, 에이전틱 AI와 데이터 파이프라인용 애저 HDv2와 반도체 설계용 애저 HXv2다. 네트워킹 계층에서는 마이크로소프트가 이미 광범위하게 배포한 AMD 펜산도 DPU에 더해, 양사가 애저 부스트와 AMD 기술을 통합해 클라우드 규모의 네트워킹 성능과 연결 처리 성능을 높인다. DPU는 서버 CPU가 맡던 네트워크와 저장장치 처리를 대신 떠맡는 전용 반도체다.

자세한 내용은 AMD에서 확인할 수 있다.

이미지 출처: AMD