오픈AI가 브로드컴과 함께 자체 설계한 첫 AI 추론 전용 칩 ‘할라피뇨(Jalapeño)’를 6월 25일 공개했다. 오픈AI는 이 칩을 ‘인텔리전스 프로세서’로 명명하고, 거대언어모델(LLM) 추론에 최적화한 다세대 컴퓨팅 플랫폼의 첫 번째 결과물이라고 설명했다. 모델을 학습시키는 것보다, 학습된 모델을 실제 서비스에서 빠르고 싸게 돌리는 ‘추론’에 초점을 맞춘 첫 자체 실리콘이다.
할라피뇨는 오픈AI 연구진의 실제 모델 운영 데이터를 바탕으로 커널, 메모리 이동, 네트워킹, 서빙 패턴을 모두 추론 작업에 맞춰 설계됐다. 칩 실리콘 구현과 네트워킹은 브로드컴이, 보드·랙·시스템 통합은 셀레스티카가 맡는 분업 구조다. 오픈AI는 초기 설계부터 양산용 테이프아웃까지 9개월밖에 걸리지 않았다며, 고성능 반도체 역사상 가장 빠른 ASIC 개발 주기 중 하나라고 강조했다. 칩 개발 과정 자체에도 오픈AI의 모델을 투입해 속도를 끌어올렸다는 설명이다. 초기 테스트에서 와트당 성능이 현존 최고 수준을 크게 웃돌았다고 회사는 밝혔다.
이번 칩은 엔비디아 GPU에 집중돼 있던 추론 인프라를 다변화하려는 오픈AI의 의지를 드러낸다. 할라피뇨는 2026년 말 초기 배치를 시작해 이후 세대를 확장할 계획이다. 앞서 양사는 10기가와트(GW) 규모 인프라 구축 프로젝트를 함께 진행한다고 발표한 바 있는데, 이번에는 그 위에 올릴 자체 가속기 제품을 처음으로 구체화했다.
자체 칩 설계는 빅테크 전반의 공통된 행보가 됐다. 구글은 텐서처리장치(TPU)를, 아마존은 트레이니움·인퍼런시아를, 메타는 MTIA를, 마이크로소프트는 마이아를 각각 개발해 엔비디아 의존도를 낮추고 있다. 오픈AI도 이 대열에 합류하면서, AI 칩 시장의 경쟁 구도가 학습용 GPU 단일 축에서 추론 전용 가속기로 넓어지고 있다.
추론 비용은 AI 서비스의 수익성을 좌우하는 핵심 변수다. 자체 칩으로 단위 추론 효율을 끌어올리면 챗GPT 운영비를 낮추고 가격 경쟁력을 확보할 수 있다. 추론 칩 역시 고대역폭 메모리(HBM)를 함께 쓰는 만큼, SK하이닉스·삼성전자 등 HBM 공급사에게는 학습용에 이어 추론용이라는 새 수요처가 열린다. 국내 AI 서비스 기업과 클라우드 사업자에게도 추론 전용 하드웨어 확보 경쟁이 본격화되는 흐름은 인프라 전략을 다시 점검하게 만든다.
▶︎ 관련기사: 오픈AI, 브로드컴-TSMC와 첫 AI칩 개발 / 오픈AI-브로드컴, “인류 역사상 최대 산업 프로젝트” 시작한다
자세한 내용은 OpenAI에서 확인할 수 있다.
이미지 출처: 오픈AI
