구글, 제미나이 아키텍처 새긴 전용 칩 ‘프로즌 v2’ 개발…”현행 TPU보다 최대 10배 효율”

현지 시각 7월 20일 CNBC 등 외신 보도에 따르면, 구글이 ‘프로즌 v2’라는 코드명의 새 서버 칩을 개발하고 있다. 내부 소식통은 이 칩이 현행 텐서처리장치(TPU)보다 추론 효율이 6배에서 10배 높다고 전했다. 다만 구글은 칩의 존재나 성능 수치를 공식으로 확인하지 않았다.

프로즌 v2의 핵심은 제미나이 모델의 구조 일부를 실리콘에 직접 새겨 넣는 설계에 있다. 범용으로 여러 작업을 처리하는 TPU와 달리, 이 칩은 제미나이 계열 모델을 추론 단계에서 실행하는 한 가지 일에만 맞춰져 있다. 계산과 데이터 이동을 줄여 와트당 토큰 출력, 즉 같은 전력으로 처리하는 응답량을 크게 늘리는 것이 목표다.

엔지니어들은 이 칩이 2028년 배치를 겨냥하며, TPU를 대체하기보다 보완하는 별도 갈래라고 설명했다. 구글은 내부 컴퓨팅 부족으로 클라우드 고객 일부에게 서비스를 충분히 제공하지 못한 상황을 겪었는데, 프로즌 v2는 이 병목을 덜기 위한 것으로 전해졌다.

약점도 있다. 모델 구조가 실리콘에 고정되므로, 구글이 제미나이의 기본 설계를 유지해야만 이후 버전을 이 칩에서 돌릴 수 있다. 구조를 크게 바꾸면 칩의 쓸모가 줄어든다.

구글은 올해 제미나이 3.5 프로 출시 목표를 세 차례 미뤘고, 안드로이드를 경쟁 AI 비서에 개방하고 검색 데이터를 공유하라는 유럽연합의 명령도 받았다. 서비스 비용을 크게 낮추는 칩은 주력 모델이 늦어지는 동안에도 가격 경쟁을 이어갈 수 있는 수단이 된다. 보도가 나온 뒤 알파벳 주가는 상승했다.

자세한 내용은 CNBC에서 확인할 수 있다.

이미지 출처: 이디오그램 생성