• Home
  • News
  • 손바닥만 한 AI 슈퍼컴이 24만원? 엔비디아, 생성형 AI 슈퍼컴퓨터 대중화 나선다

손바닥만 한 AI 슈퍼컴이 24만원? 엔비디아, 생성형 AI 슈퍼컴퓨터 대중화 나선다

손바닥만 한 AI 슈퍼컴이 24만원? 엔비디아, 생성형 AI 슈퍼컴퓨터 대중화 나선다
이미지출처: 엔비디아 공식 블로그

엔비디아가 17일(현지시간) 손바닥 크기의 새로운 생성형 AI 슈퍼컴퓨터를 공개했다. 젯슨 오린 나노 슈퍼 개발자 키트(Jetson Orin Nano Super Developer Kit)는 기존 제품 대비 성능은 향상되고 가격은 절반 가까이 낮춘 것이 특징이다.

가격은 기존 499달러에서 249달러로 인하됐으며, 17일부터 구매할 수 있다. 이 제품은 기존 모델 대비 생성형 AI 추론 성능이 최대 1.7배, INT8 연산 성능이 70% 증가한 67 TOPS를 기록했다. 메모리 대역폭도 50% 향상된 102GB/s를 지원한다.

기존 사용자도 혜택 제공

엔비디아는 새로운 젯슨 오린 나노 슈퍼의 소프트웨어 업데이트를 기존 젯슨 오린 나노 개발자 키트 사용자에게도 제공한다. 이를 통해 기존 사용자도 생성형 AI 성능 향상을 체험할 수 있다.

젯슨 오린 나노 슈퍼는 생성형 AI, 로보틱스, 컴퓨터 비전 분야에서 기술을 개발하고자 하는 이들에게 적합하다. AI 세계가 특정 작업 모델에서 기반 모델로 전환됨에 따라, 아이디어를 현실로 구현할 수 있는 접근성 높은 플랫폼을 제공한다.


강력한 하드웨어 사양 탑재

이 제품은 젯슨 오린 나노 8GB 시스템온모듈(SoM)과 레퍼런스 캐리어 보드로 구성됐다. 엔비디아 앰퍼 아키텍처(NVIDIA Ampere architecture) GPU와 텐서 코어, 6코어 ARM CPU를 탑재해 다중 AI 애플리케이션 파이프라인과 고성능 추론을 지원한다. 최대 4개의 카메라를 연결할 수 있으며, 이전 버전보다 높은 해상도와 프레임률을 제공한다.

풍부한 소프트웨어 생태계 지원

생성형 AI는 빠르게 진화하고 있다. 엔비디아 젯슨 AI 랩(NVIDIA Jetson AI lab)은 오픈소스 커뮤니티의 최신 모델을 즉시 지원하고 사용하기 쉬운 튜토리얼을 제공한다. 개발자들은 또한 광범위한 젯슨 커뮤니티의 지원을 받고 다른 개발자들이 만든 프로젝트에서 영감을 얻을 수 있다.

젯슨은 로보틱스를 위한 엔비디아 아이작(NVIDIA Isaac), 비전 AI를 위한 엔비디아 메트로폴리스(NVIDIA Metropolis), 센서 처리를 위한 엔비디아 홀로스캔(NVIDIA Holoscan) 등 엔비디아의 AI 소프트웨어를 지원한다. 또한 합성 데이터 생성을 위한 엔비디아 옴니버스 레플리케이터(NVIDIA Omniverse Replicator)와 NGC 카탈로그의 사전 학습된 AI 모델을 미세 조정할 수 있는 엔비디아 TAO 툴킷도 사용할 수 있다.

젯슨 생태계 파트너들은 추가적인 AI와 시스템 소프트웨어, 개발자 도구, 맞춤형 소프트웨어 개발을 지원한다. 또한 카메라와 기타 센서, 캐리어 보드, 제품 솔루션을 위한 설계 서비스를 제공할 수 있다.

슈퍼 모드로 모든 젯슨 오린 성능 향상

1.7배 생성형 AI 성능을 향상시키는 소프트웨어 업데이트는 젯슨 오린 NX와 오린 나노 시리즈 시스템온모듈에도 제공될 예정이다. 현재 젯슨 오린 나노 개발자 키트 소유자는 젯팩 SDK(JetPack SDK)를 업그레이드하여 향상된 성능을 바로 체험할 수 있다.

이 제품은 대규모 언어 모델(LLM) 기반 챗봇 개발, 시각적 AI 에이전트 구축, AI 기반 로봇 배포 등 다양한 분야에서 활용될 것으로 기대된다.

해당 기사의 원문은 엔비디아 블로그에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 




손바닥만 한 AI 슈퍼컴이 24만원? 엔비디아, 생성형 AI 슈퍼컴퓨터 대중화 나선다 – AI 매터스