퀄컴-미스트랄AI 손잡았다…”엣지 디바이스용 생성형 AI 모델 탑재”

퀄컴(Qualcomm)이 스냅드래곤 서밋(Snapdragon Summit)에서 프랑스의 AI 기업 미스트랄AI(Mistral AI)와 협력해 스냅드래곤(Snapdragon) 플랫폼에 최적화된 생성형 AI 모델을 출시한다고 텔레콤TV가 보도했다.

퀄컴은 미스트랄AI의 첫 상용 AI 모델인 미니스트랄 3B(Ministral 3B)와 미니스트랄 8B(Ministral 8B)를 스냅드래곤 8 엘리트 모바일 플랫폼(Snapdragon 8 Elite Mobile Platform), 스냅드래곤 콕핏 엘리트(Snapdragon Cockpit Elite), 스냅드래곤 라이드 엘리트(Snapdragon Ride Elite), AI PC를 위한 스냅드래곤 X 시리즈 컴퓨트 플랫폼(Snapdragon X Series Compute Platforms)에 탑재한다.

미스트랄AI가 개발한 미니스트랄 3B와 8B는 컴팩트하면서도 강력한 성능을 갖춰 스마트폰, 자동차, PC 등 다양한 기기에서 구동이 가능하다. 특히 온디바이스 생성형 AI는 향상된 개인정보 보호, 낮은 지연시간, 안정성, 비용 절감, 에너지 효율성 등 다양한 이점을 제공한다.

퀄컴 테크놀로지의 두르가 말라디(Durga Malladi) 수석부사장은 “미니스트랄 3B와 8B를 통해 제조사, 소프트웨어 업체, 디지털 서비스 제공업체들이 AI 비서 등 혁신적인 서비스를 제공할 수 있을 것”이라고 밝혔다.

미스트랄AI의 공동창업자이자 CEO인 아서 멘시(Arthur Mensch)는 “이번 협력으로 전 세계 개발자와 사용자들이 자신의 기기에서 바로 AI의 잠재력을 경험할 수 있게 됐다”고 강조했다.

현재 퀄컴 AI 허브(Qualcomm AI Hub)에서는 미스트랄 7B v0.3 모델을 제공하고 있으며, 미니스트랄 3B와 8B도 곧 추가될 예정이다.

퀄컴의 Snapdragon Summit 2024 행사에 대한 자세한 내용은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.