미스트랄, 오픈소스 AI 모델 ‘스몰 3.1’ 출시… GPT-4o 미니보다 성능 뛰어나

미스트랄 AI(Mistral AI)가 동급 최고 성능을 자랑하는 새로운 AI 모델 ‘미스트랄 스몰 3.1(Mistral Small 3.1)’을 발표했다. 17일(현지 시간) 미스트랄 홈페이지에 발표된 내용에 따르면, 이 모델은 텍스트 처리 성능 개선, 멀티모달 이해 능력, 최대 128K 토큰의 확장된 문맥 창을 갖추고 있으며 아파치 2.0 라이선스로 출시되었다.

미스트랄 스몰 3.1은 젬마 3(Gemma 3)와 GPT-4o 미니(GPT-4o Mini) 같은 경쟁 모델보다 뛰어난 성능을 보이면서도 초당 150 토큰의 추론 속도를 제공한다. 텍스트 지시 벤치마크, 멀티모달 지시 벤치마크, 다국어 지원, 긴 문맥 처리 등 다양한 테스트에서 경쟁 모델들을 능가하는 결과를 보여주었다.

이 모델은 가벼운 무게가 특징으로, 단일 RTX 4090 또는 32GB RAM이 있는 Mac에서 실행 가능하다. 빠른 응답 대화 지원, 낮은 지연 시간의 함수 호출, 특정 분야 파인튜닝 등의 기능을 제공한다. 주요 활용 분야로는 법률 자문, 의료 진단, 기술 지원과 같은 전문 분야와 문서 검증, 온디바이스 이미지 처리, 품질 검사, 보안 시스템의 객체 감지, 이미지 기반 고객 지원 등이 있다.

미스트랄 스몰 3.1은 허깅페이스(huggingface) 웹사이트에서 다운로드 가능하며, 미스트랄 AI의 개발자 플랫폼 ‘라 플랫폼(La Plateforme)’과 구글 클라우드 버텍스 AI(Google Cloud Vertex AI)에서도 바로 사용할 수 있다. 향후 엔비디아 NIM(NVIDIA NIM)과 마이크로소프트 애저 AI 파운드리(Microsoft Azure AI Foundry)에서도 제공될 예정이다.

해당 모델에 대한 자세한 사항은 링크에서 확인할 수 있다.

이미지 출처: 미스트랄

기사는 클로드와 챗GPT를 활용해 작성되었습니다. 

관련 콘텐츠 더보기

뉴스

바이두, 추론-멀티모달 2가지 AI 모델 출시… 딥시크 성능에 가격은 반

뉴스

구글, ‘단일 GPU/TPU에서 실행 가능한 가장 강력한 모델’ 젬마 3 공개