미스트랄, 30억 매개변수 안전 검사 모델 ‘실드스트랄’ 공개…가중치도 개방

미스트랄이 텍스트와 이미지를 함께 검사하는 30억 매개변수 안전 분류 모델 실드스트랄(Shieldstral)을 현지 시각 8월 4일 공개했다.

실드스트랄은 유해 범주를 학습 단계에서 고정하지 않는다. 추론 시점에 평문으로 쓴 정책을 받아 그 기준에 맞춰 콘텐츠를 판정하는 정책 적응형 구조다. 조직마다 다른 검열 기준을 그대로 적용할 수 있다는 뜻이다. 미스트랄 연구진은 약 5,400만 개 샘플로 학습하면서 검열을 이진 질의응답 문제로 구성했다.

미스트랄은 실드스트랄이 텍스트 안전성에서 최대 7배 큰 오픈 가드 모델과 대등하거나 앞서고, 멀티모달 검열 벤치마크에서는 최고 성적을 기록했다고 밝혔다. 기반 모델은 미니스트랄-3-3B-베이스이며 픽스트랄 비전 인코더를 붙여 한 번의 순전파로 판정을 낸다.

이 정도 규모면 16GB GPU 한 장에서 구동할 수 있어, 민감한 입력을 외부 서비스로 보내지 않고 데이터가 만들어지는 곳 가까이에서 검열할 수 있다. 의료와 국방, 산업 설비, 정부처럼 개인정보 보호나 지연 시간 때문에 클라우드 검열을 쓰기 어려운 곳에서 특히 쓰임새가 있다. 실드스트랄은 허깅페이스에 아파치 2.0 라이선스로 공개됐고 12개 언어를 지원한다.

미스트랄이 발표한 세 번째 검열 모델이자 가중치를 개방한 첫 모델이다. 앞선 두 모델은 클라우드에서 호출하는 API 형태로만 제공됐다. 라우팅과 필터링, 검열, 분류, 보안처럼 판정만 하면 되는 작업을 거대 모델 대신 작은 전문 모델에 맡기면 연산 비용을 크게 줄일 수 있다.

자세한 내용은 미스트랄 AI에서 확인할 수 있다.

이미지 출처: 미스트랄