엔비디아가 AI 보안을 공동으로 다루는 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’ 출범을 알렸다. 현지 시각 7월 27일 공식 블로그 발표다. 공개된 모델과 도구로 사이버 방어 기술을 함께 만들자는 취지다.
창립 파트너는 37곳이다. 마이크로소프트·IBM·시스코·팔로알토네트웍스·크라우드스트라이크·세일즈포스·SAP·데이터브릭스·스노우플레이크·허깅페이스·레드햇·리눅스 재단·팔란티어·스페이스X AI 등이 참여했고, 국내에서는 네이버와 SK텔레콤이 들어갔다. 공식 명단에 메타는 없다.
엔비디아가 내놓는 것은 공개 모델과 모델 가중치, 데이터, 그리고 에이전트 하네스 연구다. 하네스는 모델을 감싸 실제 작업을 수행하게 하는 실행 환경을 말한다. 엔비디아는 이 가운데 ‘NOOA(NVIDIA Labs Object-Oriented Agent)’ 연구 프레임워크를 깃허브에 오픈소스로 공개했다. 에이전트의 행동을 시험하고 추적·감사하기 쉽게 만드는 것이 목적이다.
다른 참여사도 각자 기술을 내놨다. 허깅페이스는 모델 가중치를 안전하게 저장하는 형식인 세이프텐서를 파이토치 재단에 넘겼고, 마이크로소프트는 여러 AI 에이전트가 협업해 취약점을 찾는 MDASH를 공유했다. 스페이스X AI는 코딩 에이전트 ‘그록 빌드’를 오픈소스로 공개했고, 그록 모델의 가중치도 공개할 계획이라고 밝혔다.
연합 출범의 배경으로는 허깅페이스 보안 사고가 직접 언급됐다. 엔비디아는 당시 폐쇄형 AI 도구가 공격자와 방어자를 구분하지 못해 포렌식 분석을 막았고, 허깅페이스가 자체 인프라에서 오픈웨이트 모델 GLM 5.2를 돌려 1만 7,000건이 넘는 행위를 분석한 끝에 침입을 차단했다고 설명했다.
자세한 내용은 엔비디아 공식 블로그에서 확인할 수 있다.
이미지 출처: 엔비디아
