마이크로소프트(Microsoft)가 동의 없이 유포되는 은밀한 이미지 문제에 대응하기 위한 새로운 접근법을 발표했다. 마이크로소프트의 디지털 안전 책임자인 코트니 그레고리(Courtney Gregoire)는 5일 블로그를 통해 이같은 내용을 공개했다.
마이크로소프트는 2015년부터 개인의 동의 없이 은밀한 이미지가 온라인에 공유될 때 발생하는 심각한 피해를 인식해 왔다. 하지만 최근 생성형 AI 기술의 발전으로 이 문제가 더욱 심각해지고 복잡해졌다고 그레고리는 설명했다.
마이크로소프트는 이 문제에 대응하기 위해 StopNCII와 파트너십을 체결했다고 밝혔다. StopNCII는 전 세계 성인들이 자신의 은밀한 이미지가 동의 없이 온라인에 공유되는 것을 막을 수 있도록 지원하는 플랫폼이다.
StopNCII는 피해자들이 자신의 이미지에 대한 ‘해시'(디지털 지문)를 생성할 수 있게 해준다. 이 해시는 여러 기업 파트너들이 자사 서비스에서 해당 이미지를 탐지하고 정책에 따라 조치를 취하는 데 사용된다.
마이크로소프트는 빙(Bing) 검색 엔진에서 StopNCII 데이터베이스를 활용해 이미지 검색 결과에서 문제가 되는 콘텐츠를 차단하는 시범 사업을 진행 중이다. 8월 말까지 268,899개의 이미지에 대해 조치를 취했다고 회사 측은 밝혔다.
마이크로소프트는 소비자 서비스 전반에 걸쳐 누군가의 허락 없이 성적으로 은밀한 이미지를 공유하거나 생성하는 것을 허용하지 않는다. 이는 기술을 사용해 생성하거나 변경한 사실적인 이미지도 포함한다.
회사는 또한 은밀한 이미지를 공유하거나 공개하겠다는 협박도 허용하지 않는다. 이는 이미지를 공개하지 않는 대가로 금전이나 다른 가치 있는 것을 요구하는 행위도 포함한다.
마이크로소프트는 중앙집중식 신고 포털을 통해 누구나 동의 없이 공유된 자신의 누드 또는 성적으로 노골적인 이미지나 동영상의 삭제를 요청할 수 있도록 했다.
마이크로소프트는 이 문제에 대한 접근법이 계속 진화해야 한다고 강조했다. 회사는 전 세계 리더들 및 전문가들과 협력하고 피해자들의 의견을 직접 듣겠다고 약속했다.
또한 미국 상무부 산하 국립표준기술연구소(NIST) 및 AI안전연구소와 협력해 합성 은밀한 이미지 악용 위험을 줄이기 위한 모범 사례를 개발할 계획이라고 밝혔다.
마이크로소프트는 이번 발표가 진화하는 문제에 대한 한 시점의 대응일 뿐이며, 앞으로도 지속적으로 접근법을 개선해 나갈 것이라고 강조했다.
마이크로소프트의 발표는 링크에서 확인할 수 있다.
관련 콘텐츠 더보기
