메타, AI 누드 생성 앱 ‘크러시 AI’ 소송 제기… AI 딥페이크 대응 강화

메타(Meta)가 AI를 이용해 비동의 누드 이미지를 생성하는 ‘누드파이(nudify)’ 앱에 대한 강력한 대응에 나섰다. 메타는 12일(현지 시간) 크러시AI(CrushAI) 앱을 운영하는 조이 타임라인 HK 리미티드(Joy Timeline HK Limited)를 상대로 홍콩에서 소송을 제기했다고 자사 홈페이지를 통해 발표했다. 크러시AI는 개인의 동의 없이 AI로 생성된 누드나 성적으로 노골적인 이미지를 제작할 수 있는 앱이다.

메타에 따르면, 조이 타임라인은 메타의 광고 심사 과정을 우회하고 규정 위반으로 반복 제거된 광고를 여러번 다시 게재하려고 시도했다. 메타는 1년 전부터 누드파이 앱 홍보를 금지하는 정책을 시행해왔으며, 관련 광고와 계정을 발견하는 즉시 삭제하고 있다. 메타는 이번 법적 조치가 이런 남용을 얼마나 심각하게 받아들이고 있는지를 보여주는 것이라고 강조했다.

메타는 누드파이 앱이 인터넷 전반에 퍼져있어 한 플랫폼만의 대응으로는 한계가 있다고 판단하여 테크 연합(Tech Coalition)의 랜턴(Lantern) 프로그램을 통해 다른 기술 회사들과 정보를 공유하기로 했으며, 3월 말부터 참여 기업들에게 3800개 이상의 위반 URL을 제공했다고 밝혔다.

한편 메타는 광고 자체에 누드가 포함되지 않아도 누드파이 앱 광고를 식별할 수 있는 새로운 기술을 개발했으며, 올해 초부터 전문팀의 심층 조사를 통해 이런 서비스를 홍보하려던 4개의 계정 네트워크를 차단했다고 밝혔다.

해당 기사의 원문은 메타 홈페이지에서 확인 가능하다.

이미지 출처: 메타