오픈AI, 마틴 루터 킹 목사 딥페이크 생성 중단…유족 요청 받아들여

오픈AI(OpenAI)가 인공지능(AI) 영상 생성 앱 소라(Sora)에서 마틴 루터 킹 주니어 목사를 묘사하는 딥페이크 영상 생성을 중단했다. 킹 목사 유족의 요청에 따른 조치다.

복수의 외신에 따르면 오픈AI는 소라가 민권 운동가인 킹 목사에 대해 부적절한 콘텐츠를 만들었다고 인정했다.

소라는 초현실적인 영상을 만드는 데 뛰어난 성능을 보이며 전세계적으로 입소문을 탔다. 하지만 이로 인해 사망한 유명인사와 역사적 인물들을 기괴하고 종종 공격적인 시나리오에 등장시킨 가짜 영상들이 공유되는 문제가 발생했다.

오픈AI는 “역사적 인물들에 대한 보호 장치를 강화하는 동안” 킹 목사 이미지를 일시 중단하겠다고 밝혔다. 그러나 다른 유명 인사들의 영상 제작은 여전히 허용하고 있다.

이러한 접근 방식은 논란을 일으켰다. 이미 존 F. 케네디 대통령, 엘리자베스 2세 여왕, 스티븐 호킹 교수 등의 인물이 등장하는 영상들이 온라인에서 널리 공유됐기 때문이다.

2014년 사망한 미국의 유명 배우이자 코미디언 로빈 윌리엄스의 딸 젤다 윌리엄스는 사람들에게 자신의 아버지를 AI로 생성한 영상을 보내지 말아달라고 요청했다. 킹 목사의 딸 버니스 A. 킹도 비슷한 공개 호소를 했다.

워싱턴포스트에 따르면 AI로 생성된 킹 목사 영상 중에는 그의 유명한 “나에게는 꿈이 있습니다(I Have a Dream)” 연설을 다양한 방식으로 편집한 것들이 있었다. 한 영상에서는 킹 목사가 인종차별적인 소리를 내는 것으로 나타났다. 또 소라 앱과 소셜미디어에 공유된 다른 영상들은 킹 목사와 동료 민권 운동가 말콤 X를 닮은 인물들이 서로 싸우는 장면을 보여줬다.

AI 윤리학자이자 저자인 올리비아 갬블린은 BBC와의 인터뷰에서 오픈AI가 킹 목사 이미지의 추가 사용을 제한한 것에 대해 긍정적으로 평가했다. 하지만 그는 회사가 이러한 기술을 출시하면서 뒤늦게 수습하는 방식을 취하기보다는 처음부터 조치를 마련했어야 한다고 지적했다.

이미지 출처: 이디오그램 생성