미드저니, AI 이미지 편집 도구 공개 예정… 딥페이크 우려 속 안전장치 마련 필요

미국 IT전문매체 테크크런치는 미드저니(Midjourney)가 웹상에서 누구나 AI를 이용해 이미지를 편집할 수 있는 업그레이드된 도구를 출시할 계획이라고 밝혔다.

데이비드 홀츠(David Holtz) 미드저니 CEO는 “다음 주 초” 새로운 도구를 공개할 예정이라고 밝혔다. 이 도구를 통해 사용자들은 웹에서 업로드한 모든 이미지를 미드저니의 생성형 AI를 사용해 편집할 수 있게 된다. 또한 이미지 내 객체의 질감을 변경하거나 캡션에 따라 색상과 세부 사항을 ‘다시 그리는’ 기능도 제공할 예정이다.

AI를 이용한 기존 이미지 편집은 최근 뜨거운 감자로 떠올랐다. 메타(Meta)와 같은 플랫폼들은 AI 도구로 편집된 이미지와 AI 모델로 처음부터 생성된 이미지를 어떻게 구분해 라벨을 붙일지 고심하고 있다. 반면 구글(Google)과 같은 기업들은 이미지가 AI로 수정되었다는 시각적 표시 없이 강력한 AI 기능을 출시하고 있다.

작년 미드저니는 IPTC의 디지털 소스 유형(Digital Source Type) 속성 사용을 약속했다. 이는 이미지가 AI로 생성되었음을 나타내는 메타데이터를 이미지에 포함하는 기술 표준이다. 그러나 미드저니는 이미지의 전체 출처, 생성에 사용된 장비 및 소프트웨어를 추적하는 메타데이터 기술인 C2PA를 채택하지 않은 몇 안 되는 주요 AI 플랫폼 중 하나다.

홀츠는 미드저니 공식 디스코드(Discord) 서버에 올린 게시물에서 업그레이드된 이미지 도구를 처음에는 “현재 커뮤니티의 일부”에게만 제한적으로 공개할 것이라고 말했다. 또한 남용을 방지하기 위해 인력 모더레이션을 늘리고 “새롭고 더 발전된 AI 모더레이터”를 도입할 예정이라고 덧붙였다.

그는 “솔직히 이 기능의 배포를 정확히 어떻게 제한해야 할지 확신하지 못하고 있다”고 말했다. 미드저니는 어떤 사용자에게 먼저 접근 권한을 줄지 결정하기 위해 커뮤니티의 의견을 수렴하는 투표를 진행하고 있다.

적절한 안전장치 없이 이러한 편집 도구를 출시하는 것은 위험할 수 있다. 대규모 저작권 침해를 조장하거나 오해의 소지가 있는 딥페이크(deepfake)의 확산을 촉진할 수 있기 때문이다.

딥페이크는 소셜 미디어를 통해 빠르게 퍼지고 있으며, 진실과 허위 정보를 구별하기 더 어렵게 만들고 있다. 최근에는 허리케인 헬레네(Hurricane Helene) 발생 후 파괴와 인간의 고통을 담은 가짜 AI 생성 이미지들이 웹상에 범람했다.

딥페이크 탐지 기업 클래리티(Clarity)의 데이터에 따르면, 올해 생성되고 게시된 딥페이크는 작년 같은 기간에 비해 900% 증가했다. 이는 당연히 우려를 낳고 있다. 유고브(YouGov)의 최근 여론조사에 따르면 미국인의 85%가 오해의 소지가 있는 딥페이크가 온라인에서 확산되는 것에 대해 우려하고 있다.

미국 연방 차원에서 딥페이크를 범죄화하는 법률이 부재한 가운데, 10개 이상의 주에서 AI를 이용한 사칭을 금지하는 법령을 제정했다. 현재 보류 중인 캘리포니아주의 법안은 판사들에게 딥페이크 게시자에게 해당 콘텐츠를 삭제하도록 명령하거나 금전적 처벌을 부과할 수 있는 권한을 부여하는 최초의 법안이 될 전망이다.

기사에 인용된 테크크런치 기사 원문은 링크에서 확인할 수 있다.