새로운 기술이 나타나면 그 기술을 악용하는 악당들은 항상 있어 왔습니다.
코딩없이 채팅으로 간편하게 이미지를 만들어 내는 이미지 생성형 AI 기술은 그들의 먹이가 되었습니다. 바로 ‘딥페이크’를 이용한 디지털 성범죄입니다. 타인의 얼굴을 도용해 음란물에 합성하는 이 범죄는 피해자의 삶을 송두리째 무너뜨리고 있습니다.
딥페이크 피해는 해를 거듭할수록 기하급수적으로 늘어나고 있습니다. 미국의 테크기업 쏜의 설문조사에 의하면 지난해 미성년자 학생 가운데 11%가 인공지능을 이용해 딥페이크 음란물을 제작한 친구를 알고 있다고 응답했습니다.
미국 사이버보안 업체인 ‘시큐리티 히어로’가 발표한 ‘2023 딥페이크 현황 보고서’에 따르면 딥페이크 성착취물에 가장 취약한 국가는 1위가 한국이 꼽혔습니다. 딥페이크 음란물에 등장하는 개인 중 절반이 넘은 53%가 한국인이었다는 사실은 부끄럽기까지 합니다. 실제 여성가족부산하 디지털성범죄피해자지원센터에 따르면 2018년 69건에 불과하던 피해 지원 건수가 올해 8월 기준 781건으로 11배 이상 증가했습니다. 피해 사실을 모르거나 여러 이유로 신고하지 않은 건을 고려하면 문제는 더 심각합니다. 더욱 충격적인 것은 피해자의 36.9%가 10대 이하라는 점입니다.
이러한 상황에서 많은 사람들이 ‘AI가 성범죄를 양산한다’, ‘빠른 기술 발달이 사회를 망치고 있다’ 등의 기술 자체를 비난하곤 합니다. 그러나 우리는 중요한 사실을 간과하고 있습니다. AI는 단지 도구일 뿐, 그 자체로는 선악이 없습니다. 선례를 봤을 때 악플을 다는 것도, 리벤지 포르노를 공유하는 것도, 딥페이크를 만들어 유포하는 것도 모두 기술을 악용하는 이들이 저지른 범죄입니다.
이미 우리는 AI와 함께 살아가야 하는 시대에 들어섰습니다. 마치 인터넷이 당연한 시대처럼 말입니다. 이러한 현실에서 우리에게 필요한 것은 AI를 배척하거나 두려워하는 것이 아니라, AI 리터러시를 강화하는 것입니다. AI 리터러시는 AI 기술을 이해하고 올바르게 사용할 수 있는 능력을 말합니다. AI가 역할을 파악하고 올바르게 활용하는 법을 익혀 인간이 기술을 악용해 범죄를 저지르지 않도록 예방할 수 있습니다. 특히 AI 네이티브로 자리잡을 청소년을 대상으로 한 디지털 윤리 교육이 시급합니다. AI 기술의 원리와 잠재력, 그리고 그것이 악용될 때의 위험성을 깨닫게 해야 합니다. ‘재미 삼아’ 저지른 행동이 타인의 인생을 파괴할 수 있다는 점을 인식시켜야 합니다.
또한 사회 전체가 나서서 이 문제를 해결하기 위한 다각도의 노력이 필요합니다. AI 리터러시 교육과 더불어, 피해자를 위한 종합 지원 시스템을 강화해야 합니다. 기술 기업들과 협력하여 딥페이크 탐지 및 제거 기술을 개선하고, 대규모 공공 캠페인을 통해 디지털 윤리 의식을 확산시켜야 합니다. 학계와의 지속적인 연구 협력을 통해 정책과 대응 전략을 개선해 나간다면, 우리 사회는 급변하는 기술 환경 속에서도 개인의 권리를 보호하고 건강한 디지털 문화를 조성할 수 있을 것입니다.
한편, AI 기술을 개발하는 책임자들은 윤리적인 가이드라인을 설립하고 사회의 변화에 맞게 꾸준히 개선해야 합니다. 최근 일론 머스크가 인수한 X의 생성형 AI인 Grok-2는 미국 유력 대선주자들의 딥페이크 이미지로 논란이 되었습니다. 이러한 논란을 방지하기 위해 기업들은 자체적인 윤리 가이드라인을 수립하고 이를 철저히 준수해야 합니다. 정부 역시 AI 모델 출시 전 윤리성 검증 절차를 의무화하는 등의 조치를 취해야 합니다.
마지막으로, 우리 사회 전반의 인식 개선이 필요합니다. 딥페이크 영상을 단순한 호기심으로 보거나 공유하는 행위 자체가 2차 가해가 될 수 있다는 점을 인식해야 합니다. 여기서 2차 가해자의 의미는 공유하는 사람도 처벌을 받을 수 있다는 것입니다.
우리는 기술의 발전을 막을 수는 없습니다. 하지만 그것을 어떻게 사용할지는 우리의 몫입니다. AI와 공존하는 시대, 우리에게 필요한 것은 기술이 만들어내는 결과를 두려워하거나 배척하는 것이 아니라, 그것을 올바르게 이해하고 사용하는 능력입니다. 급격하게 변화하는 현재 우리의 현명한 대응이 미래 세대를 지키는 열쇠가 될 것입니다.
