미국 애리조나주립대(Arizona State University)와 조지타운대(Georgetown University) 연구팀이 AI로 성적인 이미지와 글을 만드는 사람 28명을 심층 인터뷰한 결과, 놀라운 실태가 드러났다. 해당 논문에 따르면, 취미로 만드는 사람부터 수십만 명이 모인 온라인 커뮤니티를 운영하는 전문가까지 다양한 제작자들이 존재했다. 더 충격적인 것은 이 중 3명이 실제 사람의 얼굴을 몰래 합성한 가짜 음란물을 만들었다고 시인한 것이다. 이번 연구는 AI 음란물 제작자들이 누구이며, 왜, 어떻게 이런 콘텐츠를 만드는지 최초로 체계적으로 밝혀낸 것으로 평가받는다.
IT 전문가부터 성노동자까지… 레딧 커뮤니티만 30만 명
AI 음란물을 만드는 사람들의 직업은 예상외로 다양했다. 28명 중 11명은 컴퓨터 프로그래밍 경험이 있었고, 8명은 IT 업계에서 일하고 있었다. 특히 3명은 AI를 전문적으로 공부했고, 2명은 해킹 커뮤니티 출신이었다. IT 분야만이 아니었다. 영화 감독, 사진작가, 전문 화가 등 예술 분야 종사자들도 포함됐고, 3명은 성 산업이나 성인 콘텐츠 업계에서 일한 경험이 있었다.
한 대형 온라인 커뮤니티 운영자는 “우리 커뮤니티에는 세 종류의 사람들이 있다. 이미 AI를 잘 다루는 사람들, 챗GPT 정도만 써본 초보자들, 그리고 ‘AI로 포르노를 만들 수 있다’는 말을 듣고 배우러 온 완전 문외한들”이라고 설명했다. 실제로 레딧(Reddit)의 한 AI 음란물 커뮤니티는 30만 명 이상의 회원을 보유하고 있으며, 이들은 제작 기술을 공유하고 서로 가르쳐주는 활발한 생태계를 형성하고 있었다.
이들이 AI 음란물 제작을 시작하게 된 계기도 다양했다. 한 제작자는 “AI로 그림을 만들다가 문득 ‘벗은 여자’라고 입력하면 어떻게 될까 궁금해서 시도했는데 그냥 만들어졌다”며 우연한 발견이 계기가 됐다고 밝혔다. 또 다른 제작자는 챗GPT로 시를 쓰다가 안전 필터에 막히자 화가 나서 제한 없는 AI를 찾아 나섰다고 했다. 흥미롭게도 일부는 AI 기술을 배우려고 여러 온라인 커뮤니티를 찾아다니다가 음란물 제작 커뮤니티에 가장 실력 있는 사람들이 모여 있다는 것을 발견하고, 기술 학습을 목적으로 이 분야에 입문했다고 설명했다.
오픈소스 프로그램부터 챗GPT 해킹까지… 점점 정교해지는 제작 방식
AI 음란물 제작자들이 사용하는 방법은 크게 세 가지였다.
가장 전문적인 방법은 직접 제작 시스템을 구축하는 것이었다. 16명의 제작자가 이 방식을 사용했는데, 스테이블 디퓨전(Stable Diffusion)이라는 무료 AI 이미지 생성 프로그램에 ‘로라(LoRA, Low-Rank Adaptation)’라는 맞춤형 학습 기법을 결합했다. 여기에 포토샵으로 손수정까지 더하는 복잡한 과정을 거쳤다. 이들은 파이썬 같은 프로그래밍 언어로 전체 과정을 자동화했다.
두 번째 방법은 기존 AI 서비스를 몰래 활용하는 것이었다. 7명의 제작자는 달리(DALL-E)나 미드저니 같은 상업용 AI의 안전장치를 우회하거나, 옷을 벗기는 전용 앱을 이용했다. 안전장치 우회란 원래는 만들 수 없는 음란물을 AI가 생성하도록 속이는 기술이다. 한 제작자는 “클로드는 안전장치 우회가 어렵지만, 딥시크는 제한이 거의 없어서 우회할 필요가 없었다”고 말했다.
세 번째는 다른 사람에게 돈을 주고 의뢰하는 방식이었다. 4명의 제작자가 의뢰를 받아 맞춤형 이미지를 제작한다고 밝혔다. 이들은 SNS나 온라인 커뮤니티에 자신의 작품을 올려 팔로워를 확보한 후 의뢰를 받았으며, 일부는 플랫폼을 통해 수익을 올렸다.
글로 된 음란물 제작도 활발했다. 17명의 제작자가 AI를 이용해 성적인 소설을 쓰거나 AI 캐릭터와 역할극을 했다. 이들은 ‘실리태번(SillyTavern)’이라는 프로그램을 사용해 캐릭터 정보, 장면 설정, 대사 등을 입력했다. 한 제작자는 “책에서 읽으면 작가의 상상을 따라가는 것이지만, AI 역할극에서는 내가 직접 캐릭터 중 하나가 된다. 내가 이야기의 절반을 만든다”며 AI가 제공하는 개인 맞춤형 경험을 강조했다.
“무엇이든 될 수 있다”… 성 정체성 탐구부터 돈벌이까지 다양한 동기
제작자들이 AI 음란물을 만드는 이유는 다섯 가지로 나뉘었다.
첫째는 성적 욕구 충족과 탐색이었다. 많은 제작자들이 기존 포르노로는 만족되지 않는 특수한 성적 취향을 AI로 구현했다. 한 제작자는 “정확히 내가 좋아하는 콘텐츠를 찾는 데 몇 달이 걸린다. AI는 내 특정한 취향을 눈으로 볼 수 있게 만들어줬다. 내가 원하는 것을 뭐든 만들 수 있는 자유를 느꼈다”고 말했다.
특히 역할극을 하는 제작자들은 AI가 제공하는 자유로움을 높이 평가했다. “AI를 사용하면 무한하게 탐색하고 실험할 수 있다. 누구와도 만날 수 있고, 무엇이든 될 수 있다. 지배하는 역할을 할 수도 있고 다음엔 복종하는 역할을 할 수도 있다. 다른 성별을 연기할 수도 있고, 심지어 다른 종족이 될 수도 있다. 문자 그대로 무엇이든 할 수 있다”는 증언도 나왔다. 일부는 AI를 통해 자신의 성 정체성을 탐색했다.
둘째는 예술적 표현이었다. 일부 예술가들은 AI 음란물 제작을 또 다른 예술 작업으로 여겼다. 한 무성애자 제작자는 “나는 성욕은 없지만 인체를 표현하는 것이 흥미롭다. 에로틱 아트가 모든 예술 중 가장 표현력이 풍부하다고 생각한다”고 말했다. 장애가 있는 한 예술가는 AI 덕분에 다른 사람의 도움 없이 혼자서 작품을 만들 수 있게 됐다며 기뻐했다.
셋째는 기술적 흥미였다. 많은 제작자들이 기술적 도전 자체를 즐겼다. 한 제작자는 “성적으로 흥분하려고 시작했는데 기술적인 것에 빠져서 원래 목적을 잊어버린다”고 말했다. 일부는 AI를 통해 파이썬 프로그래밍이나 깃허브 사용법을 배웠다고 밝혔다. 어떤 제작자는 “완벽한 손, 완벽한 눈을 만드는 것”을 목표로 최고로 사실적인 이미지를 만드는 데 집중했다.
넷째는 돈벌이였다. 일부는 취미로 시작했다가 수익화 기회를 발견했다. 구독 기반 플랫폼이나 직접 의뢰를 통해 콘텐츠를 판매하거나, 생성에 필요한 데이터나 제작 가이드를 판매하기도 했다. 한 제작자는 “‘중년 여성 발’처럼 정말 구체적인 것을 누군가 만들어서 ‘이게 있네, 다른 사람이 필요할 수도 있으니 팔아야겠다’고 생각한다”고 설명했다.
다섯째는 커뮤니티 참여와 검열 반대 신념이었다. 많은 제작자들이 온라인 커뮤니티에서 친구를 사귀고 기술을 공유했다. 한 제작자는 “몇 달 동안 거의 매일 밤 온라인에서 만나 각자 진행 중인 프로젝트에 대해 이야기하며 몇 시간씩 대화했다. 그게 나를 이 분야로 이끌었다”고 말했다.
일부 제작자는 AI 기업의 검열에 반대하는 정치적 활동으로 콘텐츠를 만들었다. 한 안전장치 우회 전문가는 “모든 사람이 AI를 검열 없이 자유롭게 사용할 수 있도록 하고, 대형 AI 회사의 약관을 깨는 것을 돕는다”며 우회 방법 가이드를 공유하는 이유를 설명했다.
28명 중 3명이 딥페이크 범죄 시인… 유명인·지인·모르는 사람까지
가장 우려스러운 발견은 28명 중 3명이 실제 사람의 얼굴을 몰래 합성한 가짜 음란물을 만들었다고 시인한 것이다. 또 다른 1명은 친구가 그런 콘텐츠를 만들었다고 밝혔고, 2명은 가짜 음란물 제작 의뢰를 받았지만 거절했다고 답했다. 아동 성 착취물 제작을 시인한 참가자는 없었지만, 연구진은 법적 처벌이 두려워 숨겼을 가능성이 있다고 지적했다.
가짜 음란물 제작자들이 사용한 방법은 다양했다. 옷 벗기기 앱을 사용해 일반 사진을 누드 사진으로 바꾸거나, 얼굴 교체 프로그램을 이용해 기존 음란 이미지에 특정인의 얼굴을 합성했다. 더 정교한 경우에는 유명 정치인이나 연예인을 만들기 위해 달리 같은 AI 이미지 생성 서비스의 안전장치를 우회했다. 가장 전문적인 방법은 ‘로라’라는 맞춤형 학습을 직접 시키는 것이었다. 한 제작자는 “유명인이나 특정 사람 사진 25~50장만 있으면 만들 수 있다. 매우 쉽다. 실행만 누르면 된다. 명령어를 입력하면 이미지가 나온다”고 설명했다.
피해자는 다양했다. 일부는 어머니나 여동생 같은 친척의 가짜 음란물 제작을 의뢰받았다고 밝혔다. 한 제작자는 “친척, 그 남자의 어머니나 여동생 같은 사람으로 성적 콘텐츠를 만들어달라는 요청을 받았다. ‘절대 안 된다’고 거절했다”고 했다. 또 다른 사례에서는 친구들을 만화 스타일로 그린 가짜 음란물을 만들었다. 유명인도 흔한 표적이었다. 한 AI 안전성 연구자는 “가끔 호기심에 두 유명인의 포르노 장면을 만든다”고 시인했다. 한 커뮤니티 운영자는 “한 남자가 계속 유명 여배우의 누드 사진만 만든다”고 증언했다.
동기도 다양했다. 성적 만족을 위해 짝사랑하는 사람의 이미지를 만들거나, 지루함과 새로운 시도에 대한 호기심, 커뮤니티에서 새로운 유명인으로 기여하고자 하는 욕구 등이 포함됐다. 돈벌이 목적도 있었다.
연구진은 가짜 음란물 제작자들이 대부분 피해를 최소화하거나 정당화했다고 지적했다. 일부는 만화 스타일이라서 괜찮다고 주장했고, 다른 이들은 내 컴퓨터에서만 만들면 다른 사람에게 영향을 주지 않는다고 합리화했다. 한 참가자는 인터뷰 중 처음에는 가짜 음란물 제작을 시인했다가 나중에 부인하기도 했다. 연구진은 가짜 음란물의 심각성에 대한 교육과 커뮤니티 차원의 개입이 필요하다고 강조했다.
FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)
Q1. AI로 음란물을 만드는 것이 불법인가요?
A. AI로 만든 음란물 자체는 불법이 아니지만, 실제 사람의 얼굴이나 모습을 동의 없이 사용한 가짜 음란물은 불법입니다. 미국에서는 2025년 통과된 TAKE IT DOWN Act가 실제 사람을 알아볼 수 있게 만든 AI 음란물을 규제합니다. 한국도 성폭력처벌법에서 딥페이크 성착취물 제작과 유포를 처벌하고 있습니다.
Q2. AI 음란물 제작에는 어떤 기술이 필요한가요?
A. 실력에 따라 다릅니다. 단순히 앱을 사용하는 경우 특별한 기술이 필요 없지만, 고품질 맞춤형 콘텐츠를 만들려면 AI 이미지 생성 프로그램 사용법, 프로그래밍, 맞춤형 학습 기법 등을 알아야 합니다. 일부는 AI 안전장치를 우회하는 기술도 사용합니다.
Q3. AI 음란물이 성노동자들에게 어떤 영향을 주나요?
A. 연구에 따르면 AI가 성노동자들의 일자리를 위협할 수 있습니다. AI로 더 싸게 비슷한 콘텐츠를 만들 수 있기 때문입니다. 또한 성노동자들의 사진이 동의 없이 AI 학습에 사용되거나 가짜 음란물로 도용되는 문제도 있습니다. 일부 성노동자들은 AI를 도구로 활용해 제작 비용을 줄이려 하지만, 전반적으로는 착취와 일자리 위협에 노출돼 있습니다.
기사에 인용된 논문 원문은 arXiv에서 확인 가능하다.
논문명: “Unlimited Realm of Exploration and Experimentation”: Methods and Motivations of AI-Generated Sexual Content Creators
이미지 출처: 이디오그램 생성
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.
