In Deep Trouble: Surfacing Tech-Powered Sexual Harassment in K-12 Schools
생성형 AI로 인한 NCII 확산, K-12 학교의 새로운 도전
생성형 AI 기술의 급속한 발전으로 교육 현장이 새로운 도전에 직면하고 있다. 특히 비동의 친밀 이미지(Non-Consensual Intimate Imagery, NCII) 문제가 K-12 학교에서 심각한 이슈로 대두되고 있다. 미국 민주주의기술센터(Center for Democracy & Technology, CDT)가 2024년 7월부터 8월까지 실시한 조사 결과, 이 문제의 심각성이 여실히 드러났다. 고등학생의 40%, 교사의 29%가 지난 학년도(2023-2024)에 학교 관련 인물을 묘사한 딥페이크 영상이 공유된 것을 알고 있다고 응답했다. 더욱 우려되는 점은 학생들의 15%, 교사의 11%가 성적으로 노골적이거나 은밀한 내용의 딥페이크 NCII가 공유된 것을 목격했다고 답한 것이다. 이는 실제 촬영된 NCII뿐만 아니라 AI로 만들어진 가짜 NCII까지 학교 내에서 빠르게 확산되고 있음을 보여준다.
NCII의 확산 경로도 다양해지고 있다. 조사에 따르면 딥페이크 NCII는 주로 소셜 미디어나 온라인 플랫폼(61%), 문자 메시지(31%), 직접 기기 화면 보여주기(21%) 등의 방식으로 공유되고 있다. 이는 디지털 기술의 발달로 NCII의 제작과 유포가 더욱 쉬워졌음을 시사한다. 특히 생성형 AI의 등장으로 누구나 쉽게 딥페이크 영상을 만들 수 있게 되면서, 이를 악용한 NCII 제작이 급증하고 있는 것으로 보인다.
여학생과 LGBTQ+ 학생들이 더 큰 위험에 노출
CDT의 조사 결과, NCII 피해는 여학생과 LGBTQ+ 학생들에게 더 집중되는 것으로 나타났다. 딥페이크 NCII 피해 사례 중 여학생이 등장하는 경우가 남학생보다 훨씬 많았다. 딥페이크 NCII를 목격한 학생들 중 51%가 여학생이 더 자주 묘사된다고 답했으며, 남학생이 더 자주 묘사된다고 답한 비율은 14%에 불과했다. 교사들의 응답에서도 비슷한 경향이 나타났다.
또한 여학생과 LGBTQ+ 학생들은 학교의 NCII 예방 및 대응 능력에 대해 낮은 신뢰도를 보였다. 학교가 딥페이크 NCII를 공유한 학생에게 적절한 처벌을 내리는 공정한 절차를 가지고 있다고 답한 비율이 여학생은 42%, LGBTQ+ 학생은 43%에 그쳤다. 반면 남학생은 51%, 비LGBTQ+ 학생은 50%가 이에 동의했다. 이는 기존의 성차별적 문화와 기술의 결합이 특정 집단에 대한 차별과 피해를 심화시킬 수 있음을 보여주는 것으로, 학교의 보다 적극적인 대응이 필요한 부분이다.
학교의 미흡한 예방 조치와 사후 대응의 문제점
CDT의 조사에 따르면 대다수의 학교들이 NCII 문제에 대한 예방책을 마련하지 못하고 있는 것으로 나타났다. 교사들의 60% 이상이 학교나 교육청으로부터 실제 NCII나 딥페이크 NCII 관련 정책이나 대응 절차에 대한 안내를 받지 못했다고 응답했다. 학생들 역시 NCII의 위험성이나 신고 절차 등에 대해 학교로부터 충분한 교육을 받지 못하고 있다고 답했다. 딥페이크 NCII의 해악을 설명받았다는 학생은 13%에 불과했으며, NCII 목격 시 누구에게 알려야 하는지 안내받은 학생도 15%에 그쳤다.
더욱이 학교들의 NCII 대응은 주로 사후 처벌에 집중되어 있는 것으로 나타났다. NCII 가해 학생들의 상당수가 정학이나 퇴학, 심지어 법적 처벌까지 받는 것으로 조사됐다. 교사들의 응답에 따르면, 딥페이크 NCII를 공유한 학생들에 대해 38%가 법 집행 기관에 회부되었고, 33%가 장기 정학, 21%가 퇴학 처분을 받았다.
반면 NCII 피해 학생들을 위한 지원은 매우 부족한 실정이다. 피해 학생들을 위한 상담이나 온라인 콘텐츠 삭제 지원 등의 프로그램이 제공되고 있다고 답한 교사는 10% 미만이었다. 이는 NCII로 인한 2차 피해를 막고 피해 학생의 회복을 돕는데 한계가 있을 수 있음을 시사한다.
학교의 NCII 대응 개선을 위한 제언
CDT는 이번 조사 결과를 바탕으로 학교들의 NCII 대응 개선을 위한 몇 가지 제언을 제시했다. 첫째, NCII 예방 교육을 강화해야 한다. 학생들에게 NCII의 위험성과 법적 처벌 가능성 등을 명확히 인지시켜야 하며, 디지털 시민의식 교육의 일환으로 NCII 문제를 다루어야 한다.
둘째, 피해자 중심의 정책을 수립해야 한다. NCII 피해 학생들을 위한 상담, 온라인 콘텐츠 삭제 지원, 학습 일정 조정 등 실질적인 지원 프로그램을 마련해야 한다. 또한 피해 신고 절차를 간소화하고, 피해자의 프라이버시를 보호하는 방안도 마련해야 한다.
셋째, 교사 대상 NCII 대응 교육을 실시해야 한다. 교사들이 NCII 사안을 적절히 처리할 수 있도록 관련 정책과 절차에 대한 교육을 실시해야 한다. 특히 트라우마 인지적 접근법과 피해자 비난을 피하는 언어 사용 등에 대한 훈련이 필요하다.
넷째, 학부모 참여를 확대해야 한다. NCII 정책 수립 과정에 학부모들의 의견을 적극 반영하고, 가정에서의 예방 교육을 지원해야 한다. 조사에 따르면 59%의 학부모가 NCII 정책에 대한 의견 제시를 원하지만, 실제로 의견을 구한 학교는 13%에 불과했다.
CDT는 이러한 노력을 통해 학교가 모든 학생들에게 안전하고 건강한 학습 환경을 제공할 수 있을 것이라고 강조했다. 생성형 AI 시대의 새로운 도전에 맞서 학교의 보다 체계적이고 포괄적인 접근이 필요한 시점이다. NCII 문제는 단순히 기술적 해결책만으로는 해결할 수 없으며, 학교 공동체 전체의 인식 개선과 협력이 필요한 복합적인 과제이다. 따라서 학교, 교사, 학생, 학부모가 함께 노력하여 모든 학생이 안전하게 학습할 수 있는 환경을 만들어나가야 할 것이다.
기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
