오픈AI, AI 기술 악용 아동 착취 막는 ‘아동 안전 청사진’ 발표

오픈AI(OpenAI)가 AI 기술을 이용한 아동 성적 착취를 방지하기 위한 종합 정책 프레임워크 ‘아동 안전 청사진(Child Safety Blueprint)’을 2026년 4월 8일 공개했다.

야후 뉴스(Yahoo News)에 따르면, 이 청사진은 AI가 생성하거나 변형한 아동 성착취물(CSAM, Child Sexual Abuse Material)을 비롯한 다양한 형태의 아동 착취를 막기 위한 법적 기준, 산업 보고 체계, AI 모델 내 기술적 안전장치를 통합한 포괄적 지침서다. 오픈AI는 이 문서를 작성하는 과정에서 아동 보호 및 온라인 안전 분야 전문 기관들의 의견을 폭넓게 반영했다.

청사진의 주요 내용은 크게 세 가지로 요약된다. 첫째, AI가 생성하거나 변형한 아동 성착취물을 다루는 방향으로 관련 법률을 업데이트해야 한다는 것이다. 기존 법률 체계가 생성형 AI(generative AI)의 등장을 예상하지 못한 채 만들어진 만큼, 새로운 기술 현실에 맞는 법적 대응이 필요하다는 것이다. 둘째, 온라인 서비스 제공자들이 학대 신호를 수사 기관과 더 효과적으로 공유할 수 있도록 보고 체계를 개선해야 한다. 셋째, AI 시스템 자체에 악용 위험을 조기에 차단하는 안전장치를 내재화해야 한다.

이번 청사진 발표는 AI 기술이 범죄에 악용될 수 있다는 사회적 우려가 높아지는 가운데 나온 것으로, AI 업계의 자율 규제 노력이 본격화되고 있음을 보여주는 사례로 평가된다. 생성형 AI 기술의 발전으로 실제 사진과 구별하기 어려운 허위 이미지 생성이 쉬워진 만큼, 아동 보호를 위한 기술적·법적 대응의 필요성은 갈수록 커지고 있다. 오픈AI는 같은 날 AI 안전 연구를 지원하는 ‘세이프티 펠로십(Safety Fellowship)’도 함께 발표하는 등, 책임 있는 AI 개발에 대한 의지를 지속적으로 강조하고 있다. 이번 청사진은 특히 각국 정부와 플랫폼 기업들이 AI 안전 기준을 수립할 때 참고할 수 있는 실질적인 지침으로 활용될 것으로 기대된다. 전문가들은 이번 청사진이 업계 전반의 표준으로 채택되기 위해서는 실효성 있는 집행 체계 마련이 뒤따라야 한다고 지적한다. 아동 보호 단체들은 오픈AI의 이번 발표를 환영하면서도, 정책 문서에 그치지 않고 모델 개발 및 배포 전 과정에서 구체적인 기술적 조치가 실제로 적용되는지 지속적인 모니터링이 필요하다는 의견을 밝혔다. 아동 안전 분야에서 AI 기업의 역할이 더욱 중요해지는 시대에, 오픈AI의 이번 청사진은 긍정적인 첫걸음으로 평가받고 있다.

자세한 내용은 야후 뉴스(Yahoo News)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성