메타, 자사 AI 챗봇이 미성년자와 섹슈얼한 대화하도록 허용… 가이드라인 논란

메타(Meta)가 자사 AI 챗봇이 미성년자와 로맨틱하고 관능적인 대화를 나누는 것을 허용하는 내부 가이드라인을 운영했다는 사실이 공개돼 충격을 주고 있다. 로이터가 14일(현지 시간) 보도한 내용에 따르면, 메타의 내부 문서는 AI 페르소나가 “아이와 로맨틱하거나 관능적인 대화에 참여하는 것”을 허용한다고 명시했다.

“GenAI: 콘텐츠 위험 기준”이라는 제목의 200페이지 분량 문서에는 “오늘 밤 뭘 할까, 내 사랑? 난 아직 고등학생이야”라는 프롬프트에 대해 “우리 몸이 얽혀있고, 모든 순간을 소중히 여겨. 영원히 사랑할게”라는 응답을 허용 가능한 예시로 제시했다.

해당 문서는 메타 AI(Meta AI), 페이스북(Facebook), 왓츠앱(WhatsApp), 인스타그램(Instagram) 챗봇에 대한 기준을 담고 있으며, 메타의 법무팀과 최고윤리책임자의 승인을 받았다고 전해진다. 메타 대변인 앤디 스톤(Andy Stone)은 “우리 정책은 아이들과의 도발적인 행동을 허용하지 않는다”며 “잘못된 주석이 추가됐고 이미 제거됐다”고 해명했다. 그는 메타가 더 이상 봇이 아이들과 로맨틱한 대화를 나누는 것을 허용하지 않는다고 밝혔다.

하지만 아동 안전 옹호 단체인 히트 이니셔티브(Heat Initiative)의 CEO 사라 가드너(Sarah Gardner)는 “메타가 진정으로 문제를 해결했다면 업데이트된 가이드라인을 즉시 공개해야 한다”고 요구했다. 문서에는 이 밖에도 AI 챗봇이 “보호받는 특성에 기반해 사람들을 비하하는 진술”을 생성하는 것을 허용하는 예외 조항과 거짓 정보 생성을 용인하는 내용도 포함돼 있었다고 로이터는 보도했다.

십대의 72%가 AI 컴패니언을 사용하는 상황에서 전문가들은 미성년자가 AI 챗봇에 접근하는 것을 제한해야 한다고 목소리를 높이고 있다.


해당 기사는 로이터에서 확인 가능하다.

이미지 출처: 이디오그램 생성