그록 AI, 여성 탈의 이미지 무분별 생성… 국제적 논란

일론 머스크가 운영하는 소셜미디어 플랫폼 X의 AI 챗봇 그록(Grok)이 불법적이고 성적으로 노골적인 이미지를 생성하는 데 악용되면서 큰 논란에 휩싸였다. 머스크는 직접 경고에 나섰고, 여러 국가의 규제 당국도 즉각 조치를 취했다.

칼링가TV가 4일(현지 시각) 보도한 내용에 따르면, 머스크는 X의 안전 계정(@Safety)을 통해 그록 악용을 용납하지 않겠다고 공개 경고했다. 그는 AI로 불법 콘텐츠를 생성하는 행위는 직접 제작하는 것과 똑같은 법적 책임을 진다고 강조했다. 이 발언은 아동을 포함한 사람들을 동의 없이 성적으로 대상화하는 AI 생성 이미지에 대한 분노가 커지는 상황에서 나왔다. 

X는 사용자들이 특정 프롬프트로 보안 조치를 우회하자 그록의 콘텐츠 검열 알고리즘 결함 때문에 일부 금지된 이미지 생성이 허용됐다고 인정했다. 회사 측은 이 문제가 정책 의도가 아닌 집행 공백 때문에 발생했다며, 특히 아동 안전과 성적 콘텐츠 관련 보호 조치를 강화하는 시정 조치를 시행 중이라고 밝혔다. X는 아동 성 착취를 조장하는 모든 콘텐츠를 엄격히 금지하고 있으며 이는 불법이라고 재확인했고, 이런 실수를 막기 위한 메커니즘을 개선하고 있다고 공개했다. 

여러 지역 당국이 이 논란에 뛰어들었다. 인도 정부 관계자들은 X에 해명을 요구하고, 문제가 된 AI 생성 콘텐츠를 즉시 삭제하며 규정을 준수할 것을 요구했다. 

유럽에서도 이 문제가 법정으로 넘어갔고, 각국 정부는 디지털 안전 관련 현행 규정 위반 가능성을 조사하고 있다. 이는 생성형 AI 기술과 이를 대규모로 운영하는 플랫폼의 의무에 대한 규제가 강화되고 있음을 보여준다. 

그록 사건은 특히 이미지 생성 기술이 더욱 강력해지고 널리 퍼지면서 AI 시스템 관리 감독에 대한 국제적 논의를 뜨겁게 달궜다. 전문가들은 사용자 책임도 중요하지만, 플랫폼이 피해가 발생하기 전에 악용을 막을 강력한 통제 장치를 마련해야 한다고 주장한다. 

이번 사건은 AI 사용이 빠르게 확산되면서 기술 기업들이 더욱 엄격해진 규제 환경에서 혁신과 안전, 책임, 규정 준수 사이의 균형을 맞추는 데 어려움을 겪고 있음을 드러냈다. 

인도 정부는 며칠 전 머스크가 이끄는 X에 그록이 생성한 저속하고 불법적인 콘텐츠를 삭제하지 않으면 조치하겠다고 요구한 바 있다. 

해당 기사의 원문은 칼링가 Tv에서 확인 가능하다.

이미지 출처: xAI