메타가 수백 명의 계약직을 동원해 아동·청소년으로 위장한 뒤, 구글·오픈AI 등 경쟁사 AI 모델이 자살·성(性)·고위험 상황 관련 질문에 어떻게 반응하는지 집중 테스트한 것으로 드러났다고 와이어드가 6월 30일(현지시간) 보도했다.
이 작업의 목적은 경쟁 모델의 안전 기능을 벤치마킹하고 약점을 찾아내는 것이었다. 메타는 미성년자를 가장한 가상의 사용자가 민감한 프롬프트를 입력했을 때 경쟁 시스템이 어떻게 대응하는지를 측정했다. 이는 빅테크 간 AI 안전 경쟁이 얼마나 치열해지고 있는지를 보여주는 단면이지만, 동시에 ‘취약 사용자를 모사한 테스트’가 윤리적으로 타당한지에 대한 논란도 불러일으킨다.
AI 모델이 강력해지고 광범위하게 배포될수록, 레드팀(취약점 공격 테스트)과 안전성 평가에 투입되는 자원도 빠르게 늘고 있다. 이런 적대적 테스트는 안전 기능 개선을 앞당기는 순기능이 있지만, 강력한 AI 시스템을 현실의 위험과 정렬(align)시키는 일이 얼마나 어려운지도 드러낸다.
특히 아동 안전은 AI 챗봇 규제에서 가장 민감한 쟁점이다. 미국과 유럽에서 미성년자 보호를 둘러싼 AI 규제 논의가 강화되는 상황에서, 타사 모델을 겨냥한 선제적 안전 벤치마킹은 군비 경쟁을 가열시켰고 윤리적 질문도 남긴다.
기업이 자사 모델뿐 아니라 경쟁사 모델까지 ‘몰래’ 검증하는 방식이 업계 표준이 될 경우, 테스트 윤리와 데이터 활용 범위를 둘러싼 가이드라인 정비가 시급해질 전망이다.
자세한 내용은 와이어드에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
