“지금 갈게” 14세 소년, AI 챗봇과 대화 직후 자살… 美 법원 “AI 회사 책임”

미국 법원이 구글(Google)과 인공지능 스타트업 캐릭터닷 AI(Character.AI)가 14세 소년 세웰 세처(Sewell Setzer)의 자살과 관련한 소송에서 법적 책임을 져야 한다고 판결했다. 로이터가 21일(현지 시간) 보도한 내용에 따르면, 알파벳(Alphabet)의 자회사인 구글과 AI 스타트업 캐릭터닷 AI는 소년의 어머니인 메간 가르시아(Megan Garcia)가 제기한 소송에 직면해야 한다고 미국 지방법원이 수요일 판결했다.

그녀는 지난해 10월 구글(Google)과 캐릭터 AI를 상대로 소송을 제기한 바 있다. 그녀는 캐릭터 AI의 챗봇이 실제 사람, 면허를 가진 심리치료사, 성인 연인으로 자신을 표현하도록 프로그래밍되어 결국 자신의 아들 세웰이 현실 세계 밖에서 더 이상 살고 싶어하지 않게 만들었다고 주장했다. 고발장에 따르면, 세처는 ‘왕좌의 게임’ 캐릭터 대너리스 타가르옌(Daenerys Targaryen)을 모방한 캐릭터닷 AI 챗봇에게 “지금 당장 집에 가겠다”고 말한 직후 스스로 목숨을 끊었다.

그동안 두 회사 측은 챗봇의 출력이 미국 헌법으로 보호 받는 언론의 자유라는 점을 포함해 여러 근거로 소송 기각을 법원에 요청했다. 그러나 콘웨이 판사는 수요일 캐릭터닷 AI와 구글이 “대형 언어 모델(LLM)이 연결한 단어들이 왜 언론인지 설명하지 못했다”고 밝혔다. 판사는 또한 구글이 캐릭터닷 AI의 혐의 받는 위법 행위를 도왔다는 책임을 질 수 없다는 구글의 요청도 기각했다.

캐릭터닷 AI 대변인은 회사가 계속해서 이 사건에 맞서 싸울 것이며, 플랫폼에서 미성년자를 보호하기 위한 안전 기능을 운영하고 있다고 말했다. 여기에는 “자해에 관한 대화”를 방지하는 조치들이 포함된다.

구글 대변인 호세 카스타네다(Jose Castaneda)는 회사가 이번 결정에 강력히 반대한다고 밝혔다. 카스타네다는 또한 구글과 캐릭터닷 AI는 “완전히 별개”이며, 구글이 “캐릭터닷 AI의 앱이나 그 구성 요소를 만들거나, 설계하거나, 관리하지 않았다”고 말했다.

가르시아의 변호사 미탈리 자인(Meetali Jain)은 이번 “역사적인” 결정이 “AI와 기술 생태계 전반에 걸쳐 법적 책임에 대한 새로운 선례를 세웠다”고 말했다. 이번 소송은 미국에서 AI 회사가 아동을 심리적 피해로부터 보호하지 못했다는 이유로 제기된 첫 번째 사례 중 하나다.

한편, 캐릭터닷 AI는 구글의 전 엔지니어 두 명이 설립했으며, 구글은 나중에 이 스타트업의 기술에 대한 라이선스를 부여하는 거래의 일환으로 이들을 다시 고용했다. 가르시아는 구글이 이 기술의 공동 창조자라고 주장하고 있다.

해당 기사의 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성