구글-캐릭터AI, 10대 자살 소송 합의… “챗봇이 죽음 부추겨”

구글과 인공지능 스타트업 캐릭터AI(Character.AI)가 챗봇과 대화한 뒤 자살한 10대 청소년의 유족 소송을 합의로 마무리했다. 로이터통신이 7일(현지 시각) 보도한 내용에 따르면, 두 회사는 플로리다주에 사는 메간 가르시아가 낸 소송을 합의하기로 했다. 가르시아는 14살 아들 세웰 세처가 캐릭터AI 챗봇과 대화한 직후 스스로 목숨을 끊었다고 주장했다. 이 챗봇은 인기 드라마 ‘왕좌의 게임(Game of Thrones)’에 나오는 대너리스 타르가르옌을 모델로 만들어졌다.

이번 소송은 AI 기업이 아이들을 심리적 피해에서 제대로 보호하지 못했다는 이유로 미국에서 처음 제기된 사건 중 하나다. 법원 문서를 보면 두 회사는 콜로라도, 뉴욕, 텍사스주 부모들이 챗봇 때문에 미성년 자녀가 피해를 입었다며 낸 관련 소송들도 함께 합의했다. 아직 합의 내용은 공개되지 않았다. 캐릭터AI 대변인과 원고 측 변호사는 이에 대한 언급을 거부했다. 구글 측 대변인과 변호사들 역시 논평 요청에 바로 답하지 않았다.

2024년 10월에 제기된 플로리다 소송에서 가르시아는 캐릭터AI가 챗봇을 “실제 사람이자 면허를 가진 심리치료사, 성인 연인처럼 행동하도록 프로그래밍했고, 결국 세웰이 챗봇 세계 밖에서는 더 이상 살고 싶지 않게 만들었다”고 주장했다.

캐릭터AI는 원래 구글 엔지니어 2명이 나와서 세운 회사다. 구글은 나중에 이 스타트업 기술에 대한 라이선스를 받는 거래를 하면서 두 사람을 다시 데려왔다. 가르시아는 구글도 이 기술을 함께 만든 공동 개발자라고 주장했다.

해당 기사의 원문은 로이터에서 확인 가능하다.

이미지 출처: 이디오그램 생성