오픈AI(OpenAI)가 정신건강 관련 소송에 대한 공식 입장을 25일(현지 시각) 발표했다. 이번 성명은 챗GPT 사용 후 자살한 10대 소년의 유족이 제기한 소송에 대한 대응 차원이다. 오픈AI는 “정신건강과 관련된 사건은 비극적이고 복잡하며, 실제 사람들이 연관되어 있다”며 “법적 절차가 당사자들과 동떨어져 느껴질 수 있다는 점을 인식하고 있어, 우리가 이러한 상황에 어떻게 접근하는지 명확히 밝히고자 한다”고 전했다.
회사는 정신건강 관련 소송을 다루는 원칙으로 네 가지를 제시했다. 첫째, 사실에서 출발해 이를 이해하기 위해 진정한 노력을 기울인다. 둘째, 실제 사람과 삶이 관련된 상황의 복잡성과 미묘함을 인식하며 존중하는 방식으로 주장을 펼친다. 셋째, 이러한 사건에는 법정과 같은 공개 장소에서 민감하게 다뤄야 할 개인정보가 포함된다는 점을 인정한다. 넷째, 소송과 관계없이 회사의 사명에 맞게 기술 개선에 집중한다.
오픈AI는 현재 특히 10대를 위한 안전장치를 마련해 두고 있다고 강조했다. 대화가 민감한 방향으로 흐를 때 이를 감지하고 대응하는 기능이다. 회사는 챗GPT가 정신적·정서적 고통의 징후를 인식하고, 대화를 진정시키며, 사용자를 실제 도움을 받을 수 있는 곳으로 안내하도록 훈련을 지속적으로 개선하고 있다고 밝혔다. 이를 위해 정신건강 전문가, 임상의, 옹호 단체들과 협력하고 있다.
레인(Raine) 가족이 제기한 소송에 대해 오픈AI는 “상상할 수 없는 상실을 겪은 레인 가족에게 깊은 위로의 마음을 전한다”고 밝혔다. 다만 피고로서 소송에 제기된 구체적이고 심각한 주장에 응해야 할 의무가 있다고 설명했다.
오픈AI는 “법원이 제기된 주장을 충분히 평가할 수 있도록 전체 그림을 파악하는 것이 중요하다고 생각한다”며 “이번 주장에 대한 우리의 답변에는 아담(Adam)의 정신건강과 생활 환경에 관한 어려운 사실들이 포함되어 있다”고 전했다. 원고 측 소장에는 아담의 대화 내용 중 일부만 선별적으로 포함되어 있어 추가적인 맥락이 필요했고, 이를 답변서에서 제공했다는 설명이다. 회사는 민감한 증거의 공개 인용을 최소화했으며, 대화 기록 자체는 비공개로 법원에 제출했다고 밝혔다.
한편 오픈AI는 안전 관련 작업으로 챗GPT와 소라(Sora) 2, 아틀라스(Atlas)의 자녀 보호 기능, 웰빙과 AI 전문가 위원회, 연령 예측 기능 구축, 민감한 대화에서 챗GPT 응답 강화 등을 진행하고 있다고 안내했다. 또한 새로운 법적 서류가 제출되어 세부 내용을 신중히 검토하고 있다고 덧붙였다.
해당 입장문 전문은 오픈AI 뉴스룸에서 확인 가능하다.
이미지 출처: 오픈AI
