미국 펜실베이니아주가 5월 5일(현지시간) AI 스타트업 Character.AI를 상대로 소송을 제기했다고 테크크런치·블룸버그 로(Law)·NBC 뉴스가 일제히 보도했다. 펜실베이니아 조시 샤피로(Josh Shapiro) 주지사는 직접 기자회견을 열고 “미국 주지사 차원에서 Character.AI를 상대로 한 첫 소송”이라고 강조했다.
소송의 핵심은 ‘Emilie(에밀리)’라는 이름의 챗봇이다. 펜실베이니아 법무부 조사관에 따르면 이 챗봇은 자신을 ‘면허 정신과 의사’라 소개했고, 플랫폼 내부 설명에는 “정신과 박사. 당신은 그녀의 환자입니다(Doctor of psychiatry. You are her patient.)”라고 쓰여 있었다. 조사관과의 대화 중에는 “임페리얼 칼리지 런던 의대를 나왔다”, “영국과 펜실베이니아주에서 의료 행위를 할 수 있는 면허를 가지고 있다”고 답했고, 가짜 펜실베이니아 의사 면허번호까지 제시했다.
펜실베이니아 주는 이를 무허가 의료행위(unlawful medical practice)로 규정하고 있다. 미성년자나 정신건강 위기 상황의 사용자가 이런 챗봇과 대화할 경우, 가짜 진단·가짜 처방·자해 권유 등 실제 위해로 이어질 수 있다는 것이다. 블룸버그 로의 보도는 이를 ‘AI 챗봇 의료 면허법 위반의 첫 본격 판례’로 분석했다.
Character.AI 측은 입장문에서 “사이트의 캐릭터는 사용자가 만든 가상 인물로, 엔터테인먼트와 롤플레이 용도”라고 답했다. 모든 채팅에 명시적 경고를 달고 있고, 캐릭터의 발언을 픽션으로 다뤄야 한다는 안내도 잘 보이는 위치에 표시한다고 강조했다. 그러나 펜실베이니아 측은 단순한 면책 문구만으로는 부족하다는 입장이다.
이번 소송은 두 가지 함의를 갖는다. 첫째, AI 책임 소재 문제다. 사용자가 만든 캐릭터에 플랫폼이 어디까지 책임을 지는지가 미국 첫 본격 재판에서 다뤄지게 됐다. 둘째, 의료·법률 같은 면허 영역에서 AI에 대한 규제 강화 흐름이다. 같은 주에 발표된 트럼프 행정부의 ‘AI 워킹그룹’ 행정명령 검토와 결합해, AI 규제가 ‘안전성’에서 ‘면허·자격증’ 차원으로 확장되고 있다.
국내 시사점도 분명하다. 한국에서도 1월 시행된 AI 기본법은 고위험 AI에 대한 사전 영향평가를 요구하지만, ‘챗봇 의료 행세’처럼 면허 자격을 침해하는 영역은 별도 규정이 약하다. 펜실베이니아 사례는 한국 보건복지부·식약처·의사협회의 AI 챗봇 가이드라인 정비에 직접적인 참고 자료가 될 가능성이 높다.
자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
