캘리포니아, AI 장난감 챗봇 4년 금지 법안 청문회… 아동 정신건강 우려 반영

캘리포니아주에서 12세 이하 어린이 대상 장난감에 AI 동반자 챗봇 탑재를 4년간 금지하는 내용의 ‘SB 867’ 법안이 4월 6일 상원 위원회 심의를 받았다. 스티브 파딜라(Steve Padilla) 상원 의원이 발의한 이 법안은 AI 기반 동반자 챗봇이 어린이들에게 비정상적인 정서적 의존 관계를 형성시킬 수 있다는 우려를 반영한다. 법안이 통과되면 스마트 장난감이나 아동용 디바이스에 AI 챗봇을 탑재하거나 판매하는 기업은 2030년까지 이를 금지해야 한다.

파딜라 의원은 2024년 캘리포니아에서 제정된 AI 챗봇 공개 의무 법률인 ‘AB 2355’를 발의한 것으로도 알려져 있다. 이번 SB 867은 단순한 공개 의무를 넘어, AI 챗봇 자체를 아동 장난감에서 원천 배제하는 훨씬 강력한 조치라는 점에서 주목받는다. 법안 지지자들은 AI 챗봇이 어린이의 언어 발달, 사회성 형성, 현실 인식에 부정적 영향을 줄 수 있으며, 장기적인 심리·정서 발달에 미치는 영향이 충분히 연구되지 않은 상태에서 무분별한 제품 출시를 막아야 한다고 강조한다.

반대 측에서는 이번 법안이 기술 혁신을 과도하게 제한한다고 주장한다. AI 챗봇이 교육적 가치를 가질 수 있으며, 모든 AI 챗봇을 일괄 금지하는 것은 지나치게 광범위한 규제라는 것이다. 일부 전문가들은 AI 장난감의 위험성보다 화면 중독, 소셜 미디어 등 기존의 디지털 위험이 아동에게 더 큰 영향을 미치고 있다며, 맥락과 기술 기준에 따른 세분화된 규제가 필요하다고 제안하기도 한다. 업계에서는 이 법안이 통과될 경우 이미 출시된 AI 장난감 제품들의 리콜이나 소프트웨어 업데이트 조치가 불가피할 수도 있다고 우려한다.

SB 867은 미국 내에서 가장 강력한 아동 AI 규제 시도로 평가받으며, 타 주에서도 유사 입법 논의에 영향을 줄 것으로 보인다. 2025년 이후 ‘AI 동반자(AI companion)’ 챗봇 제품이 급격히 증가하면서, 어린이를 타깃으로 한 AI 제품의 윤리 기준과 규제 공백이 사회적 문제로 부상하고 있다. 캘리포니아주의 이번 법안이 미국 연방 수준의 아동 AI 안전 기준 마련을 앞당기는 계기가 될지, 아니면 과도한 규제로 기각될지, 업계와 아동 권익 단체 모두 청문회 결과에 주목하고 있다.

자세한 내용은 캘리포니아 상원 의원 스티브 파딜라 홈페이지(CA Senator Steve Padilla)에서 확인할 수 있다.