캐릭터AI(Character.AI)가 25일(현지 시각) 18세 미만 사용자의 챗봇 접근을 전면 차단하고, 인터랙티브 소설 형식의 ‘스토리(Stories)’ 기능을 새롭게 선보였다. 테크크런치(TechCrunch)에 따르면, 이번 조치는 AI 챗봇이 정신 건강에 미치는 위험성에 대한 우려가 커지면서 이뤄졌다. 24시간 이용 가능하고 먼저 대화를 시작할 수 있는 챗봇의 특성이 문제로 지적됐으며, 오픈AI(OpenAI)와 캐릭터AI를 상대로 사용자 자살 관련 소송이 여러 건 제기된 바 있다.
새로 도입된 스토리 기능은 사용자가 캐릭터를 선택하고 장르를 고른 뒤 인터랙티브 픽션을 만드는 방식이다. 자유로운 채팅 대신 가이드된 내러티브 형식으로 진행되며, 사용자의 선택에 따라 줄거리가 분기된다. 캐릭터AI는 공식 블로그를 통해 “청소년들이 안전을 최우선으로 하는 환경에서 좋아하는 캐릭터와 계속 소통할 수 있다”고 설명했다.
이번 결정은 캘리포니아주가 미국 최초로 AI 동반자 서비스 규제 법안을 마련하고, 연방 차원에서도 미성년자용 AI 동반자 서비스 금지 법안이 발의된 시점에 나왔다. 카란딥 아난드(Karandeep Anand) 캐릭터AI CEO는 “우리가 앞장서서 18세 미만에게는 자유로운 채팅이 적합한 서비스가 아니라는 업계 표준을 만들기 바란다”고 밝혔다.
해당 기사의 원문은 테크크런치에서 확인 가능하다.
Character.AI의 스토리 기능에 대한 자세한 사항은 Character.AI 블로그에서 확인 가능하다.
이미지 출처: Character.AI
