오픈AI, 챗GPT에 부모 통제 기능 출시… “10대 안전 지키겠다”

오픈AI가 챗GPT에 부모 통제 기능을 도입했다. 10대 자녀가 안전하게 AI를 사용할 수 있도록 부모가 직접 관리할 수 있는 환경을 제공하기 위한 조치다. 오픈AI는 29일(현지 시각) 공식 블로그를 통해 모든 챗GPT 사용자를 대상으로 부모 통제 기능을 출시한다고 밝혔다. 부모는 자신의 계정을 자녀의 계정과 연결해 연령에 맞는 설정을 직접 관리할 수 있다.

새로운 기능을 통해 부모는 챗GPT 사용이 불가능한 ‘조용한 시간’을 설정하고, 음성 모드와 이미지 생성 기능을 끄거나, 대화 내용이 모델 훈련에 사용되지 않도록 선택할 수 있다. 연결된 10대 계정에는 그래픽 콘텐츠, 성적이거나 폭력적인 역할극, 극단적인 미적 기준 등을 자동으로 차단하는 강화된 안전장치가 적용된다.

특히 오픈AI는 10대가 자해를 생각하고 있을 가능성이 있는 징후를 감지하면 특별 훈련된 팀이 상황을 검토하고, 급성 고통의 징후가 확인되면 부모에게 이메일과 문자 메시지, 푸시 알림을 통해 즉시 알리는 시스템을 구축했다.

커먼센스미디어(Common Sense Media)의 AI 프로그램 선임 디렉터 로비 토니는 “부모 통제 기능은 좋은 출발점이지만, 책임감 있는 AI 사용에 대한 지속적인 대화와 가족 규칙, 적극적인 참여와 결합될 때 가장 효과적이다”라고 말했다.

오픈AI는 앞으로 사용자가 18세 미만인지 자동으로 예측해 10대 맞춤 설정을 적용하는 연령 예측 시스템을 구축할 계획이다. 사용자 연령이 불확실한 경우에는 안전을 위해 10대 설정을 기본으로 적용한다는 방침이다.

해당 기능에 대한 자세한 사항은 오픈AI 뉴스룸에서 확인 가능하다.

이미지 출처: 오픈AI