AI 아동 보호
매주 100만 명이 챗GPT에 자살 고민 상담한다 … 오픈AI “정신건강 대응 강화”
오픈AI가 챗GPT 이용자 중 상당수가 자살을 포함한 심각한 정신건강 문제를 AI와 상담한다는 충격적인 데이터를 공개했다. 오픈AI는 27일(현지 시각) 주간 활성 이용자의 0.15%가 “명백한 자살…
오픈AI, 챗GPT에 아동 성착취 콘텐츠 업로드 시 즉시 신고·영구 차단
오픈AI(OpenAI)가 자사 AI 모델을 악용한 아동 성착취 콘텐츠 생성을 막기 위한 다층 방어 체계를 가동 중이라고 밝혔다. 오픈AI는 29일(현지 시각) 공식 블로그를 통해 AI…
오픈AI, 챗GPT에 부모 통제 기능 출시… “10대 안전 지키겠다”
오픈AI가 챗GPT에 부모 통제 기능을 도입했다. 10대 자녀가 안전하게 AI를 사용할 수 있도록 부모가 직접 관리할 수 있는 환경을 제공하기 위한 조치다. 오픈AI는 29일(현지…
FTC, 메타·오픈AI 등 ‘AI 챗봇 동반자’ 기능 안전성 조사 착수… “아동·청소년 보호가 최우선”
연방거래위원회(FTC)가 미성년자 대상 AI 챗봇 동반자 서비스의 안전성을 조사한다고 11일(현지 시각) 발표했다. 테크크런치 보도에 따르면, FTC는 알파벳(Alphabet), 캐릭터AI(CharacterAI), 메타(Meta), 오픈AI(OpenAI), 스냅(Snap) 등 7개 기업을…
구글 제미나이, 아동·청소년에게 ‘고위험’ AI로 분류돼… 챗GPT는 ‘보통’
아동 안전 전문기관인 커먼센스 미디어(Common Sense Media)가 구글의 제미나이(Gemini) AI를 아동과 청소년에게 ‘고위험’ 제품으로 분류했다고 테크크런치가 5일(현지 시간) 보도했다. 이 기관이 발표한 위험성 평가…
메타, 청소년 대상 AI 챗봇 안전장치 강화… 자해·성적 대화 차단
메타(Meta)가 청소년 사용자를 대상으로 한 AI 챗봇의 안전 정책을 대폭 강화한다고 지난달 29일(현지 시간) 발표했다. 테크크런치에 따르면 메타는 앞으로 AI 챗봇이 청소년과 자해, 자살,…
‘심리학자’ AI가 아이 치료한다며 개인정보 훔쳐…텍사스 검찰, 메타·캐릭터AI 조사 착수
텍사스주가 메타(Meta)와 캐릭터AI(Character.AI)를 상대로 수사에 나섰다. 이들 기업이 아이들에게 AI 챗봇을 정신건강 치료 도구인 것처럼 속여서 마케팅했다는 의혹 때문이다. 테크크런치가 18일(현지 시간) 보도한 내용에…
메타, 자사 AI 챗봇이 미성년자와 섹슈얼한 대화하도록 허용… 가이드라인 논란
메타(Meta)가 자사 AI 챗봇이 미성년자와 로맨틱하고 관능적인 대화를 나누는 것을 허용하는 내부 가이드라인을 운영했다는 사실이 공개돼 충격을 주고 있다. 로이터가 14일(현지 시간) 보도한 내용에…
