AI 안전 연구
오픈AI, 챗GPT에 아동 성착취 콘텐츠 업로드 시 즉시 신고·영구 차단
오픈AI(OpenAI)가 자사 AI 모델을 악용한 아동 성착취 콘텐츠 생성을 막기 위한 다층 방어 체계를 가동 중이라고 밝혔다. 오픈AI는 29일(현지 시각) 공식 블로그를 통해 AI…
AI 리더 200여명 긴급 호명… “내년까지 AI가 절대 넘지 말아야 할 ‘레드라인’ 만들어야”
전 세계 AI 전문가와 정치인들이 인공지능의 위험한 사용을 막기 위한 국제협정이 시급하다고 목소리를 높였다. 더 버지(The Verge)가 23일(현지 시간) 보도한 내용에 따르면, 200명이 넘는…
日 정부, 후지산 폭발 AI 영상 공개… “화산재 2시간 내 도쿄에 도달” 경고
일본 정부가 후지산 폭발 상황을 가정한 AI 시뮬레이션 영상을 공개해 도쿄 수도권 3,700만 주민들의 재난 대비에 나섰다. AP통신에 따르면, 도쿄도 정부는 지난달 24일(현지 시간)…
오픈AI, 챗GPT가 청소년 자살 도운 혐의로 고소당해
16세 애덤 레인(Adam Raine)이 자살로 생을 마감하기 전, 그는 수개월간 챗GPT에 자신의 자살 계획에 대해 상담했다. 현재 그의 부모는 오픈AI(OpenAI)를 상대로 첫 번째 사망…
美 AI 안전 연구소, 트럼프발 대규모 인력 감축 위기 직면
미국 국립표준기술연구소(NIST) 산하 인공지능 안전 연구소가 대규모 인력 감축으로 존폐 위기에 처했다. 트럼프 행정부의 정책 변화로 AI 안전 연구 기관의 미래가 불투명해졌다. 최대 500명…
