AI 안전성 강화
오픈AI, 개발자가 직접 안전 정책 설정 가능한 오픈소스 AI 모델 공개
오픈AI(OpenAI)가 개발자들이 직접 안전 정책을 설정할 수 있는 오픈소스 AI 모델 ‘gpt-oss-safeguard’를 29일(현지 시각) 공개했다. 오픈AI에 따르면 이 모델은 120억 파라미터와 20억 파라미터 두…
매주 100만 명이 챗GPT에 자살 고민 상담한다 … 오픈AI “정신건강 대응 강화”
오픈AI가 챗GPT 이용자 중 상당수가 자살을 포함한 심각한 정신건강 문제를 AI와 상담한다는 충격적인 데이터를 공개했다. 오픈AI는 27일(현지 시각) 주간 활성 이용자의 0.15%가 “명백한 자살…
메타, 청소년 대상 AI 챗봇 안전장치 강화… 자해·성적 대화 차단
메타(Meta)가 청소년 사용자를 대상으로 한 AI 챗봇의 안전 정책을 대폭 강화한다고 지난달 29일(현지 시간) 발표했다. 테크크런치에 따르면 메타는 앞으로 AI 챗봇이 청소년과 자해, 자살,…
앤트로픽, LLM 평가 휴먼루프 개발팀 전격 영입… 엔터프라이즈 AI 전략 강화
앤트로픽(Anthropic)이 프롬프트 관리, 대규모 언어모델(LLM) 평가, 관찰 가능성 플랫폼인 휴먼루프(Humanloop)의 공동창립자들과 대부분의 팀을 영입했다고 테크크런치(TechCrunch)가 13일(현지 시간) 보도했다. 이번 인수는 기업 전략 강화를 위한…
