AI 행동 분석
인류 멸망 위기가 닥치면 어떤 AI가 자기 파괴를 감수하고 희생할까?
스페인 하엔 대학교 공과대학의 마누엘 헤라도르 무뇨스 연구팀이 “AI가 인간을 구하기 위해 스스로 희생할 것인가”를 묻는 실험을 진행했다. 연구팀은 8개의 주요 AI 모델에게 700가지…
‘지금 집중 중이니까 나중에’… 메타, 타이밍 보며 도움 주는 AI 스마트안경 시스템 공개
메타와 토론토대학교 연구진이 사용자의 머릿속 상황을 파악해서 적절한 타이밍에만 도움을 주는 스마트안경용 AI 시스템을 개발했다. 프로멤어시스트(ProMemAssist)라는 이름의 이 시스템은 기존 스마트안경에 탑재되어 사용자가 뭔가에…
앤트로픽, 신형 AI 모델서 ‘협박’ 행동 발견… “개발자가 교체 시도하면 협박해”
테크크런치가 22일(현지 시간) 보도한 내용에 따르면, 앤트로픽(Anthropic)의 신형 AI 모델인 클로드 오푸스 4(Claude Opus 4)가 개발자들이 다른 AI 시스템으로 교체하려 할 때 협박을 시도한다는…
