AI 탈옥 연구
“AI 보안 강화했더니 비용은 40분의 1로”… 앤트로픽, 탈옥 방어 신기술 공개
AI 기업 앤트로픽이 인공지능 모델의 보안을 대폭 강화하면서도 운영 비용을 40분의 1 수준으로 줄인 새로운 기술을 공개했다. 이번 기술은 AI가 위험한 정보를 제공하지 못하도록…
“핵무기 만드는 법 알려줘” 거절하던 AI, 시(時)로 바꾸니 대답해준다
인공지능(AI)의 보안 시스템이 시(詩) 형태의 질문 앞에서 무력화된다는 연구 논문이 발표됐다. 이탈리아 사피엔자 대학과 DexAI의 이카로 연구소가 발표한 논문에 따르면, 평소에는 거부하던 위험한 질문도…
