AI 행동 제어
오픈AI 코덱스 시스템 프롬프트에 ‘고블린 금지령’… AI 에이전트의 기괴한 집착
오픈AI가 Codex CLI를 오픈소스로 공개하면서 함께 올린 GitHub 문서에서 이상한 시스템 프롬프트 지시문이 발견됐다. ‘고블린, 그렘린, 너구리, 트롤, 오거, 비둘기, 또는 그 어떤 동물이나…
AI, 스스로 ‘도와주세요’ 말하는 법 배웠다… 스탠퍼드 연구진, 배포 후 사고 막는 새 기술 개발
스탠퍼드 대학 연구팀이 이미 만들어진 AI를 나중에라도 안전하게 만들 수 있는 새로운 방법을 개발했다. 이 기술의 핵심은 AI가 위험한 상황을 스스로 판단해 사람에게 도움을…
