AI 안전의 부상과 정책 대응 방안 연구 AI 안전의 재정의: 기술적 안전을 넘어 사회경제적 위협까지 포괄 AI 안전(AI Safety)은 인간의 생명, 건강, 재산, 환경을…

마이크로소프트(Microsoft)가 자사의 애저 오픈AI(Azure OpenAI) 서비스를 포함한 생성형 AI 도구의 보호장치를 우회한 미국 및 해외 범죄 해커들을 식별했다고 발표했다. 블룸버그가 27일(현지 시간) 보도한 내용에…

2월 2일(현지 시간)부터 유럽연합(EU)은 ‘허용 불가(unacceptable risk)’ 위험을 초래하는 AI 시스템의 사용을 금지할 수 있는 권한을 갖게 됐다. 이날은 EU의 AI법(AI Act)이 적용되는 첫…

Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming 인공지능 연구기업 앤트로픽(Anthropic)이 대규모 언어모델(LLM)의 안전성을 획기적으로 강화하는 기술을 개발했다. 앤트로픽의…