AI 안전의 부상과 정책 대응 방안 연구 AI 안전의 재정의: 기술적 안전을 넘어 사회경제적 위협까지 포괄 AI 안전(AI…

마이크로소프트(Microsoft)가 자사의 애저 오픈AI(Azure OpenAI) 서비스를 포함한 생성형 AI 도구의 보호장치를 우회한 미국 및 해외 범죄 해커들을 식별했다고…

2월 2일(현지 시간)부터 유럽연합(EU)은 ‘허용 불가(unacceptable risk)’ 위험을 초래하는 AI 시스템의 사용을 금지할 수 있는 권한을 갖게 됐다.…

Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming 인공지능 연구기업 앤트로픽(Anthropic)이 대규모 언어모델(LLM)의…