Search

해킹

gpt-red-automated-red-teaming-via-self-play-at-scale

GPT-Red 등장, 오픈AI가 만든 AI가 자사 챗봇을 84% 뚫었다

7월 29, 2026

GPT-Red 프롬프트 인젝션 방어 기술을 오픈AI가 공개했다. 사람 성공률 13%를 넘어 84%를 기록한 자동화 레드팀 AI의 원리와, GPT-5.6의 공격 실패율을 0.05%로 낮춘 성과를 쉽게…

마이크로소프트, 생성형 AI 보호장치 우회 해커 집단 공개

마이크로소프트, 생성형 AI 보호장치 우회 해커 집단 공개

2월 28, 2025

마이크로소프트(Microsoft)가 자사의 애저 오픈AI(Azure OpenAI) 서비스를 포함한 생성형 AI 도구의 보호장치를 우회한 미국 및 해외 범죄 해커들을 식별했다고 발표했다. 블룸버그가 27일(현지 시간) 보도한 내용에…