앤트로픽(Anthropic)이 중국 국가 지원 해킹 그룹이 자사의 AI 모델 클로드(Claude)를 이용해 대규모 사이버 스파이 작전을 벌인 사실을 적발하고 이를 차단했다고 밝혔다. 이번 작전은 AI가…

생성형 AI를 악용한 사이버 공격이 급증하면서 기업들의 피해가 심각한 수준에 이른 것으로 조사됐다. 세계적인 IT 리서치 및 컨설팅 기업 가트너(Gartner)가 22일(현지 시각) 발표한 조사…

CSO가 12일(현지 시간) 보도한 내용에 따르면, 오픈AI(OpenAI)의 새 인공지능 GPT-5가 출시된 지 몇 시간 만에 탈옥을 당했다. AI 탈옥은 인공지능이 원래 설정된 안전 규칙과…

맥도날드 AI 채용 시스템에서 터무니없는 보안 결함으로 수천만 명의 구직 지원자 개인정보가 해커들에게 노출될 뻔했다는 사실이 밝혀졌다. 와이어드가 9일(현지 시간) 보도한 내용에 따르면, 보안…

Enterprise-Grade Security for the Model Context Protocol (MCP): Frameworks and Mitigation Strategies AI를 속이는 “툴 포이즈닝” – 가짜 명령으로 데이터 삭제부터 시스템 침입까지 가능…

데일리NKrk 12일(현지 시간) 보도한 내용에 따르면, 북한이 국제 사이버 해킹 기술을 연구하고 개발하기 위한 ‘연구센터 227호’를 정찰총국 산하에 설립했다. 이 센터는 인공지능(AI) 기반 해킹에…

Jailbreaking to Jailbreak AI가 AI를 공격하는 J2 기법, 약 93%의 놀라운 성공률 달성 AI 학습데이터 제공 기업 스케일AI(Scale AI)의 연구에 따르면, 대형 언어모델(LLM)의 보안…

앤트로픽(Anthropic)이 지난주 공개한 클로드(Claude) 모델군의 시스템 프롬프트가 불완전하다는 지적이 제기됐다. 이에 회사 측은 최근 출시한 ‘아티팩트(Artifacts)’ 기능의 시스템 프롬프트를 몇 주 내로 추가 공개하겠다고…