생성형 AI 딥페이크 공격 급증, 기업 62% 피해 경험 있어

생성형 AI를 악용한 사이버 공격이 급증하면서 기업들의 피해가 심각한 수준에 이른 것으로 조사됐다. 세계적인 IT 리서치 및 컨설팅 기업 가트너(Gartner)가 22일(현지 시각) 발표한 조사 결과에 따르면, 전 세계 기업의 62%가 지난 12개월간 딥페이크를 이용한 공격을 경험했다. 이는 생성형 AI 기술이 사이버 범죄에 본격 활용되고 있음을 보여주는 수치다.

가트너는 올해 3월부터 5월까지 북미, 유럽·중동·아프리카, 아시아태평양 지역 사이버보안 책임자 302명을 대상으로 설문조사를 실시했다. 조사 결과 딥페이크 공격 외에도 32%의 기업이 AI 애플리케이션 프롬프트를 악용한 공격을 당한 것으로 나타났다. 런던에서 열린 가트너 보안 서밋에서 아키프 칸(Akif Khan) VP 애널리스트는 “생성형 AI 도입이 가속화되면서 피싱, 딥페이크, 소셜 엔지니어링 공격이 주류가 됐다”고 분석했다.

특히 챗봇 어시스턴트는 공격자들이 대규모 언어모델을 조작해 악의적인 결과를 생성하도록 하는 프롬프트 공격에 취약한 상황이다. 사이버보안 리더의 67%는 이러한 새로운 위험에 대응하려면 기존 보안 접근법의 대폭 수정이 필요하다고 답했다. 가트너는 전면적인 변화보다는 핵심 통제 강화와 위험 범주별 표적 대응이 더 효과적이라고 권고했다.


해당 기사의 원문은 가트너 뉴스룸에서 확인 가능하다.

이미지 출처: 가트너