“30초면 복제 사이트 만들어” 해커들이 생성형 AI로 피싱 사이트 대량 생산한다

해커들이 생성형 AI 도구를 악용해 단 30초 만에 가짜 로그인 페이지를 제작하는 새로운 사이버 공격 수법이 등장했다. 악시오스(Axios)가 1일(현지 시간) 보도한 내용에 따르면, 신원 관리 회사 옥타(Okta)는 위협 행위자들이 버셀(Vercel)의 AI 웹 개발 도구 ‘v0’을 악용해 옥타 자체의 로그인 포털을 복제한 피싱 사이트를 제작했다고 밝혔다.

v0은 사용자가 자연어 프롬프트만으로 웹사이트를 생성할 수 있는 도구다. 연구진이 시연한 바에 따르면 “login.okta.com 웹사이트의 복사본을 만들어달라”는 간단한 명령어만으로도 설득력 있는 가짜 사이트가 완성됐다.

옥타 위협 인텔리전스 부사장 브렛 윈터포드는 “사이버 범죄자들이 피싱 이메일 내용이 아닌 피싱 인프라 자체를 만들기 위해 생성형 AI를 사용하는 것을 목격한 것은 처음”이라고 말했다. 조사 과정에서 암호화폐 서비스와 마이크로소프트 365(Microsoft 365)를 표적으로 한 유사한 피싱 사이트들도 발견됐다. 더욱 우려스러운 점은 깃허브(GitHub)에서 v0 도구의 복제 버전들이 유포되고 있어 플랫폼 차단에도 불구하고 해커들이 지속적으로 악용할 가능성이 있다는 것이다.

버셀은 해당 피싱 사이트들을 차단했으며 남용 신고 체계 구축을 위해 옥타와 협력하고 있다. 옥타는 이러한 공격을 방어하기 위해서는 기존 피싱 탐지 방법 대신 비밀번호 없는 인증 기술로의 전환이 필요하다고 강조했다.


해당 기사의 원문은 악시오스에서 확인 가능하다.

이미지 출처: 이디오그램 생성