“AI가 해킹 무기로” 북한·중국·러시아發 사이버 공격 실체 드러났다…악용 국가만 57개국

수많은 해킹 피해 이면에 구글 AI ‘제미나이’가 있었다.

구글위협정보그룹(GTIG) 보고서에 따르면 중국, 이란, 북한, 러시아 등 57개국의 국가 지원 해커 조직이 구글의 인공지능(AI) 기술을 사이버 공격과 정보 작전에 활용하고 있는 것으로 드러났다.

해커들은 구글의 AI 챗봇 제미나이(Gemini)를 활용해 생산성을 높이고 있지만, 아직 새로운 공격 기술을 개발하는 단계까지는 이르지 않았다. 현재는 주로 연구, 코드 문제 해결, 콘텐츠 제작 및 현지화에 AI를 활용하고 있다.

특히 이란의 ‘APT42’ 조직이 이란 내 해커들의 제미나이 사용량 중 30% 이상을 차지했다. 이들은 피싱 캠페인 제작, 방위 전문가와 조직 정찰, 사이버보안 테마의 콘텐츠 생성에 AI를 활용했다. APT42는 ‘차밍 키튼(Charming Kitten)’과 ‘민트 샌드스톰(Mint Sandstorm)’으로도 알려져 있으며, 서방과 중동의 NGO, 언론사, 학계, 법률 서비스 기관을 대상으로 공격을 감행했다.

중국의 APT 그룹들은 정찰, 코드 문제 해결뿐만 아니라 피해자 네트워크 침투를 위한 권한 상승, 데이터 유출, 탐지 회피 등 고도화된 기술에 제미나이를 활용했다. 러시아는 공개 멀웨어의 코드 변환과 암호화에 제한적으로 활용했으며, 북한은 인프라 연구와 호스팅 제공업체 조사에 AI를 사용했다.

보고서는 북한 해커들이 서방 기업에 위장 취업을 시도하기 위해 이력서 작성, 직무 설명에 맞는 제안서 작성, 특정 직종의 평균 연봉 조사 등에 제미나이를 활용했다고 밝혔다. 이는 북한이 서방 기업에 IT 인력을 비밀리에 잠입시키려는 시도의 일환으로 분석된다.

GTIG는 윤리적 제약이 없는 악성 AI 모델들이 지하 포럼에서 거래되고 있다고 경고했다. 윔GPT(WormGPT), 울프GPT(WolfGPT), 이스케이프GPT(EscapeGPT), 프로드GPT(FraudGPT), 고스트GPT(GhostGPT) 등의 도구들이 맞춤형 피싱 이메일 생성, 기업 이메일 침해(BEC) 공격, 사기성 웹사이트 제작 등에 사용되고 있다.

구글은 이러한 위협에 대응하기 위해 프롬프트 인젝션 공격을 막는 적극적인 방어 체계를 구축하고 있다. 또한 사이버 방어 강화와 위협 차단을 위해 “미국 산업계와 정부의 협력이 국가 안보와 경제 안보를 위해 필수적”이라고 강조했다.

더 자세한 내용은 구글 클라우드 블로그에서 확인할 수 있다.

이미지출처: 구글 클라우드 블로그


기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기