AI로 정교해지는 사이버 사기, 연간 40억 달러 사기 시도 차단한 마이크로소프트의 대응책은?

Cyber Signals Issue 9 | AI-powered deception: Emerging fraud threats and countermeasures

연간 40억 달러 규모의 사기 시도: AI가 변화시킨 사이버 범죄 지형도

사이버 범죄자들에게 인공지능(AI)은 이제 강력한 생산성 도구가 되었다. 마이크로소프트 보안팀의 보고서에 따르면, AI 기술은 사이버 사기의 진입 장벽을 낮추고, 범죄자들이 더 쉽고 저렴하게 신뢰할 수 있는 콘텐츠를 생성할 수 있게 했다. 이러한 AI 도구들은 웹에서 회사 정보를 스캔하고 수집하여 사이버 공격자들이 직원이나 다른 대상에 대한 상세한 프로필을 구축하고 매우 설득력 있는 사회 공학 미끼를 만드는 데 도움을 주고 있다.

마이크로소프트 사기방지팀(Microsoft Anti-Fraud Team)에 따르면 AI 기반 사기 공격은 전 세계적으로 발생하고 있으며, 많은 활동이 중국과 유럽, 특히 독일에서 발생하고 있다. 이는 부분적으로 독일이 유럽 연합(EU)에서 가장 큰 전자상거래 및 온라인 서비스 시장 중 하나라는 사실 때문이다. 디지털 마켓플레이스가 크면 클수록 비례하는 정도의 사기 시도가 발생할 가능성이 높아진다.

2024년 4월부터 2025년 4월 사이에 마이크로소프트는 40억 달러에 달하는 사기 시도를 저지했으며, 49,000건의 사기성 파트너십 등록을 거부하고, 시간당 약 160만 건의 봇 가입 시도를 차단했다. 이는 AI 기술이 사이버 범죄에 적극적으로 활용되고 있음을 보여주는 증거다.

몇 분 만에 만들어지는 완벽한 가짜 쇼핑몰: AI 전자상거래 사기의 진화

AI를 활용한 사기성 전자상거래 웹사이트는 이제 몇 분 만에 구축될 수 있다. 과거에는 설득력 있는 웹사이트를 구축하는 데 며칠 또는 몇 주가 걸렸지만, 이제 AI와 최소한의 기술 지식만 있으면 가능하다. 이러한 사기성 웹사이트는 종종 합법적인 사이트를 모방하여 소비자가 가짜로 식별하기 어렵게 만든다.

AI로 생성된 제품 설명, 이미지 및 고객 리뷰를 사용하여 고객들은 자신이 진짜 판매자와 상호 작용하고 있다고 믿게 되며, 이는 익숙한 브랜드에 대한 소비자 신뢰를 악용하는 것이다. AI 기반 고객 서비스 챗봇은 고객과 설득력 있게 상호 작용함으로써 또 다른 속임수 층을 추가한다. 이러한 봇은 스크립트화된 변명으로 고객을 지연시키고 AI 생성 응답으로 불만을 조작하여 사기 사이트가 전문적으로 보이게 만든다.

마이크로소프트는 여러 접근 방식을 통해 제품 및 서비스 전반에 강력한 방어 체계를 구현하여 고객을 AI 기반 사기로부터 보호하고 있다. 마이크로소프트 디펜더 포 클라우드(Microsoft Defender for Cloud)는 취약성 평가 및 가상 머신, 컨테이너 이미지 및 엔드포인트에 대한 위협 탐지를 포함하여 애저(Azure) 리소스에 대한 포괄적인 위협 보호를 제공한다.

마이크로소프트 엣지(Microsoft Edge)는 딥 러닝 기술을 사용한 웹사이트 오타 보호 및 도메인 사칭 보호 기능을 제공하여 사용자가 사기성 웹사이트를 피할 수 있도록 돕는다. 엣지는 또한 잠재적인 사기 페이지와 컴퓨터가 손상되었다고 주장하는 경고를 담은 기만적인 팝업 화면을 식별하고 차단하기 위해 머신 러닝 기반 스케어웨어 차단기(Scareware Blocker)를 구현했다. 이러한 공격은 사용자가 사기성 지원 번호로 전화하거나 유해한 소프트웨어를 다운로드하도록 겁주려고 시도한다.

AI로 만들어진 가짜 면접관이 당신을 속인다: 정교해진 취업 사기의 실체

생성형 AI의 급속한 발전으로 사기꾼들은 다양한 구직 플랫폼에서 가짜 리스팅을 더 쉽게 만들 수 있게 되었다. 그들은 도용된 자격 증명으로 가짜 프로필을 생성하고, 자동 생성된 설명이 포함된 가짜 채용 공고를 게시하며, AI 기반 이메일 캠페인을 통해 구직자들에게 피싱 공격을 시도한다. AI 기반 면접과 자동화된 이메일은 구직 사기의 신뢰성을 높여 구직자들이 사기성 제안을 식별하기 어렵게 만든다.

이를 방지하기 위해 구직 플랫폼은 고용주 계정에 다중 인증을 도입하여 악의적인 행위자가 합법적인 채용 담당자의 리스팅을 탈취하는 것을 어렵게 만들고, 의심스러운 콘텐츠를 포착하기 위해 사용 가능한 사기 탐지 기술을 사용해야 한다.

사기꾼들은 종종 지원자의 정보를 확인한다는 구실 하에 이력서나 심지어 은행 계좌 정보와 같은 개인 정보를 요구한다. 최소한의 자격으로 높은 급여를 약속하는 고용 기회를 제공하는 요청되지 않은 문자 및 이메일 메시지는 일반적으로 사기의 지표다. 지불 요청이 포함된 고용 제안, 믿기 어려울 정도로 좋은 제안, 문자 메시지를 통한 요청되지 않은 제안이나 면접 요청, 공식 커뮤니케이션 플랫폼의 부재 등은 모두 사기의 지표가 될 수 있다.

딥 러닝으로 사기를 잡는다: 마이크로소프트의 AI 대항 전략

마이크로소프트는 AI와 다른 기술을 사용하여 사기 시도를 적극적으로 차단하고 있다. 머신 러닝과 같은 AI 기반 대규모 탐지 모델을 발전시켜 사기 시도를 학습하고 완화함으로써 방어하고 있다. 머신 러닝은 컴퓨터가 알고리즘을 사용하여 대규모 데이터 세트에서 패턴을 발견하는 직접적인 지시 없이 학습하는 과정이다. 이러한 패턴은 높은 정확도로 예측을 가능하게 하는 포괄적인 AI 모델을 만드는 데 사용된다.

마이크로소프트는 잠재적인 악의적인 활동에 대해 사용자에게 경고하는 제품 내 안전 제어를 개발하고 새로운 유형의 공격을 신속하게 탐지하고 방지하는 기능을 통합했다. 사기팀은 사기성 전자상거래 웹사이트와 가짜 구직 리스팅으로부터 보호하기 위해 도메인 생성 단계에서 딥 러닝 기술을 사용한 도메인 사칭 보호를 개발했다. 마이크로소프트 엣지는 웹사이트 오타 보호를 통합했으며, 링크드인(LinkedIn)을 위한 AI 기반 가짜 구직 탐지 시스템을 개발했다.

마이크로소프트 디펜더 스마트스크린(Microsoft Defender Smartscreen)은 평판과 행동에 기반하여 웹사이트, 파일 및 애플리케이션을 분석하는 클라우드 기반 보안 기능이다. 이는 윈도우와 엣지 브라우저에 통합되어 사용자를 피싱 공격, 악성 웹사이트 및 잠재적으로 유해한 다운로드로부터 보호하는 데 도움을 준다.

또한, 마이크로소프트의 디지털 범죄 유닛(Digital Crimes Unit, DCU)은 사이버 사기를 저지르는 범죄자들이 사용하는 악성 인프라를 방해하기 위해 민간 및 공공 부문의 다른 기관들과 협력하고 있다. 기술 지원 사기에 대응하기 위한 전 세계 법 집행 기관과의 팀의 오랜 협력은 전 세계적으로 수백 건의 체포와 점점 더 심각한 징역형으로 이어졌다. DCU는 악의적이거나 사기적인 목적으로 생성형 AI 기술을 악용하려는 사람들을 방해하기 위해 과거 조치에서 얻은 주요 교훈을 적용하고 있다.

마이크로소프트는 또한 글로벌 안티스캠 얼라이언스(Global Anti-Scam Alliance, GASA)의 회원으로, 정부, 법 집행 기관, 소비자 보호 단체, 금융 당국 및 제공업체, 브랜드 보호 기관, 소셜 미디어, 인터넷 서비스 제공업체 및 사이버보안 회사를 모아 지식을 공유하고 소비자가 사기를 당하지 않도록 보호하는 것을 목표로 한다.

FAQ

Q: AI가 사이버 사기에 어떻게 활용되고 있나요?

A: AI는 사기꾼들이 설득력 있는 가짜 웹사이트, 제품 설명, 고객 리뷰를 생성하고, 구직 사기를 만들며, 챗봇을 통해 고객과 상호작용하는 데 사용됩니다. 이러한 기술은 사기의 규모와 정교함을 크게 높여 소비자가 진짜와 가짜를 구분하기 어렵게 만듭니다.

Q: 온라인 쇼핑 시 AI 사기를 피하는 방법은 무엇인가요?

A: 긴급함을 조장하는 “한정 시간” 특가나 카운트다운 타이머에 현혹되지 마세요. AI로 생성된 가짜 리뷰나 추천을 의심하고, 광고를 클릭하기 전에 도메인 이름과 리뷰를 교차 확인하세요. 또한 직접 은행 송금이나 암호화폐 결제와 같이 사기 보호 기능이 없는 결제 방법은 피하는 것이 좋습니다.

Q: 마이크로소프트는 AI 사기에 어떻게 대응하고 있나요?

A: 마이크로소프트는 머신 러닝과 AI 기반 대규모 탐지 모델을 개발하여 사기를 탐지하고 방지하고 있습니다. 마이크로소프트 엣지의 웹사이트 오타 보호, 도메인 사칭 보호, 스케어웨어 차단기 등의 기능을 제공하며, 디지털 범죄 유닛을 통해 사이버 범죄자들이 사용하는 악성 인프라를 방해하는 활동을 펼치고 있습니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: 마이크로소프트

기사는 클로드와 챗GPT를 활용해 작성되었습니다.