구글 검색 결과에서 매일 수억 개의 사기 콘텐츠 차단… AI로 20배 더 효과적 방어

Fighting Scams on Search

구글, AI 기반 사기 방지 시스템으로 검색 결과 99% 안전성 확보

구글이 공개한 보안 보고서에 따르면, 구글 검색은 사용자가 관련성 높고 유용하며 안전한 결과를 제공받을 것이라는 신뢰를 바탕으로 운영된다. 이를 위해 구글은 웹상에 존재하는 사기성 페이지와 싸우기 위한 최첨단 기술을 구축하고 있다. 온라인 사기의 정교함이 계속해서 증가하고 있지만, 구글의 보호 시스템은 이러한 사기의 대부분을 검색 결과에서 제외시켜 매일 수억 개의 잠재적 사기 결과를 차단하고 있다. 악의적인 행위자들이 지속적으로 적응하고 진화함에 따라 구글은 최신 위협보다 한발 앞서 나가기 위해 혁신적인 사기 방지 접근법에 계속 투자하고 있으며, 이를 통해 사용자가 검색하는 동안 안전하게 보호받을 수 있도록 노력하고 있다.

대규모 언어 모델로 다국어 사기 탐지 능력 강화

구글은 지난 3년 동안 AI 기반 사기 방지 시스템의 새로운 버전을 출시했으며, 2024년에는 사기성 결과에 대한 방어 능력을 크게 향상시켰다. 인공지능과 대규모 언어 모델(Large Language Models, LLMs)의 발전으로 사기 퇴치 능력이 강화되었으며, 방대한 양의 텍스트를 분석하고 조직적인 사기 캠페인이나 새롭게 등장하는 사기성 서술을 나타낼 수 있는 미묘한 언어 패턴과 주제적 연결을 식별할 수 있게 되었다. 예를 들어, 구글의 시스템은 독립적으로는 합법적으로 보일 수 있는 기만적인 웹사이트의 상호 연결된 네트워크를 식별할 수 있다. 사기 생태계 내의 뉘앙스와 트렌드에 대한 이러한 심층적인 이해를 통해 더 표적화되고 효과적인 탐지 메커니즘을 개발할 수 있으며, 이는 지속적인 사이버 보안 전쟁에서 중요한 우위를 제공한다.

대규모 언어 모델은 또한 전 세계 더 많은 사람들을 보호하기 위해 언어 전반에 걸쳐 보호 기능을 확장하는 데 도움을 주었다. 사기꾼들이 전 세계 모든 언어로 활동한다는 것을 알고 있기 때문에, 사용자가 어떤 언어를 사용하든 검색을 이용하는 사람들을 위한 보호 장치를 마련하는 것이 중요하다. 영어, 힌디어, 독일어, 스페인어 또는 다른 언어로 사기를 식별하든, 대규모 언어 모델을 통해 시스템이 여러 다른 언어에서도 이러한 사기를 감지하도록 훈련시킬 수 있어 전 세계적으로 사기에 대한 사용자 노출을 제한할 수 있게 되었다.

AI 기술로 사기 탐지율 20배 향상, 특정 부문 사기 80% 감소

2024년 동안 구글은 사기 탐지 시스템에 여러 중요한 업데이트를 구현했다. 이러한 지속적인 노력의 결과로 현재 매일 수억 개의 유해하고 사기 관련 결과가 사용자에게 도달하지 못하도록 방지하고 있다. 이러한 일일 개입은 수많은 개인을 잠재적 피해로부터 보호하는 중요한 방패 역할을 한다. 지난 3년 동안 구글은 기존 분류 시스템을 크게 향상시키고 대규모 언어 모델을 활용하여 사기를 식별하고 무력화하기 위한 완전히 새로운 솔루션을 개발했다. 대규모 언어 모델을 포함한 고급 AI 모델을 통합함으로써 사기 탐지 능력이 기하급수적으로 성장했으며, 이로 인해 검색에 도달하기 전에 20배 더 많은 사기성 페이지를 잡아낼 수 있게 되었다.

구글 전략의 중요한 측면은 새롭게 부상하는 사기 동향을 식별하고 신속하게 대응책을 배포하는 것이다. 예를 들어, 항공사 관련 고객 서비스 쿼리를 대상으로 하는 사기 활동이 눈에 띄게 증가한 것을 관찰한 후, 신속하게 전용 보호 장치를 구현하여 항공사 관련 검색에서 사기 공격이 80% 이상 감소하는 결과를 달성했다. 또한 공식 리소스(비자나 기타 정부 서비스 등)를 모방하는 오해의 소지가 있는 페이지가 증가하는 것을 관찰했으며, 2024년에는 새로운 보호 장치로 공식 사이트를 사칭하는 사기가 70% 이상 감소했다.

개인 보안을 위한 사기 탐지 방법과 대응 전략

구글의 고급 시스템이 하루 24시간 검색을 99% 스팸 없이 유지하기 위해 작동하지만, 경계심은 여전히 온라인 안전의 중요한 요소이다. 다음은 웹 전반에서 사기로부터 자신을 보호하기 위해 취할 수 있는 실질적인 조치들이다. 유사 도메인을 확인하는 것이 중요하다. 악의적인 행위자들은 종종 사람들을 속이기 위해 비슷해 보이는 도메인을 사용한다. 예를 들어, @thisisgoodlink.com 도메인 대신 악의적인 행위자는 “@thisisagoodlink.support”를 사용할 수 있다.

웹페이지, 스토어 또는 비즈니스에 대한 통찰력을 모으는 것도 중요하다. 온라인 소스에 대한 더 많은 정보를 얻는 한 가지 방법은 ‘이 결과에 대해'(검색 결과 옆의 세 개의 점)를 사용하는 것인데, 이를 통해 온라인 스토어와 같은 소스에 대해 페이지를 클릭하기 전에 더 자세히 알아볼 수 있다.

공식 리소스를 찾고 비정상적인 서식에 주의해야 한다. 구글 검색 시스템은 고품질의 신뢰할 수 있는 정보를 제공하도록 설계되었다. 고객 서비스 번호와 같은 정보의 경우 실제로 그 정보의 “공식” 출처는 하나뿐이다. 모든 비즈니스가 고객 서비스 번호를 가지고 있는 것은 아니므로, 웹사이트에서 번호를 찾을 수 없다면 다른 사이트나 서비스에서 번호를 찾기 전에 주의해야 한다. 이상한 서식, 특이한 폰트, 예상치 못한 기호나 이모티콘 등은 가짜 사이트를 나타낼 수 있으므로 주의해야 한다.

FAQ

Q: 구글 검색에서 AI가 사기를 방지하는 방식은 어떻게 작동하나요?

A: 구글은 기계학습 알고리즘을 활용하여 사기 행위를 나타내는 패턴, 이상점, 언어적 단서를 식별합니다. 대규모 언어 모델(LLMs)을 통합하여 방대한 양의 텍스트를 분석하고 사기 캠페인이나 사기성 서술을 나타내는 미묘한 언어 패턴과 주제적 연결을 식별합니다. 이를 통해 검색 결과에 도달하기 전에 20배 더 많은 사기성 페이지를 탐지할 수 있게 되었습니다.

Q: 대규모 언어 모델(LLM)이 사기 방지에 어떤 도움을 주나요?

A: LLM은 다양한 언어에 걸쳐 보호 기능을 확장하는 데 도움을 줍니다. 영어, 힌디어, 독일어, 스페인어 등 어떤 언어로든 사기를 탐지하면, 다른 언어에서도 유사한 사기를 감지할 수 있도록 시스템을 훈련시킵니다. 또한 서로 연결된 기만적인 웹사이트 네트워크를 식별하고, 미묘한 언어 패턴을 분석하여 더 효과적인 사기 탐지가 가능해집니다.

Q: 개인으로서 온라인 사기를 피하기 위한 가장 중요한 조치는 무엇인가요?

A: 유사해 보이는 도메인을 주의 깊게 확인하고, ‘이 결과에 대해’ 기능을 사용하여 온라인 소스에 대한 정보를 수집하세요. 또한 공식 리소스를 찾고 이상한 서식, 특이한 폰트, 예상치 못한 기호나 이모티콘이 있는 웹사이트는 가짜일 수 있으므로 주의하세요. 고객 서비스 번호와 같은 중요한 정보는 항상 공식 웹사이트에서 찾는 것이 가장 안전합니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: 구글

기사는 클로드와 챗GPT를 활용해 작성되었습니다.