AI가 만든 가짜 리뷰 늘어난다

인공지능(AI) 기술의 발전으로 콘텐츠 생성이 쉬워졌지만, 이는 앱 시장에서 새로운 위협으로 작용하고 있다. AI로 만들어진 가짜 앱 리뷰가 급증하면서 소비자들을 기만하고 광고 생태계를 교란시키는 문제가 심각해지고 있다.

DV 프로드 랩(DV Fraud Lab)의 조사에 따르면, 2023년 모바일 앱 사기 조사 건수가 두 배로 증가했다. 특히 AI가 생성한 앱 리뷰들이 소비자들을 속여 잠재적으로 위험한 앱을 다운로드하게 만드는 경향이 두드러졌다. 이러한 가짜 리뷰들은 앱의 신뢰도를 인위적으로 높이는 데 사용된다. DV 프러드 랩은 수천 개의 5점 평가를 받은 앱들 중 상당수가 AI로 만들어진 리뷰임을 확인했다. 일부 가짜 리뷰는 교묘하게 위장되어 있지만, “AI 언어 모델로서 죄송하지만…”과 같은 AI 특유의 문구로 쉽게 식별되기도 한다.

연결 TV(CTV) 앱에서도 유사한 패턴이 발견됐다. 여러 리뷰에서 동일한 문구가 반복되는 것으로 보아 조직적인 기만 행위가 있음을 알 수 있다. 이런 앱들을 다운로드한 사용자들은 맥락에 맞지 않는 광고들에 시달리게 된다. 이는 사용자 경험을 해치고 결국 앱의 장기적인 생존을 위협한다. 사용자들이 앱을 제거한 후에도 허위 트래픽을 계속 발생시키는 문제도 있다.

DV의 분석 결과, 한 인기 스마트 TV 플랫폼의 스트리밍 앱에서 50%의 리뷰가 가짜인 것으로 나타났다. 이는 독자적인 기술과 인간의 분석을 결합해 조작 신호를 식별한 결과다. 가짜 리뷰의 주요 특징으로는 서로 다른 사용자의 리뷰임에도 문법과 스타일이 동일하고, 각 단어의 첫 글자를 대문자로 쓰는 등 특이한 형식을 사용하며, 부정적인 내용임에도 5점 만점을 주는 불일치, 그리고 모든 평가에 글로 된 리뷰가 첨부되는 점 등이 있다.

이러한 관행은 광고 생태계에 심각한 영향을 미친다. 사용자들이 과도한 광고에 시달리거나 광고가 보이지 않는 곳에서 실행되면 광고의 질과 효과가 떨어진다. 광고주들은 이러한 사기를 피하기 위해 더 엄격한 기준과 주의가 필요하게 됐다.

DV 프러드 랩에 따르면, 2024년 AI로 만든 가짜 리뷰를 가진 앱의 수가 2023년 같은 기간에 비해 3배 이상 증가했다. 이는 특히 노출당 비용(CPM)이 35달러에서 65달러 사이인 스트리밍 광고주들에게 큰 영향을 미칠 수 있다.

AI 기술이 산업을 재편하는 가운데, 광고 분야에서도 AI 생성 콘텐츠의 부정적 영향을 막기 위한 정교한 대책이 필요하다. 더 발전된 검증 프로세스 개발과 사기꾼들의 진화하는 전략에 대한 지속적인 관심이 요구된다. 이를 통해 AI의 콘텐츠 생성 이점이 오용 가능성을 상회할 수 있도록 해야 한다.

DV 프러드 랩(DV Fraud Lab)의 리포트는 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기