Facebook을 뒤덮은 AI 생성 이미지, 기회일까 위협일까?

How Spammers and Scammers Leverage AI-Generated Images on Facebook for Audience Growth

인공지능(AI) 기술의 급속한 발전으로 누구나 쉽게 고품질의 이미지를 생성할 수 있게 되면서, 소셜 미디어 플랫폼에서 이를 활용한 콘텐츠가 급증하고 있다. 하지만 Facebook에서 AI 생성 이미지를 이용해 사용자들의 관심을 끌고 때로는 부당한 이익을 취하려는 시도가 늘어나고 있어 주의가 필요하다.

스탠포드 대학교의 르네 디레스타와 조지타운 대학교의 조쉬 A. 골드스타인 연구진이 최근 발표한 보고서는 이러한 현상의 실태와 잠재적 위험성을 상세히 분석하고 있다. 연구진은 120개의 Facebook 페이지를 조사했는데, 이들 페이지는 각각 최소 50개 이상의 AI 생성 이미지를 게시했으며, 평균 팔로워 수가 128,877명에 달했다. 이는 AI 생성 콘텐츠가 이미 상당한 규모의 독자층을 확보하고 있음을 보여준다.

특히 주목할 만한 점은 이러한 AI 생성 콘텐츠가 Facebook 알고리즘에 의해 적극적으로 추천되고 있다는 사실이다. 2023년 3분기 Facebook에서 가장 많이 본 콘텐츠 20개 중 하나가 AI 생성 이미지를 포함한 게시물이었으며, 이 게시물은 4천만 회 이상 조회되고 190만 건 이상의 상호작용을 기록했다. 이는 AI 생성 이미지가 사용자들의 관심을 끌고 상호작용을 유도하는 데 매우 효과적임을 보여준다.

이러한 현상은 Facebook의 최근 알고리즘 변화와도 밀접한 관련이 있다. Facebook은 틱톡과 같은 경쟁 플랫폼에 대응하기 위해 사용자가 팔로우하지 않은 페이지의 콘텐츠도 적극적으로 추천하는 방향으로 전략을 변경했다. 실제로 ‘연결되지 않은 게시물(unconnected posts)’의 노출 비율이 2021년 2분기 8%에서 2023년 3분기 24%로 크게 증가했다. 이는 AI 생성 이미지를 활용한 페이지들의 콘텐츠가 더 많은 사용자에게 노출될 수 있는 환경을 조성했다.

그러나 이러한 변화가 반드시 긍정적인 것만은 아니다. 연구진은 AI 생성 이미지를 대량으로 사용하는 페이지들 중 상당수가 스팸이나 사기 목적으로 운영되고 있음을 발견했다. 이들은 페이지 도용, 외부 사이트로의 트래픽 유도, 가짜 제품 판매 등 다양한 기만적 전술을 사용하고 있었다. 예를 들어, 한 밴드의 페이지였던 “Rock the Nation USA”가 갑자기 “Life Nature”로 이름을 바꾸고 AI 생성 이미지를 대량 게시하면서 1주일 만에 30만 명의 새로운 팔로워를 얻은 사례가 있었다.

이러한 행태는 Facebook 사용자들에게 직접적인 피해를 줄 수 있으며, 플랫폼 전반의 신뢰도를 저하시킬 우려가 있다. 특히 AI 생성 이미지의 특성상 실제 제품이나 장소와 구분하기 어려워, 사용자들이 쉽게 속아 넘어갈 수 있다는 점에서 더욱 위험하다.

다행히도 일부 Facebook 사용자들은 이러한 문제를 인식하고 있으며, 자발적으로 다른 사용자들에게 경고를 보내는 등의 대응을 하고 있다. 예를 들어, AI 생성 이미지를 사용하는 페이지의 리뷰나 댓글 섹션에서 “이 페이지의 모든 콘텐츠는 AI로 생성됨, 완전히 가짜”와 같은 경고성 메시지를 발견할 수 있었다.

이러한 문제에 대응하기 위해 Facebook을 운영하는 메타는 최근 AI 생성 이미지에 대한 라벨링 계획을 발표했다. 그러나 연구진의 조사 기간 동안에는 거의 라벨링이 이뤄지지 않은 것으로 나타났다. 이는 AI 생성 콘텐츠의 급증 속도에 플랫폼의 대응이 미처 따라가지 못하고 있음을 보여준다.

전문가들은 이러한 문제에 대응하기 위해 소셜 미디어 기업들의 AI 생성 콘텐츠 탐지 및 라벨링 강화, 사용자 교육을 통한 AI 생성 콘텐츠 식별 능력 향상, AI 생성 콘텐츠가 정보 생태계에 미치는 영향에 대한 추가 연구, 그리고 투명성 제고를 위한 기술적, 정책적 방안 마련 등을 제안하고 있다.

AI 기술의 발전은 소셜 미디어 환경에 큰 변화를 가져오고 있다. AI 생성 이미지는 창의적인 콘텐츠 제작을 가능케 하고 사용자 경험을 풍부하게 만들 수 있는 잠재력을 가지고 있지만, 동시에 오남용될 경우 정보의 신뢰성을 해치고 사용자들에게 피해를 줄 수 있는 양날의 검이다.

따라서 앞으로 소셜 미디어 사용자들은 온라인에서 접하는 정보를 더욱 비판적으로 평가하는 능력을 길러야 할 것이며, 플랫폼 기업들은 AI 생성 콘텐츠를 효과적으로 관리하고 사용자들에게 투명하게 공개하는 정책을 마련해야 할 것이다. 또한 연구자들과 정책 입안자들은 AI 기술의 발전이 소셜 미디어 생태계에 미치는 영향을 지속적으로 모니터링하고 분석하여, 기술의 혜택은 극대화하고 부작용은 최소화할 수 있는 방안을 모색해야 할 것이다.

스탠포드 대학의 보고서는 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.

관련 콘텐츠 더보기