이스라엘-이란 갈등 AI 가짜뉴스 1억 뷰 돌파… 한 AI는 가짜 영상 진짜로 판명하기도

BBC가 20일(현지 시간) 보도한 내용에 따르면, 이스라엘과 이란 간 갈등이 인공지능 가짜정보의 새로운 전쟁터가 되고 있다. BBC 베리파이(BBC Verify) 분석에 따르면, 이번 갈등은 “생성형 AI가 대규모로 사용된 첫 번째 갈등”으로 기록되고 있다. 가장 충격적인 사실은 규모다. BBC가 발견한 가짜 영상 상위 3개만으로도 여러 플랫폼에서 총 1억 회 이상 조회됐다. 온라인 검증 그룹 지오컨펌드(Geoconfirmed)는 이런 가짜정보 양을 “놀라운 수준”이라고 표현했다.

분석 그룹 겟 리얼(Get Real)의 수석 수사관 에마뉘엘 살리바는 “갈등 중에 생성형 AI가 이렇게 대규모로 사용되는 것을 처음 본다”고 밝혔다. AI로 제작된 가짜 영상들은 주로 이란의 군사적 성과를 과장하는 내용이다. 2700만 회 조회된 영상은 텔아비브에 수십 개 미사일이 떨어지는 장면을 묘사했다. 또 다른 영상은 이스라엘 F-35 전투기가 격추되는 모습을 보여준다고 주장했지만, 실제로는 비행 시뮬레이터 게임 영상이었다.

분석 그룹 알레테아(Alethea)의 CEO 리사 카플란에 따르면, 만약 온라인에 떠도는 F-35 격추 영상이 모두 사실이라면 이란이 이스라엘 F-35 전투기 전체의 15%를 파괴한 셈이다. 하지만 실제 F-35 격추 영상은 아직 하나도 검증되지 않았다. 특히 주목할 점은 일부 가짜정보가 러시아의 영향력 작전과 연결되어 있다는 사실이다. 카플란은 “러시아는 F-35에 대한 실질적인 대응책이 없어 특정 국가 내에서 F-35에 대한 지지를 약화시키려 한다”고 분석했다.

소셜미디어 플랫폼의 대응도 문제가 되고 있다. X(구 트위터)의 AI 챗봇 그록(Grok)은 명백한 AI 가짜 영상을 실제라고 주장했다. 산기슭에서 무수한 미사일 운반 트럭이 나오는 영상에서 바위가 저절로 움직이는 등 AI 조작 흔적이 명백했음에도 그록은 “뉴스위크(Newsweek)와 로이터(Reuters) 보도를 인용하며 영상이 실제”라고 답했다.

일부 계정은 가짜정보로 큰 이익을 얻고 있다. 친이란 계정 ‘데일리 이란 밀리터리(Daily Iran Military)’는 일주일 만에 팔로워가 70만 명에서 140만 명으로 100% 증가했다. 틱톡(TikTok)은 BBC 접촉 후 해당 가짜 영상을 삭제했다고 밝혔지만, 이미 수천만 명이 시청한 후였다. 이란과 이스라엘 공식 기관들도 가짜 이미지를 공유하는 등 혼란은 더욱 가중되고 있다.

전문가들은 이번 사태가 AI 시대 정보전의 새로운 패러다임을 보여준다고 분석한다. 노터데임대학교 연구원 매튜 파치아니는 “사람들이 자신의 정치적 정체성과 일치하는 콘텐츠를 공유하려는 심리와 감정적 콘텐츠가 더 빠르게 퍼지는 온라인 특성이 결합된 결과”라고 설명했다.

해당 기사의 원문은 BBC에서 확인 가능하다.

이미지 출처: 이디오그램 생성