딥페이크, 금융·보험·미디어 산업에 심각한 위협

이미지 출처: 미드저니 생성

미국의 IT미디어 테크스펙티브는(Techspective)가 딥페이크 기술의 위협성에 대해 보도했다.

기사는 딥페이크 기술이 금융, 보험, 미디어 산업에 심각한 위협이 되고 있다며 생성형 AI 기술의 발전으로 딥페이크 제작이 쉬워지고 현실감이 높아져 이를 이용한 사이버 범죄가 급증하고 있다고 언급했다.

FBI 인터넷범죄신고센터에 따르면 2023년 사이버 범죄 관련 민원이 약 90만 건 접수됐다. 이는 2022년 대비 22% 증가한 수치다. 잠재적 손실액은 125억 달러에 달했다.

금융 부문에서는 딥페이크를 이용한 사기가 급증했다. 삼성의 보고서에 따르면 2023년 핀테크 분야의 딥페이크 공격이 전년 대비 700% 증가했다. 한 예로 영국 기반 다국적 기업 아럽(Arup)의 홍콩 지사에서 근무하는 재무 담당자가 딥페이크로 조작된 화상 회의를 통해 속아 2,560만 달러를 사이버 범죄자들에게 송금한 사건이 있었다. 이 직원은 영국 본사 CFO를 사칭한 이메일과 가짜 화상 회의 참가자들에 의해 사기를 당했다.

보험 산업도 딥페이크의 영향을 크게 받고 있다. 보험사기연합은 사기성 보험금 청구로 인한 연간 손실액이 3,086억 달러를 넘는다고 밝혔다. 알리안츠(Allianz)는 2021-22년과 2022-23년 사이 이미지, 동영상, 문서 사기 사건이 300% 증가했다고 보고했다.

미디어 분야 역시 딥페이크를 이용한 허위정보 유포가 문제가 되고 있다. 지난해 슬로바키아 총선을 앞두고 정치인들의 대화를 조작한 딥페이크 오디오가 유출돼 논란이 됐다. 진보 슬로바키아당(Progressive Slovakia)의 미할 시메치카(Michal Šimečka) 대표와 데닉 N(Denník N) 일간지의 모니카 토도바(Monika Tódová) 기자가 선거 조작을 논의하는 내용의 가짜 음성 파일이 선거 직전에 유포됐다. 이 딥페이크 오디오는 두 사람이 선거 결과를 조작하는 방법을 상의하는 것처럼 조작됐다. 실제로는 일어나지 않은 대화를 AI 기술을 이용해 만들어낸 것이다. 이 허위 정보는 선거 결과에 영향을 미칠 수 있는 시점에 유포돼 더욱 문제가 됐다.

이에 대응해 기업들은 AI 기술을 활용한 대책 마련에 나섰다. 문서, 이미지, 음성, 동영상의 진위를 가리는 AI 기반 포렌식 기술 개발이 활발히 이루어지고 있다. 전문가들은 모든 금융 거래, 보험금 청구, 미디어 콘텐츠에 대한 인증 시스템 구축이 필요하다고 조언했다.

테크스펙티브의 기사 원문은 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.

관련 콘텐츠 더보기