생성형 AI로 조작된 기후변화 여론…그레타 툰베리 이미지만 8700번 다운로드됐다

Applications of generative artificial intelligence to influence climate change decisions

생성형 AI, 기후변화 논의의 새로운 변수로 등장

네이처에 게재된 논평에 따르면, 생성형 인공지능(Generative AI, 이하 생성형 AI)이 기후변화 관련 의사결정 과정에서 새로운 영향력을 행사하고 있다. 텍스트, 이미지, 오디오, 비디오 등 다양한 형태의 콘텐츠를 생성할 수 있는 생성형 AI는 인간이 만든 콘텐츠와 구분하기 어려울 정도의 품질을 보여주며, 때로는 더 뛰어난 결과물을 만들어내기도 한다. 비용 효율적이고 접근성이 높은 이 기술은 이미 기후변화 논의에서 다양한 주체들에 의해 활용되고 있다.

기후변화 의사결정은 전 세계 수십억 명의 행위자들이 관여하는 복잡한 과정이다. 개인의 선택부터 지역사회 프로세스, 국제 외교에 이르기까지 다양한 사회적 복잡성을 포함하며, 기후변화 완화와 적응 전략, 그리고 이러한 목표들 간의 한정된 자원 배분에 대한 결정이 필요하다.

실제 사례로 본 생성형 AI의 영향력

생성형 AI는 개인부터 국가 차원까지 다양한 수준에서 기후변화 정책 결정에 영향을 미치고 있다. 2023년 슬로바키아 선거에서는 친환경 정당 지도자를 비방하는 딥페이크(Deepfake) 영상이 유포됐으며, 영국에서는 생성형 AI 챗봇이 영국 왕실 구성원을 대상으로 한 암살 시도를 부추긴 사례도 있었다.

2024년에는 영국 야생동물 트러스트(UK Wildlife Trusts) 회장의 음성이 복제되어 광고 계약 사기에 악용된 사례가 발생했다. 오픈소스 저장소 시비타이(Civitai)에서는 환경 방송인 데이비드 애튼버러(David Attenborough)의 음성 모델이 1,000회 이상 다운로드되었으며, 환경운동가 그레타 툰베리(Greta Thunberg)의 이미지를 생성하는 5개의 별도 모델이 8,700회 이상 다운로드된 것으로 확인됐다.

미국 동부 해안의 해상 풍력 발전 관련 논의 과정에서는 소셜 미디어를 통해 고래 폐사의 원인이 해상 풍력 산업 때문이라는 허위정보가 확산됐다. 이러한 허위정보는 생성형 AI를 통해 더욱 설득력 있는 이미지나 자동화된 게시물로 제작되어 확산될 위험이 있다.

“인간인 척하는 AI” 기후변화 논쟁을 조종하는 세 가지 방법

생성형 AI가 기후변화 정책 결정에 영향을 미치는 방식은 크게 세 가지로 구분된다.

먼저, 특정 인물의 글쓰기나 말하기 스타일을 모방하여 텍스트나 음성을 생성하는 실존 인물 모사 방식이 있다.

다음으로 실제로 존재하지 않지만 인간 의사결정자를 설득할 수 있을 만큼 사실적인 인물을 창조하는 방식이 있는데, 이는 온라인 설문조사에서 AI 응답자들이 인간으로 위장하여 성공적으로 작업을 수행할 수 있다는 점에서 그 위험성이 확인됐다.

마지막으로 사진 속 잠재의식 메시지나 실제 인물을 허위 상황에 배치하는 등 고도화된 설득력 있는 콘텐츠를 제작하는 방식이 있다.

당신의 마음을 읽는 AI…설득에서 협박까지 가능하다

생성형 AI는 개인을 설득하는 데서부터 강압적인 수단으로도 활용될 수 있다. 알고리즘 개인화를 통해 개인별로 맞춤화된 더 효과적인 영향력 행사가 가능하며, 자율적 AI 에이전트를 통해 평판 훼손이나 폭력 선동까지도 가능하다. 특히 딥페이크 기술을 이용한 협박이나 민감한 정보 획득, 사회 불안을 조성하는 허위 보도 등이 우려된다.

감시와 정보 수집에서의 활용

생성형 AI는 기후 인식과 경쟁자들의 활동에 대한 감시와 스파이 활동에도 활용될 수 있다. 음성 복제를 통한 사기성 전화나 개인화된 피싱 이메일 작성으로 민감한 정보를 수집하거나, 조직의 사이버 보안을 무력화하는 데 사용될 수 있다.

윤리적 복잡성과 도전 과제

생성형 AI의 활용은 단순히 선악으로 구분하기 어려운 윤리적 그라데이션을 가진다. 친환경부터 기후변화 부정론까지 다양한 관점을 가진 행위자들이 각자의 목적에 맞게 활용할 수 있다. 특히 원주민들과 같이 기후변화 해결에 중요한 역할을 하는 소외 계층의 AI에 대한 대조적인 윤리적 프레임워크와 규제 개발에서의 대표성 확보가 중요하다.

“기후변화 AI의 미래” 전문가들이 경고하는 네 가지 숙제

향후 생성형 AI와 기후변화 정책의 관계에 대해서는 다음과 같은 연구가 시급하다. 우선 생성형 AI를 활용한 기후변화 관련 영향력 행사의 주체와 규모에 대한 체계적인 연구가 필요하다. 또한 다양한 기후변화 관련 의사결정에 대한 생성형 AI의 잠재적 영향력과 위험성을 평가하는 연구도 진행되어야 한다. 네트워크 분석, 시리어스 게임, 에이전트 기반 모델 등을 활용한 시스템 수준의 장기적 영향 연구도 중요하다. 마지막으로 객관적 기후 정보의 가용성 증가로 인한 이해관계자 간 합의 구축 가능성을 탐색하는 연구도 필요하다.

“이미 시작된 미래” AI가 바꾸는 기후변화 정책의 현주소

현재의 기술 수준으로도 모든 예시 사례들이 즉시 실현 가능하며, 이미 범죄, 정치, 산업 분야에서 활용되고 있다. 적은 비용과 기술적 전문성만으로도 기후변화 정책 결정에 영향을 미칠 수 있어, 이에 대한 기술적 연구와 포괄적인 영향 분석이 시급하다.

해당 리포트의 원문은 네이처에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기