미국 대선부터 파키스탄까지, 정치인들이 AI 페르소나 활용은 이미 시작됐다
2024년 미국 대선에서 아사 허친슨(Asa Hutchinson), 딘 필립스(Dean Phillips), 프란시스 수아레즈(Francis Suarez) 등 예비후보들은 자신만의 AI 챗봇을 캠페인에 도입했다. 이들의 AI 페르소나는 후보자의 정치적 입장과 공약을 일관되게 유지하면서 유권자들의 질문에 24시간 실시간으로 응답했다. 한편, 감옥에 수감 중이던 파키스탄 전 총리 임란 칸(Imran Khan)은 자신의 AI 음성 클론을 통해 유세 연설을 전달하며 지지자들과 소통하는 파격적인 방법을 시도했다.
하지만 이 기술은 양날의 검이었다. 미국에서는 조 바이든 대통령의 음성을 무단 복제한 AI 로보콜이 선거 방해 목적으로 악용되어 연방통신위원회(FCC)가 600만 달러의 제재금을 부과하는 사건도 발생했다. 이처럼 정치인 AI 페르소나 기술이 빠르게 확산되는 가운데, 킹스 칼리지 런던의 최신 연구는 이러한 기술이 일반인도 쉽게 접근할 수 있을 만큼 간단해졌다는 충격적인 사실을 밝혀냈다.
일반 PC로도 구현 가능한 정치 AI, 페르소나 충실도 85% 달성
킹스 칼리지 런던 전쟁학과의 루카시 올레이닉(Lukasz Olejnik) 연구진이 발표한 연구에 따르면, 소형 언어모델(SLM)을 활용해 일반적인 컴퓨터에서도 높은 수준의 정치적 페르소나를 구현할 수 있다는 사실이 확인되었다. 연구진이 테스트한 8개의 서로 다른 정치적 성향 AI는 5점 만점에 4.1-4.3점의 페르소나 충실도를 기록했다. 이는 AI가 특정 정치인이나 정치적 성향을 매우 일관성 있게 모방할 수 있음을 의미한다.
특히 주목할 점은 AI가 정치적 논쟁 상황에 노출될 때 더욱 극단적인 표현을 보인다는 것이다. 단순히 질문에 답하는 상황에서는 극단적 이데올로기 표현이 42-64%였지만, 다른 의견에 반박해야 하는 상황에서는 69-85%까지 급상승했다. 마치 실제 정치인들이 토론에서 더 강경한 태도를 보이는 것과 유사한 패턴을 AI가 학습한 셈이다.
연구진은 이를 ‘논쟁 스트레스 요인(behavioural stressor)’라고 명명했는데, 이는 미국 대선에서 활용된 AI 챗봇들이 유권자들과의 논쟁적 대화에서 후보자의 정치적 입장을 더욱 선명하게 드러냈던 현상과도 맥락을 같이 한다.
모델보다 중요한 것은 ‘페르소나 설계’, 정치 성향 따라 성능 차이 극명
연구에서 발견된 흥미로운 사실은 어떤 AI 모델을 사용하느냐보다 어떤 정치적 페르소나를 설계하느냐가 훨씬 중요하다는 점이다. 연구진이 테스트한 4개 모델 간의 성능 차이는 미미했지만, 페르소나 특성에 따른 차이는 극명했다. 공감적이고 동기부여적인 성향의 AI는 복잡한 정치 상황에서도 안정적인 성능을 보인 반면, 비꼬거나 공격적인 톤의 AI는 일관성이 떨어졌다.
이는 실제 정치 현장에서도 확인되는 패턴이다. 임란 칸의 AI 음성 클론이 효과적이었던 이유 중 하나는 그의 기존 정치적 페르소나가 명확하고 일관성 있었기 때문이다. 반면 공격적이거나 논란이 많은 정치인의 AI 페르소나는 예측 불가능한 결과를 낳을 가능성이 높다는 시사점을 준다.
연구 결과에 따르면, 극좌와 극우 성향의 AI 페르소나가 중도 성향보다 더 높은 일관성을 보였다. 이는 명확한 이데올로기적 입장이 AI에게 더 분명한 행동 지침을 제공하기 때문으로 분석된다.
완전 자동화 정치 캠페인의 현실화, 인간 개입 없는 24시간 운영 가능
연구의 가장 놀라운 발견은 콘텐츠 생성부터 품질 평가까지 모든 과정이 인간의 개입 없이 자동화될 수 있다는 점이다. 연구진은 모든 실험 과정에서 인간 평가자를 배제하고 AI만으로 다른 AI의 성능을 평가했음에도 신뢰할 만한 결과를 얻을 수 있었다.
이는 2024년 미국 대선에서 일부 후보들이 시도했던 AI 챗봇 캠페인이 앞으로 훨씬 더 정교하고 자동화된 형태로 발전할 가능성을 시사한다. 연구진이 제시한 완전 자동화 시스템은 다음과 같은 5가지 구성 요소로 이루어진다. 일반 컴퓨터에서 구동 가능한 소형 언어모델, 정치적 성향을 인코딩하는 페르소나 프롬프트, 대화 기억 기능, 행동 결정 시스템, 그리고 다양한 플랫폼 연결 인터페이스다.
현재는 사람이 감독하는 ‘운영자 개입’ 단계에 있지만, 머지않아 제한적 자율 운영이 가능한 ‘반자동’ 단계를 거쳐 최종적으로는 스스로 학습하고 개선하는 ‘완전 자율’ 시스템으로 발전할 것으로 예측된다. 웹 브라우저에 AI가 내장되면서 일반인도 웹 브라우저만으로 이런 시스템을 구축할 수 있는 환경이 조성되고 있다.
정치에서 AI 기술 활용은 민주주의에 새로운 기회와 도전을 동시에 제공한다. 24시간 유권자와 소통할 수 있는 접근성과 일관된 정책 설명 능력은 분명한 장점이다. 하지만 기술이 정교해질수록 진짜와 가짜를 구별하기 어려워지고, 악의적 활용 가능성도 커진다. 앞으로 정치 영역에서 AI 활용은 투명성 확보와 윤리적 가이드라인 마련이 선행되어야 할 과제다. 기술의 발전 속도만큼 이를 견제하고 균형 잡힌 활용 방안을 모색하는 사회적 논의가 시급하다.
FAQ ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)
Q: 실제 정치인들이 사용한 AI 페르소나와 이번 연구의 AI는 어떤 차이가 있나요?
A: 2024년 미국 대선에서 활용된 AI 챗봇들은 주로 질문 답변용이었지만, 이번 연구의 AI는 논쟁과 반박까지 가능한 수준입니다. 특히 정치적 토론 상황에서 더 극단적인 입장을 보이는 패턴까지 구현되어 실제 정치인의 행동을 더욱 정교하게 모방할 수 있습니다.
Q: 일반인도 정치인 AI 페르소나를 만들 수 있나요?
A: 연구 결과에 따르면 30억 개 매개변수 이하의 소형 AI 모델로도 충분히 가능합니다. 일반적인 고성능 PC나 노트북으로도 구현할 수 있어 개인이나 소규모 정치 단체도 정교한 AI 페르소나 캠페인을 운영할 수 있는 시대가 열렸습니다.
Q: 이런 AI 페르소나를 어떻게 구별하고 대응할 수 있나요?
A: 연구진은 AI 페르소나의 ‘과도한 일관성’이 오히려 탐지 단서가 될 수 있다고 제시했습니다. 실제 인간은 상황에 따라 입장이 미묘하게 변하지만, AI는 지나치게 일관된 패턴을 보이기 때문입니다. 앞으로는 대화 패턴 분석과 행동 일관성 모니터링이 중요한 대응 방안이 될 것으로 예상됩니다.
기사에 인용된 리포트 원문은 arxiv에서 확인할 수 있다.
논문명: AI Propaganda factories with language models
이미지 출처: 이디오그램 생성
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.
