AI와의 대화로 음모론 믿음 감소시킨 연구 결과 발표

인공지능(AI)과의 짧은 대화만으로도 사람들의 음모론 믿음을 크게 줄일 수 있다는 연구 결과가 발표됐다. 매사추세츠 공과대학(MIT)과 코넬대학교 연구팀은 대규모 언어 모델(Large Language Model, LLM)을 활용해 음모론 신봉자들과 대화를 나누고, 그 결과 음모론에 대한 믿음이 유의미하게 감소했다고 밝혔다.

이번 연구는 과학 전문지 ‘사이언스(Science)’에 게재됐으며, 음모론 신봉자들의 믿음을 바꾸는 것이 거의 불가능하다는 기존의 통념을 뒤집는 결과를 제시했다. 연구진은 GPT-4 터보(GPT-4 Turbo)라는 AI 모델을 사용해 참가자들과 개별적인 대화를 나누고, 그들이 믿는 음모론에 대해 반박 논리를 제시했다.

연구팀은 두 차례의 실험을 통해 총 2190명의 미국인 참가자들을 대상으로 연구를 진행했다. 참가자들은 먼저 자신이 믿는 음모론과 그 근거를 설명했고, 이후 AI와 3차례에 걸친 대화를 나눴다.

실험 결과, AI와 대화를 나눈 집단은 자신이 믿던 음모론에 대한 믿음이 평균 20% 감소한 것으로 나타났다. 이러한 효과는 2개월 후에도 지속됐으며, 존 F. 케네디 암살, 외계인, 일루미나티 등 전통적인 음모론부터 코로나19, 2020년 미국 대선 관련 음모론 등 최근의 정치적 음모론에 이르기까지 다양한 주제에서 일관되게 관찰됐다.

특히 주목할 만한 점은 음모론에 대한 믿음이 깊게 뿌리박혀 있고 자신의 정체성에 중요한 영향을 미치는 참가자들에게서도 이러한 효과가 나타났다는 것이다. 연구진은 “많은 사람들이 사실에 저항하는 것처럼 보이는 음모론적 믿음을 가지고 있더라도, 설득력 있는 증거를 제시받으면 마음을 바꿀 수 있다”고 설명했다.

연구팀은 AI가 제공한 정보의 정확성을 검증하기 위해 전문 사실 확인가(fact-checker)를 고용해 128개의 AI 발언을 평가했다. 그 결과 99.2%가 ‘사실’로 판정됐으며, 0.8%만이 ‘오해의 소지가 있는’ 것으로 나타났다. ‘거짓’으로 판정된 발언은 없었다.

또한 AI는 단순히 음모론을 부정하는 데 그치지 않고, 참가자들이 제시한 특정 증거에 대해 직접적으로 반박하고 대안적인 설명을 제시하는 등 맞춤형 논리를 전개했다. 이러한 AI의 접근 방식이 참가자들의 믿음 변화에 큰 영향을 미친 것으로 보인다.

연구진은 AI와의 대화가 특정 음모론에 대한 믿음뿐만 아니라 참가자들의 전반적인 음모론적 세계관과 행동 의도에도 영향을 미쳤다고 밝혔다. 실험 참가자들은 AI와 대화를 나눈 후 다른 음모론에 대한 믿음도 감소했으며, 음모론을 지지하는 소셜 미디어 계정을 무시하거나 언팔로우할 의향이 증가했다. 또한 음모론을 믿는 사람들과 토론할 때 더 적극적으로 반박하겠다는 의사를 보였다.

이러한 결과는 AI와의 대화가 단순히 표면적인 태도 변화를 넘어 참가자들의 인지 과정에 깊이 영향을 미쳤음을 시사한다. 연구진은 “참가자들이 AI의 논리를 진지하게 고려하고 내면화한 것으로 보인다”고 해석했다.

이번 연구 결과는 AI를 활용한 정보 제공과 교육의 가능성을 보여준다. 연구진은 음모론 관련 인터넷 검색어에 대해 AI가 생성한 정확한 정보 요약을 제공하거나, AI 기반 소셜 미디어 계정이 부정확한 음모론 관련 콘텐츠에 대응하는 등의 방안을 제시했다.

그러나 동시에 AI의 강력한 설득력이 악용될 가능성에 대한 우려도 제기됐다. 연구진은 “우리의 연구 결과는 책임감 있게 배치된 생성형 AI의 잠재적인 긍정적 영향과 함께, 이 기술이 무책임하게 사용될 기회를 최소화해야 할 시급한 중요성을 강조한다”고 밝혔다.

이번 연구는 AI를 활용한 새로운 행동과학 연구 방법론을 제시했다는 점에서도 의의가 있다. 기존의 설문 실험이 주로 정적이고 미리 정해진 자극과 질문에 의존했다면, 이번 연구에서는 AI를 실시간으로 활용해 개방형 응답을 수집하고 이를 정량적 결과로 변환했다.

연구진은 “AI와 인간의 상호작용을 행동과학 연구에 통합하는 것은 복잡한 심리적 현상에 대한 우리의 이해를 의미 있게 향상시킬 잠재력이 있다”고 평가했다.

이번 연구 결과가 주목할 만하지만, 몇 가지 한계점도 존재한다. 우선 연구 참가자들이 주로 온라인 설문 조사에 참여하는 미국인들이었다는 점에서 결과의 일반화 가능성에 대한 의문이 제기될 수 있다. 연구진은 향후 다양한 국가와 문화권의 참가자들을 대상으로 연구를 확장할 필요가 있다고 밝혔다.

또한 이번 연구에서 사용된 GPT-4 터보가 폐쇄형 소스의 최신 언어 모델이라는 점에서 해석 가능성과 재현성에 대한 과제가 남아있다. 다른 AI 모델들도 유사한 성능을 보일 수 있을지, AI의 정확성과 설득력 사이에 어떤 상호작용이 있는지 등에 대한 추가 연구가 필요할 것으로 보인다.

결론적으로 이번 연구는 AI와의 대화를 통해 깊이 뿌리박힌 음모론적 믿음을 변화시킬 수 있다는 가능성을 제시했다. 이는 인간의 추론 능력에 대해 놀라울 정도로 낙관적인 그림을 그려낸다. 연구진은 “음모론의 ‘토끼굴’이 아무리 깊다 해도 출구가 있을 수 있다”며 “음모론 신봉자들이 반드시 심리적 욕구와 동기에 눈이 멀어 있는 것은 아니며, 단지 그들에게 도달할 수 있을 만큼 강력한 논거가 필요할 뿐”이라고 결론지었다.

MIT와 코넬대학교의 연구팀 논문은 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기