In Disclaimers We Trust: The Effectiveness of State-Required AI Disclaimers on Political Ads
AI 표기, 후보자 평가에 부정적 영향
생성형 AI를 활용한 정치광고에 대한 의무 표기제가 도입되고 있지만, 이것이 오히려 후보자에 대한 유권자들의 신뢰도를 떨어뜨릴 수 있다는 연구 결과가 나왔다. 뉴욕대학교 기술정책센터(Center on Technology Policy)의 연구진은 AI 표기가 있는 정치광고를 본 응답자들이 해당 후보를 덜 신뢰하고 덜 호감을 느끼며, 광고의 정확성도 낮게 평가한다는 점을 발견했다.
연구진은 두 가지 유형의 AI 표기를 테스트했다. 하나는 “이 영상은 기술적 수단으로 조작되었으며 실제로 일어나지 않은 발언이나 행동을 묘사합니다”라는 미시간주 의무 표기이고, 다른 하나는 “이 영상은 전체 또는 부분적으로 생성형 인공지능을 사용하여 제작되었습니다”라는 플로리다주 의무 표기였다.
연구 결과, 두 표기 모두 후보자에 대한 평가를 낮추는 효과가 있었지만, 미시간주 표기가 더 강한 영향을 미쳤다. 이는 AI 표기의 구체적인 문구가 유권자들의 인식에 중요한 역할을 한다는 점을 시사한다.
특히 주목할 만한 점은 AI 표기가 긍정적인 광고와 부정적인 광고 모두에서 후보자 평가를 낮췄다는 것이다. 연구진은 “AI 표기의 영향이 광고 내용과 어느 정도 독립적일 수 있다”고 설명했다. 이는 AI 표기 자체가 유권자들에게 일종의 경고 표시로 받아들여질 수 있음을 시사한다.
공격성 광고에서 역효과 발생
흥미로운 점은 AI 표기가 있는 공격성 광고에서 ‘역효과’가 발생했다는 것이다. AI 표기는 공격 광고를 만든 후보에 대한 평가는 낮췄지만, 공격 대상이 된 후보에 대한 평가에는 영향을 미치지 않았다. 결과적으로 AI 표기가 있는 공격 광고에서는 광고를 만든 후보보다 공격 대상이 된 후보에 대한 평가가 더 높아지는 현상이 나타났다.
연구진은 “이 결과는 AI 표기가 공격 광고의 주장을 의미 있게 바로잡지 못했음을 의미한다”고 설명했다. 즉, 유권자들은 AI 표기를 봤을 때 공격 내용이 거짓이라고 판단하기보다는, 공격 광고를 만든 후보에 대해 부정적인 인식을 갖게 된 것으로 보인다.
이러한 결과는 정치 캠페인 전략에 중요한 시사점을 제공한다. AI를 활용한 공격 광고가 의도와 달리 상대 후보에게 유리하게 작용할 수 있다는 것이다. 따라서 캠페인 팀들은 AI 기술 사용과 그에 따른 의무 표기가 가져올 수 있는 예상치 못한 결과를 신중히 고려해야 할 것으로 보인다.
정치 성향에 따른 차이
연구진은 또한 응답자와 후보의 정치적 성향 일치 여부에 따른 AI 표기의 영향도 분석했다. 그 결과, AI 표기는 응답자와 같은 정당 소속 후보나 무소속 후보에 대한 평가를 낮추는 경향이 있었다. 반면 상대 정당 후보에 대해서는 AI 표기의 영향이 미미했는데, 이는 상대 정당 후보에 대한 평가가 이미 낮은 상태였기 때문으로 보인다.
이러한 결과는 미국의 높은 정치적 양극화 현상을 반영하는 것으로 해석된다. 연구진은 “상대 정당 후보에 대한 평가가 이미 매우 낮아서 AI 표기로 인한 추가적인 하락 여지가 거의 없었을 것”이라고 분석했다.
특히 주목할 만한 점은 AI 표기가 같은 정당 후보의 긍정적 광고에 대한 평가를 낮췄다는 것이다. 연구진은 “이는 AI 표기가 선거 운동에 상당한 영향을 미칠 수 있음을 의미한다”고 설명했다. 일반적으로 정치 광고는 상대 진영 유권자를 설득하는 데 큰 효과가 없으며, 주로 자기 진영 유권자의 투표율을 높이거나 모금, 자원봉사 등을 독려하는 데 사용된다. 따라서 AI 표기로 인해 같은 정당 지지자들의 평가가 낮아진다면, 이는 선거 운동의 효과성을 크게 떨어뜨릴 수 있다.
의무 표기 인지와 해석의 문제
연구 결과, AI 표기의 효과는 대체로 작은 편이었으며, 상당수의 응답자들이 표기를 인지하지 못했다. 플로리다주 표기의 경우 26%, 미시간주 표기의 경우 37%의 응답자들이 표기를 보지 못했다고 답했다. 연구진은 “실제 상황에서는 이보다 더 많은 사람들이 표기를 놓칠 수 있다”고 지적했다.
또한 표기 문구에 따라 유권자들의 해석이 달랐다는 점도 주목할 만하다. ‘생성형 AI’라는 용어를 명시적으로 사용한 플로리다주 표기의 경우, 65%의 응답자들이 해당 광고에 생성형 AI가 사용되었다고 답했다. 반면 ‘기술적 수단’이라는 모호한 표현을 사용한 미시간주 표기의 경우, 대부분의 응답자들이 비디오 편집이나 오디오 편집 기술이 사용되었다고 생각했으며, 생성형 AI를 선택한 비율은 21%에 그쳤다.
이는 AI 표기의 효과가 문구에 따라 크게 달라질 수 있음을 보여준다. 연구진은 “명확하고 구체적인 표기가 유권자들의 이해를 돕는 데 중요할 것”이라고 제안했다.
의무 표기 정책에 대한 유권자들의 반응
연구진은 AI 관련 정치광고 정책에 대한 응답자들의 선호도도 조사했다. 흥미롭게도 응답자들은 대부분의 주 정부가 채택한 정책, 즉 기만적인 AI 사용에만 의무 표기를 요구하는 방안에 가장 낮은 지지를 보냈다. 대신 모든 AI 사용 정치광고에 표기를 요구하는 방안을 가장 선호했다.
이러한 결과는 현재의 정책과 유권자들의 기대 사이에 괴리가 있음을 보여준다. 연구진은 “유권자들은 AI 사용에 대해 더 포괄적이고 투명한 공개를 원하는 것으로 보인다”고 분석했다.
정당별로는 공화당원과 민주당원 모두 의무 표기 요구에 대해 비슷한 수준의 지지를 보였다. 그러나 정치광고에서 생성형 AI 사용을 전면 금지하는 방안에 대해서는 의견이 갈렸다. 민주당원들이 금지 방안을 더 지지한 반면, 공화당원들은 상대적으로 덜 지지하는 경향을 보였다.
결론 및 제언
이번 연구는 AI 표기가 정치 커뮤니케이션에 대한 신뢰를 높이지 못할 뿐 아니라 의도치 않은 결과를 초래할 수 있음을 보여준다. 연구진은 “현재로서는 정치광고에 AI 의무 표기를 요구하는 것의 비용이 이점보다 클 수 있다”고 지적하며, 정책 입안자들에게 더 많은 연구를 통해 AI 표기의 영향을 충분히 이해한 후 법제화를 추진할 것을 제안했다.
또한 연구진은 AI 표기의 디자인과 문구가 그 효과에 중요한 영향을 미친다는 점을 강조했다. “정책 입안자들은 새로운 표기 요구사항을 도입할 때 경험적 증거에 기반한 최선의 표기 문구와 디자인 지침을 제공해야 한다”고 조언했다.
마지막으로 연구진은 “많은 응답자들이 선거에서의 생성형 AI에 대한 견해를 아직 정립하지 못한 것으로 보인다”고 지적했다. 현재로서는 유권자들이 이 기술에 대해 다소 회의적이며, 주로 기만적인 용도와 연관 지어 생각하는 경향이 있다는 것이다.
연구진은 “정책 입안자들은 의무 표기 요구사항이 선거 운동에서 생성형 AI 실험을 제한하거나, 이 도구를 새로운 방식으로 활용하려는 선거 운동에 불균형적인 해를 끼치지 않도록 해야 한다”고 강조했다. 이는 생성형 AI가 선거 운동에 가져올 수 있는 긍정적인 혁신 가능성을 고려해야 한다는 의미로 해석된다.
이번 연구 결과는 정치인, 선거 캠페인 팀, 정책 입안자들에게 중요한 시사점을 제공한다. AI 기술의 발전이 정치 광고와 선거 운동에 미치는 영향을 지속적으로 모니터링하고, 이에 대한 적절한 규제와 가이드라인을 마련하는 것이 앞으로의 중요한 과제가 될 것으로 보인다.
기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
