AI and the Holocaust: rewriting history?
The impact of artificial intelligence on understanding the Holocaust
자료 출처: 미드저니 생성
인공지능(AI) 기술의 급속한 발전으로 홀로코스트에 대한 지식과 이해가 새로운 국면을 맞고 있다.
유네스코(UNESCO)와 세계유대인회의(World Jewish Congress)가 최근 발표한 “AI와 홀로코스트: 역사를 다시 쓰는가?”라는 제목의 보고서는 AI가 홀로코스트 기억에 미치는 영향을 심도 있게 분석하고 있다.
보고서는 AI 시스템이 홀로코스트 관련 정보를 왜곡하거나 부정할 수 있는 다섯 가지 주요 위험을 제시했다.
첫째, 잘못된 정보 생성이다. AI 모델이 홀로코스트에 대한 부정확한 정보를 만들어낼 수 있다는 점을 우려했다. 예를 들어, 구글의 AI 챗봇 ‘바드(Bard)’가 우크라이나에서 발생한 홀로코스트 학살에 대해 가짜 목격자 증언을 생성한 사례가 있었다.
둘째, 역사적 증거 조작이다. 딥페이크 기술을 이용해 홀로코스트 관련 영상이나 음성을 조작할 수 있다. 실제로 배우 엠마 왓슨이 히틀러의 ‘나의 투쟁’을 낭독하는 딥페이크 영상이 소셜미디어에 유포된 사례가 있었다.
셋째, 혐오 발언 확산이다. AI 모델이 반유대주의적 내용을 생성하거나 확산시킬 수 있다. 2016년 마이크로소프트의 AI 챗봇 ‘테이(Tay)’가 트위터에서 반유대주의적 발언을 하게 된 사건이 대표적인 예다.
넷째, 홀로코스트의 부정론을 확산하는 것이다. 알고리즘 편향으로 인해 검색 엔진이 홀로코스트 부정론을 상위에 노출시킬 수 있다. 2020년 구글에서 ‘유대인 유모차’를 검색하면 이동식 오븐 이미지가 나오는 문제가 발생했었다.
마지막으로 역사의 단순화의 위험을 꼽았다. AI 시스템이 홀로코스트의 복잡한 역사를 지나치게 단순화할 수 있다. 예를 들어, ‘홀로코스트’ 검색 시 60-80%가 아우슈비츠-비르케나우 수용소 관련 이미지에 편중되는 현상이 있다.
보고서의 공동 저자인 마이콜라 마코티크(Mykola Makhortykh) 박사는 “AI 시스템이 홀로코스트에 대한 잘못된 정보를 생성하거나 반유대주의적 내용을 확산시킬 위험이 있다”며 “역사적 사실에 대한 대중의 이해를 왜곡시킬 수 있다”고 경고했다.
그러나 보고서는 AI 기술이 홀로코스트 교육과 연구에 새로운 기회를 제공할 수 있다고 밝혔다. 우선 상호작용 경험 제공할 수 있다는 점을 꼽았다. USC 쇼아재단(USC Shoah Foundation)의 ‘증언의 차원(Dimensions in Testimony)’ 프로젝트는 AI를 활용해 학생들이 홀로코스트 생존자들과 대화하는 듯한 경험을 제공한 바 있다.
방대한 자료 분석이 가능한 점도 기회 요소로 꼽았다. AI는 수십만 건의 증언과 문서를 빠르게 분석할 수 있다. 아롤센 아카이브(Arolsen Archives)는 AI를 사용해 복잡한 수감자 명단과 이송 목록을 효율적으로 처리했다.
또한 AI는 기존 역사 자료에서 새로운 패턴을 발견해 새로운 통찰력을 제공할 수 있다는 점과 접근성을 높일 수 있는 점도 기회가 될 수 있다고 제시했다. 메타(Meta)와 스토리파일(StoryFile)이 개발한 ‘텔 미, 잉게(Tell me, Inge)’ 프로젝트는 AI를 활용해 홀로코스트 생존자 잉게 아우어바허의 이야기를 대화형 3D 애니메이션으로 제공해 접근성을 높인 바 있다.
보고서는 AI 개발자, 정책 입안자, 교육자들에게 △윤리적인 AI 설계, △콘텐츠 편집 강화, △디지털 리터러시 교육, △전문가 협력, △투명성 확보, △국제 협력 등으로 홀로코스트의 부정이나 왜곡 콘텐츠를 필터링 하고 학생들의 AI리터러시를 강화해야 한다고 권고했다.
유네스코 교육 담당자는 “AI 기술은 홀로코스트 교육에 새로운 가능성을 열어주지만, 동시에 역사적 진실을 왜곡할 위험도 있다”며 “우리는 기술의 혜택을 최대화하면서 동시에 위험을 최소화하는 균형 잡힌 접근이 필요하다”고 강조했다.
결론적으로, AI 시대에 홀로코스트의 기억을 지키고 후대에 올바르게 전달하기 위해서는 기술 개발자, 정책 입안자, 교육자, 역사가들의 긴밀한 협력이 필요하다. 역사적 진실을 지키면서도 새로운 기술의 가능성을 탐구하는 지혜가 요구되는 시점이다.
유네스코의 보고서는 링크를 통해 확인할 수 있다.
본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
