사랑하는 사람과 AI로 ‘영원히’ 대화한다… 제너러티브 고스트가 만드는 디지털 사후세계

Generative Ghosts: Anticipating Benefits and Risks of AI Afterlives

제너러티브 고스트란? – AI가 만드는 디지털 사후세계

구글 딥마인드와 콜로라도 대학 연구진이 발표한 연구 논문에 따르면, 생성형 AI 기술이 급속도로 발전하면서 새로운 개념의 ‘디지털 사후세계’가 현실화되고 있다. 이른바 ‘제너러티브 고스트(Generative Ghosts)’는 고인이 된 사람을 대표하는 AI 에이전트로, 단순히 생전에 남긴 콘텐츠를 반복하는 것을 넘어 새로운 콘텐츠를 생성할 수 있는 능력을 갖추고 있다.

구글 딥마인드(Google DeepMind)의 메러디스 링겔 모리스(Meredith Ringel Morris)와 콜로라도 대학교 볼더(University of Colorado Boulder)의 제드 브루베이커(Jed R. Brubaker)는 이 개념을 소개하며 향후 우리 평생 동안 사람들이 사랑하는 이들이나 더 넓은 세계와 사후에 소통하기 위해 맞춤형 AI 에이전트를 만드는 것이 일반적인 관행이 될 수 있다고 전망했다. 실제로 지난 1년간 이러한 서비스를 제공한다고 주장하는 스타트업이 급증했다.

제너러티브 고스트는 기존의 ‘그리프봇(Griefbots)’ 개념에서 진화한 형태다. 그리프봇이 단순히 고인의 생전 텍스트를 기반으로 유족이 ‘대화’할 수 있게 해주는 채팅봇이라면, 제너러티브 고스트는 캐릭터에 맞는 새로운 콘텐츠를 생성하고 시간이 지남에 따라 진화할 수 있는 능력을 갖추고 있다.

예를 들어, 사용자는 제너러티브 고스트에게 고인이 살아있을 때는 일어나지 않았던 현재 사건에 대해 질문할 수 있으며, 고인의 성격에 맞는 응답을 받을 수 있다. 또한 제너러티브 고스트는 경제에 참여하거나 제한된 감독으로 다른 복잡한 작업을 수행할 수 있는 에이전트적 능력도 갖추고 있다.

동아시아 선도하는 디지털 불멸 서비스 – 중국 수천 명 이용, 한국 1900만 명 시청한 VR 상봉

기술에 능숙한 소수의 개인들이 이미 디지털 사후세계 실험을 시작했다. 미래학자 레이 커즈와일(Ray Kurzweil)은 ‘프레드봇(Fredbot)’이라는 채팅봇을 만들어 고인이 된 아버지의 기억을 담았다. 엔지니어 유제니아 쿠이다(Eugenia Kuyda)는 사고로 갑자기 사망한 친구 로만(Roman)을 기리기 위해 친구가 보낸 문자 메시지를 학습한 신경망을 활용해 ‘로만’ 봇을 만들었다. 최근에는 비틀즈가 AI를 사용해 고인이 된 존 레논(John Lennon)이 살아있는 밴드 멤버들과 함께 노래할 수 있게 한 새 노래 “Now and Then”을 발표했다.

스타트업 기업들도 이 시장에 뛰어들고 있다. ‘리메모리(Re;memory)’는 7시간의 촬영 및 인터뷰 세션 후 상호작용 가능한 가상 표현을 만들어준다고 홍보하며, 생전에 친구와 가족이 사후에 참여할 수 있는 풍부한 기억을 사전에 만들 수 있는 방법으로 이 서비스를 광고하고 있다. ‘히어애프터(HereAfter)’는 사용자를 인터뷰하여 사후 디지털 표현을 사전에 만드는 것을 목표로 하는 앱을 제공한다.

특히 고인 조상과 ‘소통’하는 것이 이미 문화적 규범인 동아시아에서는 제너러티브 고스트 기술이 주류에 진입하고 있다. 중국에서는 ‘디지털 불멸’을 제공하는 회사들이 수천 명의 고객을 상대로 점점 인기를 얻고 있다. 한국에서는 1900만 명이 비통에 빠진 어머니 장지선이 미디어 회사가 맞춤 제작한 가상현실 속에서 사망한 어린 딸 나연과 상호작용하는 감동적인 영상을 시청했다.

문화유산 보존부터 애도 지연까지 – 제너러티브 고스트의 양면성

제너러티브 고스트는 개인, 유족, 그리고 더 넓은 사회에 다양한 이점을 제공할 수 있다. 개인은 생전에 자신의 이야기를 보존하고, 주요 인생 사건을 기록하며, 미래 세대에게 가치를 전달할 수 있다. 또한 이러한 기술은 사랑하는 사람들을 위로하고, 조언을 제공하며, 개인적, 종교적, 문화적 유산을 보존하는 능력을 통해 사후 미래에 대한 주도권을 부여할 수 있다.

유족에게는 제너러티브 고스트와의 대화가 정서적 지원을 제공할 수 있다. 연구자들은 온라인 추모관이 고인과의 중요한 ‘지속적 유대’를 유지하는 데 도움이 된다고 지적한다. 제너러티브 고스트는 슬픔을 겪는 동안 위안이나 종결감을 제공하고, 고인과의 지속적인 가까움을 지원할 수 있다. 또한, 장례 또는 추모 계획을 지원하거나 금융 계좌 또는 기타 재산 소유권 이전과 관련된 항목 발견을 돕는 등 실질적인 지식을 쉽게 발견하고 이해할 수 있는 방법으로 구현할 수 있다.

사회적으로는 제너러티브 고스트가 문화, 역사, 유산 분야에서 이점을 제공할 수 있다. 이 기술은 장로들의 집단 지혜를 보존하고, 회원이 줄어들어 잊혀질 위험이 있는 소수 문화의 문화적 유산을 보존하는 한 가지 방법이 될 수 있다. 예를 들어, 제너러티브 고스트는 홀로코스트와 같은 사건에 대한 역사적 지식을 보존하는 방법이 될 수 있다.

그러나 제너러티브 고스트는 여러 위험 요소도 내포하고 있다. 정신 건강 측면에서는 애도 과정에 부정적인 영향을 미칠 수 있다. 제너러티브 고스트와의 상호작용은 상실을 수용하고 통합하는 능력에 영향을 미칠 수 있으며, 복잡한 슬픔으로 이어질 수 있다. 또한 제너러티브 고스트를 실제 고인으로 착각하는 의인화 위험이나, 제너러티브 고스트에 대한 종교적 또는 초자연적 믿음을 발전시키는 신격화 위험도 있다.

명성 위험으로는 제너러티브 고스트의 상호작용이 고인의 기억을 손상시킬 수 있는 상황이 있다. 고인이 공개되기를 원하지 않았을 정보를 노출하는 프라이버시 위험, 고인에 대한 거짓 정보를 공개하는 환각 위험, 디지털 매체가 시간이 지남에 따라 지속되는 충실도 위험 등이 있다.

보안 위험으로는 사후 신원 도용, 하이재킹, 악의적인 고스트 등이 있다. 사회문화적 위험으로는 제너러티브 고스트가 노동 시장, 대인 관계, 종교적 관행 등 현대 사회의 근간에 심오한 변화를 가져올 수 있다는 점이 있다.

AI 사후세계의 윤리적 설계 – 프라이버시, 의인화, 문화적 민감성 고려 필수

제너러티브 고스트의 위험을 완화하고 이점을 극대화하기 위해서는 신중한 인터페이스 설계와 정책이 필요하다. 인터페이스 측면에서는 의인화 위험을 증가시킬 수 있는 인터페이스나 상호작용을 이해하기 위한 사용자 연구와 사회과학 연구에 투자해야 한다. 또한 제너러티브 고스트가 자신을 ‘부활’시키는지 또는 ‘표현’하는지의 여부도 중요한 고려사항이다.

정책 측면에서는 제3자 제너러티브 고스트가 프라이버시와 동의에 관한 복잡한 윤리적, 법적 문제를 도입할 수 있다. 누가 고스트를 만들 수 있는지, 누구를 표현할 수 있는지, 어떤 목적으로 사용할 수 있는지에 대한 정책과 거버넌스가 필요할 수 있다. 예를 들어, 개인과 공인에 대해 다른 정책을 채택하는 것이 합리적일 수 있다. 또한 제너러티브 고스트의 수명도 중요하게 고려해야 한다. 단기 표현은 즉각적인 애도 관행이나 유산 및 개인 업무 관리에 적합할 수 있다. 반면, 장기적(또는 무기한) 수명은 미래 세대를 위한 문화적 인물의 유산을 보존하는 것과 같은 보관 또는 교육 목적에 중요할 수 있다.

향후 연구는 사용자 응답을 얻고 제너러티브 고스트의 특정 구현에 대한 통찰력을 얻기 위해 프로토타입 시스템으로 사용자 연구를 수행해야 한다. 또한 키 이해관계자 그룹의 제너러티브 고스트에 대한 추가 반응과 요구 사항을 인터뷰, 설문 조사 및/또는 참여 디자인 기법을 통해 수집해야 한다. 제너러티브 고스트는 중요한 사회적 변화를 가져올 가능성이 있으며, 개인과 사회 모두에게 혜택과 위험을 제공한다. 기술, 윤리, 법률 전문가들이 이러한 신기술이 긍정적인 방향으로 발전할 수 있도록 적극적인 연구와 정책 개발이 필요한 시점이다.

FAQ

Q: 제너러티브 고스트와 기존의 그리프봇은 어떻게 다른가요?

A: 그리프봇은 고인이 생전에 남긴 텍스트를 단순히 재생하는 채팅봇인 반면, 제너러티브 고스트는 고인의 성격에 맞게 새로운 콘텐츠를 생성하고 시간이 지남에 따라 진화할 수 있는 AI 에이전트입니다. 또한 경제 활동 참여나 복잡한 작업 수행 등 에이전트적 능력도 갖추고 있어 더 높은 수준의 상호작용이 가능합니다.

Q: 제너러티브 고스트 기술이 애도 과정에 어떤 영향을 미칠 수 있나요?

A: 제너러티브 고스트는 고인과의 ‘지속적 유대’를 유지하는 데 도움을 주고 위안이나 종결감을 제공할 수 있지만, 반대로 슬픔 수용 과정을 지연시키거나 복잡한 슬픔을 유발할 수도 있습니다. 또한 제너러티브 고스트에 지나치게 의존하거나 의인화하는 위험도 있어 균형 잡힌 접근이 필요합니다.

Q: 제너러티브 고스트 기술을 윤리적으로 개발하기 위해 가장 중요한 고려사항은 무엇인가요?

A: 프라이버시와 동의 문제가 가장 중요합니다. 누가 고스트를 만들 수 있는지(본인 또는 제3자), 어떤 데이터가 사용되는지, 어떤 제한이 필요한지 등을 명확히 해야 합니다. 또한 의인화 수준, 투명성, 보안 및 데이터 거버넌스 등도 중요한 고려사항입니다. 문화적, 종교적 민감성을 고려한 설계도 필요합니다.

해당 기사에서 인용한 논문 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗GPT를 활용해 작성되었습니다.