생성형 AI로 사망후에도 살아 있는 척 할 수 있을까?

인공지능(AI) 기술의 급속한 발전으로 우리의 삶이 크게 변화하고 있는 가운데, 이제 AI는 우리의 죽음 이후의 세계까지 변화시키고 있다. 최근 구글 딥마인드(Google DeepMind)와 콜로라도 대학교 볼더(University of Colorado Boulder) 연구진이 발표한 보고서에 따르면, 생성형 AI 기술을 활용한 ‘생성형 유령(generative ghosts)’이라는 새로운 개념이 등장했다. 이는 사망한 사람의 데이터를 바탕으로 만들어진 AI 에이전트로, 고인을 대신해 상호작용하고 새로운 콘텐츠를 생성할 수 있는 기술이다.

생성형 유령은 단순히 고인의 기존 데이터를 재생하는 수준을 넘어, 고인의 성격과 지식을 바탕으로 새로운 대화와 콘텐츠를 만들어낼 수 있다. 예를 들어, 작가였던 고인의 생성형 유령은 새로운 작품을 쓸 수 있고, 음악가였던 고인의 AI는 새로운 곡을 작곡할 수 있다. 이는 단순한 추모를 넘어 고인의 ‘디지털 부활’에 가까운 경험을 제공할 수 있다.

연구진은 생성형 유령의 여러 설계 차원을 제시했다. 첫째, 출처(provenance)에 따라 생전에 본인이 만들었는지(제1자) 아니면 타인이 만들었는지(제3자)로 나눌 수 있다. 둘째, 배포 시점(deployment timeline)에 따라 사망 전에 배포되었는지 사후에 배포되었는지로 구분된다. 셋째, 의인화 패러다임(anthropomorphism paradigm)에 따라 고인의 환생으로 표현되는지 아니면 단순한 표상으로 표현되는지가 다를 수 있다. 넷째, 다중성(multiplicity)에 따라 단일 버전인지 다중 버전인지로 나뉜다. 다섯째, 진화 여부(cutoff date)에 따라 시간이 지나도 변하지 않는 정적 버전과 시간에 따라 ‘성장’하는 진화형 버전으로 나눌 수 있다. 여섯째, 구현 방식(embodiment)에 따라 물리적 구현과 가상 구현으로 구분된다. 마지막으로, 대상 유형(representee type)에 따라 인간뿐만 아니라 반려동물 등 비인간 대상의 생성형 유령도 가능하다.

생성형 유령 기술은 아직 초기 단계지만, 이미 몇몇 사례들이 등장하고 있다. 예를 들어, 미래학자 레이 커즈와일(Ray Kurzweil)은 자신의 돌아가신 아버지의 편지와 기록을 바탕으로 ‘프레드봇(Fredbot)’이라는 대화형 AI를 만들었다. 또한 엔지니어 유제니아 쿠이다(Eugenia Kuyda)는 사고로 세상을 떠난 친구 로만(Roman)의 텍스트 메시지를 학습한 AI 챗봇을 만들어 화제가 되었다.

음악 분야에서도 AI를 활용한 ‘디지털 부활’이 시도되고 있다. 2023년 11월, 비틀즈(The Beatles)는 AI 기술을 활용해 고인이 된 존 레논(John Lennon)의 목소리로 새 노래 ‘나우 앤 덴(Now and Then)’을 발표했다. 또한 음악가 로리 앤더슨(Laurie Anderson)은 고인이 된 파트너 루 리드(Lou Reed)의 스타일로 새로운 가사를 생성하는 AI 챗봇을 개발했다.

연구진은 생성형 유령 기술이 여러 측면에서 이점을 가질 수 있다고 분석했다. 우선 고인 본인에게는 자신의 유산을 남기고 사후에도 영향력을 행사할 수 있는 수단이 될 수 있다. 예를 들어, 자신의 지식과 경험을 후손들에게 전달하거나, 중요한 삶의 순간에 조언을 줄 수 있는 방법이 될 수 있다. 또한 법적, 경제적 측면에서도 유용할 수 있다. 예를 들어, 유언 집행이나 재산 관리에 관여할 수 있고, 작가나 음악가의 경우 사후에도 새로운 작품을 통해 수입을 창출할 수 있다.

유족들에게는 고인과의 지속적인 연결을 통해 상실감을 줄이고 위로를 받을 수 있는 기회가 될 수 있다. 연구에 따르면, 고인과의 ‘지속적 유대(continuing bonds)’를 유지하는 것이 건강한 애도 과정에 도움이 될 수 있다고 한다. 생성형 유령은 이러한 유대를 더욱 강화하고 개인화된 방식으로 지원할 수 있다.

더 나아가 사회적으로도 이점이 있을 수 있다. 예를 들어, 역사적 인물의 생성형 유령을 통해 교육이나 연구에 활용할 수 있고, 소수 문화나 언어를 보존하는 데 도움이 될 수 있다. 또한 종교나 철학 분야에서 과거의 현자들과 현대의 문제에 대해 ‘대화’를 나눌 수 있는 새로운 방식의 지적 탐구가 가능해질 수 있다.

그러나 이 기술이 가져올 수 있는 위험성도 간과할 수 없다. 연구진은 크게 네 가지 영역의 위험을 지적했다.

첫째, 정신 건강 위험이다. 유족들이 현실을 받아들이지 못하고 AI와의 상호작용에 지나치게 의존할 수 있다. 이는 건강한 애도 과정을 방해하고 현실 세계의 관계에 악영향을 미칠 수 있다. 또한 생성형 유령이 너무 사실적일 경우, 사용자들이 이를 실제 고인과 동일시하는 ‘의인화’ 문제가 발생할 수 있다.

둘째, 평판 위험이다. AI가 고인의 사생활을 침해하거나 잘못된 정보를 생성할 수 있다. 예를 들어, 생전에 공개하고 싶지 않았던 비밀을 AI가 무심코 노출할 수 있고, 혹은 AI의 오류로 인해 고인의 성격이나 견해가 왜곡되어 표현될 수 있다.

셋째, 보안 위험으로, 해킹이나 신원 도용 등의 문제가 발생할 수 있다. 생성형 유령이 고인의 개인정보나 금융 정보에 접근할 수 있다면, 이는 심각한 보안 위협이 될 수 있다. 또한 악의적인 목적으로 생성형 유령을 조작하여 유족들을 속이거나 협박하는 등의 범죄에 악용될 가능성도 있다.

마지막으로 사회문화적 위험이다. 이 기술이 노동 시장, 대인 관계, 종교 등 사회의 근간을 뒤흔들 수 있는 변화를 가져올 수 있다. 예를 들어, 생성형 유령이 경제 활동에 참여하게 되면 노동 시장에 큰 영향을 미칠 수 있고, 사람들의 관계 형성 방식이나 종교적 믿음에도 근본적인 변화를 가져올 수 있다.

이러한 위험을 최소화하기 위해서는 기술적, 윤리적, 법적 측면에서의 신중한 접근이 필요하다. 연구진은 사용자 인터페이스 설계, 개인정보 보호, 보안 강화 등 다양한 측면에서의 대책을 제안했다.

우선, 생성형 유령의 인터페이스 설계에 있어 사용자의 정신 건강을 고려해야 한다. 예를 들어, AI와의 상호작용 시간을 제한하거나, AI가 스스로 사용자의 과도한 의존을 감지하고 경고하는 기능을 포함할 수 있다. 또한 AI가 실제 고인이 아님을 명확히 인지할 수 있도록 인터페이스를 설계해야 한다.

개인정보 보호와 관련해서는, 고인이 생전에 어떤 정보를 공개할지 미리 설정할 수 있는 ‘디지털 유언’ 시스템을 구축하는 것이 도움이 될 수 있다. 또한 제3자가 무단으로 생성형 유령을 만드는 것을 제한하는 법적 장치도 필요할 것이다.

보안 측면에서는 강력한 암호화와 인증 시스템이 필요하다. 또한 해킹이나 오용의 경우를 대비해 생성형 유령을 즉시 비활성화할 수 있는 ‘킬 스위치’ 기능도 고려해야 한다.

생성형 AI가 만드는 사후 세계는 이제 막 그 모습을 드러내기 시작했다. 이 기술이 가져올 변화의 폭과 깊이를 정확히 예측하기는 어렵지만, 죽음과 애도, 기억의 방식에 근본적인 변화를 가져올 것임은 분명해 보인다. 앞으로 이 기술이 발전함에 따라 우리는 윤리적, 법적, 사회적 차원에서 많은 논의와 합의가 필요할 것이다.

특히 개인의 자율성과 존엄성, 유족의 권리, 사회적 영향 등을 종합적으로 고려한 정책과 가이드라인이 필요할 것으로 보인다. 예를 들어, 누가 생성형 유령을 만들 수 있는 권리를 가지는지, 어떤 목적으로 사용될 수 있는지, 언제 종료되어야 하는지 등에 대한 명확한 기준이 필요할 것이다.

또한 이 기술이 가져올 수 있는 사회적 변화에 대비하여, 교육과 심리 상담 등의 지원 시스템도 함께 발전해야 할 것이다. 디지털 사후 세계에서의 윤리와 예절, 건강한 애도 방식 등에 대한 새로운 교육이 필요할 수 있다.

생성형 AI가 만드는 디지털 사후 세 계에 대한 우리의 이해와 대응은 아직 초기 단계에 있다. 이 기술이 우리에게 축복이 될지, 아니면 새로운 도전이 될지는 우리가 이 기술을 어떻게 다루고 발전시켜 나가느냐에 달려 있다. 앞으로 AI 윤리, 디지털 유산, 사후 세계에 대한 철학적 논의 등 다양한 분야의 전문가들이 협력하여 이 새로운 현상을 연구하고 바람직한 방향을 모색해 나가야 할 것이다.

기술의 발전 속도를 고려할 때, 생성형 유령 기술은 앞으로 5-10년 내에 상용화될 가능성이 높다. 이미 여러 스타트업들이 이 분야에 뛰어들고 있다. 예를 들어, 리메모리(Re;memory)는 7시간 동안의 촬영과 인터뷰를 통해 상호작용 가능한 가상 표상을 만드는 서비스를 제공하고 있다. 히어애프터(HereAfter)는 사용자의 기억과 생애 사건을 녹음하고 사진과 함께 저장하여 사후에 대화형 AI로 제공하는 앱을 개발했다.

이러한 서비스들이 대중화되면, 우리는 ‘디지털 유산 계획’이라는 새로운 개념을 일상적으로 접하게 될 수 있다. 마치 유언장을 작성하듯이, 자신의 디지털 사후 세계를 어떻게 구성할지 미리 계획하고 준비하는 것이 일반화될 수 있다. 이는 개인의 정체성과 기억이 디지털 세계에서 어떻게 보존되고 표현되기를 원하는지에 대한 깊은 성찰을 요구할 것이다.

또한 이 기술은 역사 연구와 교육 분야에도 혁명적인 변화를 가져올 수 있다. 역사적 인물들의 생성형 유령을 통해 학생들은 과거의 위인들과 직접 ‘대화’를 나누며 역사를 학습할 수 있게 될 것이다. 이는 역사 교육을 더욱 생생하고 흥미롭게 만들 수 있지만, 동시에 역사적 사실의 왜곡 가능성에 대한 우려도 제기될 수 있다.

한편, 생성형 유령 기술은 인간의 죽음과 영원성에 대한 우리의 인식을 근본적으로 바꿀 수 있다. 디지털 세계에서의 ‘영생’이 가능해짐에 따라, 죽음의 의미와 사후 세계에 대한 철학적, 종교적 논의가 새롭게 이루어질 것으로 예상된다. 이는 기존의 종교와 철학에 도전이 될 수 있지만, 동시에 새로운 영적, 철학적 탐구의 장을 열 수도 있다.

그러나 이러한 기술의 발전이 가져올 수 있는 부작용도 경계해야 한다. 예를 들어, 고인과의 지나친 상호작용이 현실 세계의 관계를 소홀히 하게 만들거나, 애도 과정을 건강하게 거치지 못하게 할 수 있다. 또한 디지털 격차로 인해 이러한 기술에 접근할 수 있는 사람과 그렇지 못한 사람 사이의 불평등이 심화될 수 있다.

결론적으로, 생성형 AI가 만드는 디지털 사후 세계는 우리에게 많은 기회와 도전을 동시에 제시하고 있다. 이 기술이 인류에게 진정한 축복이 되기 위해서는 기술적 발전뿐만 아니라 윤리적, 법적, 사회적 측면에서의 균형 잡힌 접근이 필요하다. 우리는 이 새로운 디지털 사후 세계를 어떻게 구축하고 관리할 것인지, 그리고 이를 통해 어떤 가치를 실현할 것인지에 대해 사회적 합의를 이루어 나가야 할 것이다.

구글 딥마인드의 논문은 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기