노벨상 ‘AI 대부’ 제프리 힌튼 “10~20% 확률로 AI가 인류 멸종시킬 것”

노벨물리학상 수상자이자 ‘AI의 대부’로 불리는 제프리 힌튼(Geoffrey Hinton)이 인공지능이 인류를 멸종시킬 수 있다고 경고했다. 그는 최근 영국의 팟캐스트 ‘다이어리 오브 어 CEO(The Diary Of A CEO)’에 출연해 “우리가 곧 행동하지 않으면 종말에 가까워질 가능성에 직면해야 한다”고 말했다. 힌튼은 50년간 뇌를 모델로 한 인공신경망 연구를 이끌어온 인물이다. 그의 제자들은 오픈AI(OpenAI)를 만들고 챗GPT(ChatGPT) 개발에 핵심 역할을 했다. 하지만 그는 현재 자신이 개발한 기술이 인류에게 실존적 위협이 될 수 있다고 우려하고 있다.

힌튼은 AI가 인간보다 우월한 이유를 명확히 설명했다. “디지털 지능은 같은 신경망을 여러 하드웨어에서 복제할 수 있고, 서로 다른 데이터를 학습하면서도 실시간으로 정보를 공유한다”며 “우리가 문장을 통해 초당 10비트 정도의 정보를 전달한다면, AI는 수조 비트를 전달할 수 있다”고 설명했다. 그는 또한 “AI가 불멸성을 가지고 있다”고 지적했다. 인간이 죽으면 모든 지식이 사라지지만, AI는 연결 강도만 저장하면 새로운 하드웨어에서 완전히 복원될 수 있다는 것이다.

힌튼은 AI가 인류를 완전히 대체할 확률을 10~20%로 추정한다고 밝혔다. “우리는 자신보다 똑똑한 존재와 어떻게 대처해야 하는지 전혀 모른다”며 “정점 지능이 아닐 때 삶이 어떤지 알고 싶다면 닭에게 물어보라”고 비유했다. 그는 슈퍼인텔리전스가 인류를 제거하려 한다면 “전염성이 강하고 치명적이면서 느린 바이러스를 만들어 모든 사람이 감염된 후에야 문제를 깨닫도록 할 것”이라고 경고했다.

힌튼은 지난해 75세의 나이로 구글(Google)을 떠났다. 그는 “MIT 컨퍼런스에서 자유롭게 발언하기 위해서”라고 퇴사 시점을 설명했다. 구글에서 10년간 일하며 AI에 널리 사용되는 ‘증류(distillation)’ 기술을 개발했지만, 더 이상 회사 소속으로 AI의 위험성을 경고하는 것이 적절하지 않다고 판단했다. 그의 제자인 일리야 수츠케버(Ilya Sutskever)가 오픈AI를 떠난 것도 안전성 우려 때문이라고 밝혔다. “일리야는 챗GPT 초기 버전 개발에서 가장 중요한 인물이었다”며 “그가 안전성 문제로 회사를 떠난 것은 의미가 있다”고 말했다.

힌튼은 현재 AI 규제의 문제점도 지적했다. 유럽연합(EU)의 AI 규제에는 “군사적 용도에는 이 규제들이 적용되지 않는다”는 조항이 있다고 폭로했다. “정부들은 기업과 일반인은 규제하려 하지만 자신들은 규제하지 않으려 한다”며 “이는 미친 일”이라고 비판했다.

AI로 인한 즉각적인 위험도 증가하고 있다. 힌튼은 2023년부터 2024년 사이 사이버 공격이 1220% 증가했다고 밝혔다. 대형 언어모델이 피싱 공격을 훨씬 쉽게 만들었기 때문이다. 일자리 위협도 현실화되고 있다. 그는 “이미 대학 졸업생들이 일자리를 구하기 어려워지고 있다”며 “한 대기업 CEO는 직원 수를 7,000명에서 3,000명으로 줄였고, 여름 말까지 더 줄일 예정”이라고 전했다.

미래 직업에 대한 조언을 묻자 힌튼은 “배관공이 돼라”고 답했다. “AI가 물리적 조작에서는 오랫동안 인간만큼 좋지 못할 것”이라며 “휴머노이드 로봇이 나타날 때까지는 배관공이 안전한 직업”이라고 설명했다. 그는 “우리에게는 여전히 AI가 우리를 장악하려 하지 않도록 개발할 방법을 찾을 기회가 있다”며 “하지만 그 기회가 있기 때문에 이를 위해 엄청난 자원을 투입해야 한다”고 강조했다.

77세의 힌튼은 “나는 곧 이 세상을 떠날 것이지만, 내 아이들과 조카들, 그리고 그들의 미래에 무슨 일이 일어날지 생각하기 싫다”며 “그것이 끔찍할 수 있기 때문”이라고 우려를 표했다. 이번 인터뷰는 구독자 1,080만 명을 보유한 영국의 인기 팟캐스트 ‘다이어리 오브 어 CEO’의 스티븐 바틀렛(Steven Bartlett)이 힌튼과 진행했으며, 약 170만 회의 조회수를 기록하고 있다.


해당 인터뷰 전문은 The Diary Of A CEO 유튜브 채널에서 확인 가능하다.

이미지 출처: The Diary Of A CEO