AI 리더 200여명 긴급 호명… “내년까지 AI가 절대 넘지 말아야 할 ‘레드라인’ 만들어야”

전 세계 AI 전문가와 정치인들이 인공지능의 위험한 사용을 막기 위한 국제협정이 시급하다고 목소리를 높였다. 더 버지(The Verge)가 23일(현지 시간) 보도한 내용에 따르면, 200명이 넘는 전직 국가원수, 외교관, 노벨상 수상자, AI 리더들이 ‘글로벌 AI 레드라인 호명(Global Call for AI Red Lines)’ 이니셔티브에 서명했다. 이들은 각국 정부가 2026년 말까지 AI가 절대 넘지 말아야 할 ‘레드라인’에 대한 국제정치 협정을 체결할 것을 촉구했다.

서명자에는 노벨상 수상자 제프리 힌턴(Geoffrey Hinton), 오픈AI(OpenAI) 공동창업자 보이치에흐 자렘바(Wojciech Zaremba), 앤트로픽(Anthropic) CISO 제이슨 클린턴(Jason Clinton) 등 AI 분야 주요 인물들이 포함됐다. 프랑스 AI 안전센터(CeSIA)의 샤르벨-라파엘 세게리(Charbel-Raphaël Segerie) 전무이사는 “목표는 대형 사고가 발생한 후 대응하는 것이 아니라, 되돌릴 수 없는 위험을 사전에 예방하는 것”이라고 설명했다. 그는 “각국이 AI로 무엇을 하고 싶은지에 대해 아직 합의할 수 없다면, 적어도 AI가 절대 해서는 안 되는 일에 대해서는 합의해야 한다”고 덧붙였다.

이번 발표는 뉴욕에서 열리는 제80차 유엔 총회 고위급 주간을 앞두고 나온 것으로, 이 이니셔티브는 CeSIA, 퓨처 소사이어티(Future Society), UC 버클리 인간 호환 인공지능센터가 주도했다. 이들이 제시한 레드라인에는 AI가 인간을 사칭하거나 스스로 복제하는 행위 금지 등이 포함된다. 현재 유럽연합(EU)의 AI법이나 미중 간 핵무기 관련 협정 등 일부 지역별 규제는 있지만, 전 세계적 합의는 부재한 상황이다.

UC 버클리의 스튜어트 러셀(Stuart Russell) 교수는 “핵발전소 개발자들이 안전 방법을 알기 전까지는 원자력 발전소를 건설하지 않았던 것처럼, AI 업계도 안전성을 확보하기 전까지는 AGI 구축을 중단해야 한다”고 강조했다. 그는 일부 AI 규제 비판론자들이 주장하는 것과 달리 레드라인이 경제 발전이나 혁신을 저해하지는 않는다며, “통제할 줄 모르는 AGI 없이도 경제 발전을 위한 AI를 가질 수 있다. 의료 진단을 원한다면 세상을 파괴하는 AGI를 받아들여야 한다는 이런 가정된 이분법은 말도 안 된다고 생각한다”고 주장했다.

해당 기사의 원문은 더 버지에서 확인 가능하다.

이미지 출처: 이디오그램 생성