힌튼, UN 회의서 ‘AI 폭주에 제동 걸 시점’ — 글로벌 거버넌스 압박

노벨상 수상자이자 ‘AI의 대부’로 불리는 제프리 힌튼(Geoffrey Hinton)이 유엔(UN) 디지털 월드 콘퍼런스에서 인공지능(AI) 발전 속도에 대한 강력한 경고를 내놨다. UN 뉴스(UN News)가 정리한 발언에 따르면 힌튼은 “지금이 폭주(runaway)하는 AI에 제동을 걸어야 할 시점”이라며, 명확한 글로벌 규제 방향이 부재한 채 모델 능력만 빠르게 확장되는 현재 흐름을 우려했다.

힌튼은 AI가 사회적 가치에 부합하도록 발전하려면 규제가 단순한 ‘금지’가 아니라 ‘방향 설정’ 역할을 해야 한다고 강조했다. 그는 ▲강력한 모델의 안전성 평가 표준화 ▲AI가 결정한 사안에 대한 인간 책임 명시 ▲에너지·물 사용 등 환경 영향 공개 의무화 등을 구체적인 출발점으로 제시했다. 특히 최근 의료·법률·국방 같은 고위험(high-stake) 영역에 AI가 빠르게 침투하는 점을 들어, “한 번의 실수가 돌이킬 수 없는 결과를 낳을 수 있는 분야부터 규칙이 필요하다”고 말했다.

이번 발언은 4월 26일 헴드 바게리(Hamid Bagheri)가 정리한 ‘리스폰서블 AI 위클리(Responsible AI Weekly)’ 주간 리포트에서도 핵심 토픽으로 다뤄졌다. 같은 주에는 미국 백악관이 AI 국가정책 프레임워크를 통해 주(州) 단위 AI 법률에 대한 연방 우선권(federal preemption)을 추진했고, 캘리포니아 SB1000 등 주별 입법은 4월 27일 추가 청문회를 앞두고 있었다. 글로벌 차원에서도 EU·영국·일본이 새 가이드라인을 정비 중이며, 한국·일본·싱가포르 등 아시아 국가들도 ‘AI 안전 연구소(AI Safety Institute)’ 신설 논의를 가속하고 있다.

힌튼은 또한 모델 가중치(weights) 유출, AI를 활용한 사이버 공격, 자율 무기 시스템 등 ‘AI의 군사적·범죄적 악용’ 시나리오에 대해서도 깊이 있는 우려를 밝혔다. 그는 “한 국가, 한 기업이 책임을 진다는 식의 접근으로는 부족하다”며 핵 비확산 체제와 비슷한 다자간(multilateral) 검증·합의 구조를 제안했다. 이를 위한 ‘국제 AI 안전 합의(International AI Safety Accord)’ 같은 새로운 협약 체계 구상도 논의에 포함됐다.

힌튼은 “AI 발전은 막을 수 없지만, 방향은 우리가 정할 수 있다”는 말로 강연을 마무리했다. 학계와 정책 입안자들은 그의 발언을 ‘AI 안전’과 ‘글로벌 거버넌스’ 논의를 다시 한 번 격상시키는 신호로 받아들이고 있다. 특히 노벨상 수상자라는 권위가 더해지면서, 그동안 미국·영국·EU에 분산돼 있던 ‘AI 안전’ 담론이 UN 차원의 공식 프로세스로 흡수될 가능성이 한층 커졌다는 평가가 나온다.

자세한 내용은 UN 뉴스(UN News)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성