유럽평의회, AI 위험성 평가 위한 ‘HUDERIA 프로세스’ 공식 출범

유럽평의회(Council of Europe)가 인공지능 시스템의 위험성과 영향을 평가하기 위한 새로운 프로세스를 공식 출범했다. ‘HUDERIA 프로세스’라고 불리는 이 이니셔티브는 인권, 민주주의, 법치주의 관점에서 AI 위험성을 체계적으로 평가하는 것을 목표로 한다. 유럽평의회는 16일(현지 시간) 프랑스 스트라스부르에서 HUDERIA 프로세스 하에 두 가지 핵심 이니셔티브를 공식 출범했다고 발표했다. 이번 출범은 AI 위험성과 영향 평가에 대한 구조화된 대응의 필요성에 따른 것이다.

첫 번째 이니셔티브인 ‘HUDERIA 아카데미(HUDERIA Academy)’는 16일부터 18일까지 스트라스부르에서 진행된다. 이 프로그램은 프레임워크 협약의 글로벌 범위를 반영해 다양한 배경과 지역에서 온 약 90명의 참가자를 대상으로 역량 구축에 초점을 맞춘다. 정부 관계자, 법률 전문가, 기술자, 시민사회 대표들이 참여하는 이 역동적이고 실무 중심의 프로그램은 인권, 민주주의, 법치주의 관점에서 AI 시스템의 위험성과 영향 평가에 중점을 둔다.

두 번째 이니셔티브인 ‘HUDERIA 플랫폼(HUDERIA Platform)’은 19일부터 20일까지 스트라스부르에서 개최된다. 이 플랫폼은 20~25명의 기술 전문가들을 한자리에 모아 새로운 대화 형식을 제공하며, AI 시스템을 구축하고 배포하는 이들로부터 HUDERIA의 실용성에 대한 직접적인 피드백을 받을 예정이다.

유럽평의회의 인공지능위원회(CAI)는 2024년 HUDERIA 방법론을 채택했다. 이 방법론은 AI 시스템의 위험성과 영향 평가를 수행하는 선구적인 도구로, 이 분야 최초의 국제적 법적 구속력을 갖는 조약인 ‘인공지능과 인권, 민주주의, 법치주의에 관한 프레임워크 협약’ 이행을 지원한다.

HUDERIA 방법론의 핵심은 AI 시스템을 더 넓은 사회적 맥락에서 평가하는 것이다. 이는 AI의 영향이 기술과 사회 간의 복잡한 상호작용에서 비롯된다는 점을 인식한 것이다. 이 방법론은 대중을 보호하기 위한 위험 완화 계획 수립을 포함하며, 기술과 사회적 맥락이 발전함에 따라 AI 시스템이 안전하게 작동하고 인권을 존중하도록 정기적인 재평가를 요구한다. 이러한 접근법은 AI 시스템의 전체 생명주기에 걸쳐 새로운 위험으로부터 대중을 보호한다.

유럽평의회는 이번 HUDERIA 프로세스 출범을 통해 인권, 법치주의, 민주주의를 기반으로 한 AI 적용을 향한 중요한 발걸음을 내디뎠다고 평가했다. 이 프로세스는 AI 기술의 발전과 함께 지속적으로 진화하는 사회적 요구에 대응하기 위한 체계적인 접근법을 제공할 것으로 기대된다.



해당 기사의 원문은 유럽 평의회 홈페이지에서 확인 가능하다.

이미지 출처: The Council of Europe