Governance in the Age of Generative AI: A 360º Approach for Resilient Policy and Regulation
기존 규제 활용과 새로운 도전 과제 해결 병행해야
생성형 AI의 급속한 발전과 광범위한 도입에 따라 각국 정부는 이에 대응하기 위한 거버넌스 체계 마련에 고심하고 있다. 세계경제포럼(WEF)과 액센추어가 공동으로 발표한 보고서 ‘Governance in the Age of Generative AI’는 정책 입안자들이 생성형 AI 거버넌스를 위해 취해야 할 ‘360도 접근법’을 제시했다.
보고서는 생성형 AI 거버넌스를 위한 3가지 주요 접근 방식을 제안한다. 첫째, 기존 규제를 활용하고 생성형 AI로 인한 새로운 과제들을 해결해야 한다. 둘째, 사회 전반의 생성형 AI 거버넌스와 부문 간 지식 공유를 촉진해야 한다. 셋째, 생성형 AI 거버넌스에 대비와 유연성을 갖추고 국제 협력을 모색해야 한다.
기존 규제의 활용과 새로운 과제 해결
보고서는 생성형 AI의 특성으로 인해 복잡해진 기존 규제 영역을 검토할 것을 권고한다. 개인정보 보호와 데이터 보호, 저작권 및 지적재산권, 소비자 보호 및 제품 책임, 경쟁법 등의 분야에서 생성형 AI로 인한 새로운 도전 과제들이 발생하고 있다고 지적했다.
예를 들어, 개인정보 보호 분야에서는 생성형 AI 모델의 학습 데이터에 포함된 개인정보 처리의 적법성, 웹 크롤러의 부수적 개인정보 수집, 데이터 수집 목적의 구체화 등이 주요 쟁점으로 부상하고 있다. 저작권 분야에서는 AI 학습을 위한 저작물 사용, AI 생성 콘텐츠의 저작권 귀속 문제 등이 새로운 과제로 떠올랐다.
보고서는 이러한 새로운 도전 과제들에 대응하기 위해 기존 규제를 활용하되, 필요한 경우 보완이나 개정을 검토해야 한다고 제안했다. 또한 여러 규제 체계 간의 정책 목표 충돌을 해결하고, 생성형 AI 공급망 내 책임 소재를 명확히 해야 한다고 강조했다.
다양한 이해관계자 참여로 전사회적 거버넌스 구축해야
보고서는 규제 당국만으로는 생성형 AI의 안정적인 거버넌스를 보장할 수 없다고 지적한다. 산업계, 시민사회단체, 학계 등 다양한 이해관계자들이 책임 있는 AI 시스템 구축을 위한 중요한 역할을 해야 한다고 강조했다.
정부는 규제 외에도 다양한 거버넌스 도구를 활용해 각 이해관계자 그룹의 고유한 과제를 해결하고, 다자간 지식 공유와 학제간 사고를 장려해야 한다. 또한 정부 스스로 책임 있는 AI 관행을 채택함으로써 모범을 보여야 한다고 제안했다.
산업계의 경우, 정부는 책임 있는 AI 구현을 위해 재정적 인센티브, 지속적인 R&D 자금 지원, 공공 조달 정책 활용, 공공 데이터셋 접근 제공 등의 방안을 고려할 수 있다. 또한 기업 규모에 따른 다양한 거버넌스 과제를 고려해 맞춤형 개입 전략을 수립해야 한다고 보고서는 제안했다.
학계의 경우, AI 연구와 교육을 선도할 수 있도록 지원이 필요하다. 보고서는 학계가 AI R&D의 최전선에서 밀려나면서 AI 네트워크의 동질화, 학제간 연구 환경에서 나오는 발견의 감소, AI 윤리와 안전에 대한 독립적 연구 감소 등의 위험이 발생할 수 있다고 경고했다. 이를 해결하기 위해 정부는 학계에 필요한 물리적, 디지털 인프라 접근을 보장하고, 산업계와 학계 간 임금 격차를 해소하며, AI 및 책임 있는 AI 관련 과정에 대한 자금을 지원해야 한다고 제안했다.
시민사회단체의 경우, 생성형 AI의 사회적 영향을 평가하고 거버넌스 정책에 정보를 제공하며 공급망 책임성을 확보하는 데 중요한 역할을 한다. 그러나 이들은 상당한 접근성과 참여의 어려움에 직면해 있다. 보고서는 정부가 시민사회단체에 최신 도구와 기술에 대한 접근과 교육을 제공하고, 독립적인 영향 평가를 수행할 수 있도록 자금을 지원해야 한다고 제안했다.
미래 대비와 국제 협력 강화 필요
생성형 AI의 능력이 빠르게 진화하고 있는 만큼, 정부는 제한된 자원과 글로벌 불확실성을 고려한 국가 전략을 수립해야 한다. 기술 발전과 새로운 위험에 대응할 수 있도록 정책과 규제에 예측 메커니즘을 포함시켜야 한다고 보고서는 강조했다.
보고서는 정부가 생성형 AI의 급속한 발전에 대응하기 위해 여러 전략적 행동을 취해야 한다고 제안했다. 우선 제한된 자원을 고려해 AI 역량 강화와 인재 채용에 신중을 기하는 목표 지향적 투자가 필요하다고 강조했다. 또한 정부는 새롭게 등장하는 생성형 AI 능력과 이로 인한 사회적 상호작용의 변화를 지속적으로 모니터링하는 수평적 스캐닝을 실시해야 한다고 조언했다.
더불어 예측적 정책 수립을 위한 연습을 통해 불확실한 미래에 대한 회복력을 확보하는 전략적 예측의 중요성도 언급했다. 규제의 하류 효과에 대비하고 의사결정 과정에 민첩한 역동성을 도입하는 영향 평가와 민첩한 규제 체계 구축도 권고했다.
마지막으로 보고서는 국제 협력의 필요성을 강조했다. 각국 정부가 조화로운 표준과 위험 정의를 수립하고, 지식과 인프라를 공유함으로써 생성형 AI 혁신의 빠른 속도에 공동으로 대응해 나가야 한다고 제안했다. 이러한 다각적인 접근을 통해 정부는 생성형 AI 시대의 도전 과제에 효과적으로 대처할 수 있을 것이라고 보고서는 전망했다.
특히 보고서는 국제 협력의 중요성을 강조했다. 생성형 AI 거버넌스에 대한 현재의 국제적 논의에서 글로벌 다수 국가들의 의미 있는 참여가 부족하다는 점을 지적하며, 이들의 참여 없이 개발된 원칙과 프레임워크는 비효과적이거나 해로울 수 있다고 경고했다.
이에 대한 해결책으로 보고서는 표준, 안전, 위험, 금지 사항, 지식 공유, 인프라 등 6개 영역에서의 국제 협력을 제안했다. 이는 양자간, 지역간, 그리고 더 광범위한 국제 협력 메커니즘을 통해 달성될 수 있으며, 세계경제포럼, 유엔, G20, OECD, 아프리카연합 신기술 고위급 패널 등이 이를 추진하고 있다고 설명했다.
보고서는 “생성형 AI 거버넌스에는 준비성과 유연성, 그리고 국제 협력이 필요하다”며 “이를 통해 진화하는 사회기술적 영향과 글로벌 과제에 대응할 수 있을 것”이라고 밝혔다.
이 보고서에서 제시한 포괄적인 거버넌스 프레임워크는 정책 입안자들이 생성형 AI의 혁신을 촉진하면서도 위험을 완화할 수 있는 실용적이고 구현 가능한 도구를 제공할 것으로 기대된다. 각국 정부는 이를 바탕으로 자국의 상황에 맞는 생성형 AI 거버넌스 체계를 수립하고, 국제 사회와의 협력을 통해 글로벌 차원의 대응을 모색해 나가야 할 것이다.
기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
