챗봇과 사랑에 빠지는 시대, WEF ‘인류를 위한 AI 가이드라인’ 제시

Governance in the Age of Generative AI: A 360° Approach for Resilient Policy and Regulation

AI 거버넌스의 새로운 이정표

세계경제포럼(WEF)이 액센추어(Accenture)와 공동으로 생성형 AI의 혁신과 위험을 균형있게 관리할 수 있는 ‘360도 거버넌스 프레임워크’를 발표했다. 이 프레임워크는 인권 보호, 공정한 혜택 분배, 지속가능성 증진을 핵심 목표로 삼고 있다. 110명 이상의 멤버로 구성된 AI 거버넌스 연합(AI Governance Alliance)은 산업계, 정부, 시민사회, 학계를 아우르는 글로벌 차원의 이해관계자 협력을 주도하고 있다. WEF는 현재의 거버넌스 결정이 현재와 미래 세대의 삶을 좌우할 것이라고 강조했다.

기존 규제체계와의 조화

개인정보보호, 데이터 보안, 저작권 등 기존 규제와 생성형 AI의 충돌이 발생하고 있다. 예를 들어, 금융 분야의 KYC(Know Your Client) 절차와 데이터 최소화 원칙 간의 긴장 관계가 대표적이다. 이러한 문제를 해결하기 위해 영국의 디지털 규제 협력 포럼(DRCF)과 호주의 디지털 플랫폼 규제기관 포럼(DP-REG) 같은 규제기관 간 조정 체계가 등장하고 있다.

세 가지 핵심 전략과 실행 방안

프레임워크는 ‘과거 활용’, ‘현재 구축’, ‘미래 계획’이라는 세 가지 핵심 전략을 제시한다. 우선 과거 활용 전략에서는 기존 규제를 생성형 AI에 적용하고 다중 규제체계 간 정책목표를 조정하며, 책임소재를 명확히 하고 규제당국의 실효적 집행능력을 평가할 것을 제안한다. 이를 위해 규제 샌드박스 운영과 복잡적응형 규제(Complex adaptive regulations) 도입을 권고한다.

현재 구축 전략으로는 각 이해관계자들의 거버넌스 과제를 해결하고 다자간 지식공유와 학제간 협력을 촉진하며, 공공부문이 책임있는 AI 도입을 선도할 것을 권고한다. 두바이의 미래위원회(Dubai Future Foundation)가 13개 협의체를 통해 각 분야의 미래를 연구하는 사례가 좋은 본보기가 된다.

미래 계획 전략에서는 AI 전문인력 양성과 투자 촉진, 신기술 모니터링과 위험 예측, 전략적 미래예측 실시, 영향평가와 민첩한 규제 도입, 그리고 국제협력 강화를 강조한다.

산업계 지원과 책임성 강화

기업의 책임있는 AI 도입을 위해 다양한 재정적 인센티브를 제공하고, ISO 42001과 같은 국제 표준 준수를 장려해야 한다. 공공조달 정책을 통해 책임있는 AI 도입을 촉진하는 것도 중요한 전략이다. 기업 규모에 따른 맞춤형 지원도 필요하다. 대기업의 경우 복잡한 조직구조 속에서 AI 거버넌스를 효과적으로 운영할 수 있도록 지원해야 하며, 중소기업과 스타트업에는 자원 제약을 극복할 수 있도록 실질적인 가이드라인과 교육을 제공해야 한다.

학계와 시민사회의 역할 강화

학계의 AI R&D 역할 변화와 산업계로의 인재 이전 현상에 대응하기 위해, 연구 인프라 접근성 보장과 공공 데이터 활용을 위한 명확한 가이드라인이 필요하다. AI 윤리와 안전성 연구를 지원하고, 산학 간 임금격차를 해소하여 인재 유출을 방지해야 한다.

시민사회의 효과적인 참여를 위해서는 기술 검토를 위한 적절한 도구와 기술을 제공하고, 의무적 투명성 보고에 대한 접근성을 보장해야 한다. 또한 C7, C20 등 국제 시민사회 포럼과의 연계를 강화해야 한다.

신기술 융합과 미래 과제

생성형 AI와 다른 신기술의 융합은 새로운 도전과제를 제시한다. 합성생물학 분야의 안전 기준과 국제 협력, 신경기술 관련 새로운 디지털 권리 확립, 양자컴퓨팅 발전에 따른 에너지 효율 기술 개발이 시급하다. AI 챗봇과의 감정적 의존 관계 형성도 우려되는데, 실제로 기후 위기에 관한 AI 챗봇과의 대화 후 극단적 선택을 한 사례도 보고되었다.

글로벌 협력과 미래 전망

국제협력을 위해 글로벌 거버넌스 샌드박스 플랫폼을 구축하고, 컴퓨팅 자원과 데이터의 다자간 공유 방안을 마련해야 한다. 특히 개발도상국의 AI 역량 강화를 위한 선진국의 지원이 중요하다.

아동보호를 위한 특별한 관심도 필요하다. 알고리즘 편향이 소수자나 취약계층 아동에게 미치는 영향을 연구하고, 아동 성착취물 확산을 방지하며, 챗봇과 스마트 장난감이 인지발달에 미치는 영향을 면밀히 검토해야 한다.

프레임워크는 각국의 AI 전략, AI 네트워크 성숙도, 경제•지정학적 맥락, 개인의 기대와 사회규범에 따라 구체적인 이행방안이 달라질 것이라고 전망했다.

해당 리포트의 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기