“AI로 정부 혁신하겠다”던 약속, 실제로는 6%만 성공… 데이터 문제가 핵심

Data foundations for government: From AI ambition to execution

64%의 공공기관이 생성형 AI 도입 추진하지만 실제 운영은 6%에 그쳐

캡제미니 리서치 인스티튜트(Capgemini Research Institute)가 발표한 보고서에 따르면, 전 세계 공공기관의 64%가 생성형 인공지능(Gen AI) 도입을 추진하고 있지만, 실제로 프로덕션 단계까지 진행한 기관은 단 6%에 불과한 것으로 나타났다. 이는 정부의 AI 야심과 실제 실행 능력 사이에 상당한 격차가 존재함을 보여준다.

본 조사는 2024년 12월부터 2025년 1월까지 전 세계 350개 공공기관의 임원 700명을 대상으로 실시되었으며, 각 기관당 IT/데이터 부서와 사업부서에서 각각 1명씩 응답했다. 조사 대상에는 공공행정, 세무·관세, 복지, 국방, 보안, 의료 등 6개 분야의 국가, 지역, 지방, 국제기관이 포함되었다.

방산 82%, 의료 75% vs 공공행정 54%… 분야별 AI 도입률 격차 뚜렷

방산 분야가 생성형 AI 도입에 가장 적극적으로 나타났으며, 82%의 기관이 관련 이니셔티브를 추진하고 있다. 의료(75%)와 보안(70%) 분야가 그 뒤를 이었다. 반면 공공행정 분야는 상대적으로 낮은 54%의 도입률을 보였다. 도입률 격차는 조직 규모와 기관 레벨에 따라서도 뚜렷하게 나타났다. 연간 예산 10억 달러를 초과하는 대규모 조직의 78%가 생성형 AI 프로젝트를 시작한 반면, 연간 예산 5천만 달러 미만의 소규모 조직은 38%에 그쳐 40%포인트의 격차를 보였다. 기관 레벨별로는 국가 기관(76%), 지역 기관(59%), 지방 기관(52%) 순으로 나타나 중앙-지방 간 24%포인트의 격차가 확인됐다.

지역별로는 미국이 72%로 유럽의 55%보다 17%포인트 높은 도입률을 보이며 선도적 위치를 차지했다. 이러한 결과는 예산 규모가 공공기관의 AI 활용에 결정적 요인으로 작용하고 있으며, 소규모 및 지방 기관이 AI 혁신에서 소외될 위험이 있음을 시사한다.

90%가 에이전트 AI 도입 계획, 차세대 기술에 대한 높은 관심

더욱 주목할 만한 것은 에이전트 AI(Agentic AI)에 대한 높은 관심이다. 조사 대상 공공기관의 90%가 향후 2-3년 내에 에이전트 AI를 탐색, 파일럿 운영 또는 구현할 계획이라고 답했다. 이는 에이전트 AI가 아직 초기 기술임을 고려할 때 매우 높은 수치다. 에이전트 AI는 지속적인 인간 개입 없이 자율적으로 인식, 추론, 행동하여 목표를 달성하는 추론 엔진으로, 변화하는 환경에 적응하고 다중 에이전트 시스템으로 협업할 수 있다. 특히 대량의 시민 문의와 사례 처리에 유용하며, 반복적 업무를 독립적으로 처리함으로써 인적 자원을 더 복잡한 업무에 집중할 수 있도록 한다.

방산 분야에서는 68%가 향후 2-3년 내 에이전트 AI 파일럿 단계로 진행할 계획이라고 답해 가장 높은 관심을 보였다. 미국 국방부는 이미 국방혁신단위(DIU)가 주도하는 썬더포지(Thunderforge) 프로그램을 통해 군사 계획과 운영에 AI 에이전트 통합을 시작했다.

데이터 인프라 확장 10%, 문화 조성 9%, 기술 육성 7%… 준비도 심각한 수준

AI의 변혁적 잠재력을 활용하려면 강력한 데이터 기반이 필요하다. 하지만 조사 결과 대부분의 정부 기관은 아직 AI를 대규모로 성공적으로 활용하는 데 필요한 강력한 데이터 기반을 구축하지 못한 것으로 나타났다. 데이터 준비도의 어떤 측면에서도 높은 성숙도를 보고한 공공기관은 25% 미만이었다. 특히 데이터 인프라 확장(10%), 데이터 문화 조성(9%), 데이터 및 AI 기술 육성(7%) 분야에서 높은 성숙도를 보고한 기관이 가장 적었다.

지난 5년간 공공부문은 데이터 카탈로그를 이용한 데이터 가시성 개선, 데이터 품질 점검 구현, 데이터 전략과 전체 비즈니스 전략 정렬 등의 분야에서 일부 진전을 이뤘다. 하지만 AI 도입에 필수적인 확장성과 컴퓨팅 파워를 제공하는 클라우드 기반 데이터, 비즈니스 인텔리전스(BI), 분석 확장, 의사결정에 필요한 속도로 데이터 접근 가능, 비즈니스 사용자 대상 데이터 및 AI 업스킬링 프로그램 확대 등 중요한 분야에서는 진전이 실망스러웠다.

데이터 공유 완전 배포 8% vs AI 주권 우려 52%… 상반된 과제 직면

데이터 공유는 복잡하고 상호 연결된 도전과제를 해결하고 AI 모델 성능을 향상시키는 데 필수적이다. 하지만 조사 결과 공공기관의 65%가 여전히 데이터 공유 이니셔티브의 계획 및 파일럿 단계에 있으며, 35%만이 롤아웃하거나 완전히 배포했다. 특히 완전히 배포한 기관은 8%에 불과했다.

동시에 대부분의 공공기관이 데이터, 클라우드, AI 주권에 대한 우려를 표명했다. 구체적으로 64%가 데이터 주권에 대해, 58%가 클라우드 주권에 대해, 52%가 AI 주권에 대해 우려를 표했다. 이는 디지털 영역에서 대행기관과 통제권을 유지하려는 정부의 필요성을 강조한다.

시민과 직원 중심의 데이터·AI 이니셔티브 구축 필요

보고서는 공공기관이 AI 야심과 현재 데이터 준비도 사이의 격차를 해소하기 위한 구체적인 방안을 제시했다. 먼저 시민과 직원을 중심으로 데이터 및 AI 이니셔티브를 구축해야 한다고 강조했다. 이를 위해서는 데이터 관리와 AI에 대한 명확한 비전과 강력한 리더십 확보, 운영 전반에 데이터 및 AI 기반 관행을 내재화하는 데이터 중심 문화 조성, 특히 비즈니스 사용자를 중심으로 한 분석 및 AI 기술 육성이 필요하다.

프로세스 측면에서는 책임감 있는 AI 관행과 함께 강력한 데이터 거버넌스 구현, 데이터 환경의 점진적 현대화에 중점을 둬야 한다. 기술적 기반으로는 견고한 클라우드 기반 데이터 인프라에 대한 투자, 데이터 공유를 촉진하기 위한 데이터 및 IT 시스템의 상호 운용성 보장이 중요하다.

또한 공공기관은 AI의 환경 영향을 면밀히 모니터링하고 하드웨어, 모델 아키텍처, 데이터 센터의 에너지원, 사용 정책을 포함한 AI 라이프사이클 전반에 걸쳐 지속 가능한 조치를 구현해 부정적 영향을 완화해야 한다고 제언했다.

FAQ

Q: 공공기관의 생성형 AI 도입 현황은 어떻게 되나요?

A: 전 세계 공공기관의 64%가 생성형 AI 이니셔티브를 탐색하거나 적극적으로 추진하고 있지만, 실제로 프로덕션 단계에 도달한 기관은 6%에 불과합니다. 방산(82%), 의료(75%), 보안(70%) 분야가 가장 적극적으로 도입을 추진하고 있습니다.

Q: 공공기관의 데이터 준비도 수준은 어느 정도인가요?

A: 데이터 준비도의 어떤 측면에서도 높은 성숙도를 보고한 공공기관은 25% 미만입니다. 특히 데이터 인프라 확장(10%), 데이터 문화 조성(9%), 데이터 및 AI 기술 육성(7%) 분야의 성숙도가 가장 낮은 것으로 나타났습니다.

Q: 에이전트 AI에 대한 공공기관의 관심은 어떤가요?

A: 조사 대상 공공기관의 90%가 향후 2-3년 내에 에이전트 AI를 탐색, 파일럿 운영 또는 구현할 계획이라고 답했습니다. 이는 에이전트 AI가 아직 초기 기술임을 고려할 때 매우 높은 수치로, 공공부문의 강한 관심을 보여줍니다.

해당 기사에서 인용한 리포트는 링크에서 확인할 수 있다.

이미지 출처: 캡제미니

기사는 클로드와 챗GPT를 활용해 작성되었습니다.