Generating Opportunity: The Risks and Rewards of Generative AI in State Government (2024.11)
생성형 AI, 이미 정부 업무 현장에 깊숙이 침투
미국 주정부 최고정보책임자(CIO)들 사이에서 생성형 AI(Generative AI)가 핵심 화두로 떠올랐다. 전미주정부CIO협회(NASCIO)의 2023년 중간 컨퍼런스에서 대부분의 논의가 생성형 AI로 귀결됐다. 공개된 지 몇 개월 만에 무료 도구들이 업무 방식을 변화시켰고, 주정부 CIO들은 이 기술이 가져올 잠재적 혜택과 위험이 상당할 것으로 예측했다.
NASCIO가 실시한 2024년 조사에 따르면, 주정부 CIO의 53%가 소속 조직 직원들이 일상 업무에서 생성형 AI를 활용하고 있다고 답했다. 27%는 사용하지 않는다고 응답했으며, 6%는 모른다고 답했다. 12%는 ‘기타’를 선택했는데, 대부분 제한적으로 사용한다는 답변이었다.
주정부에서 가장 많이 사용되는 생성형 AI 도구는 무료 온라인 도구(65%)와 상용 소프트웨어(Commercial-off-the-shelf, 59%)였다. 일부 주에서는 제3자나 벤더가 개발한 맞춤형 도구(35%)를 사용했으며, 16%만이 자체 개발한 도구를 활용하고 있었다.
주정부 CIO의 핵심 역할과 책임
캘리포니아주 CIO인 리아나 베일리-크리민스는 주정부 CIO의 역할을 세 가지로 정의했다. 첫째, 혁신적 자문가로서 각 기관이 적절한 도구로 적절한 문제를 해결하도록 보장하고, 둘째, 통합자로서 솔루션이 전사적으로 활용될 수 있도록 하며, 셋째, 영향력 행사자로서 최소한의 혼란으로 변화를 이끌어내는 것이다.
대부분의 CIO들은 최고개인정보보호책임자(CPO), 최고정보보안책임자(CISO), 최고데이터책임자(CDO), 최고기술책임자(CTO) 등 주요 이해관계자들과 협력하면서 생성형 AI의 전략적 방향을 주도해야 한다고 생각했다. 워싱턴주 CIO 빌 케호는 “주정부 CIO는 주정부의 기술 전략을 주도하는 위치에 있으므로 행정부 기관 임원진, 주지사 사무실, 의회와 협력하여 AI의 전략적 방향을 설정해야 한다”고 말했다.
현재 활용 현황과 주요 도전 과제
주정부들은 현재 가상회의 지원 및 회의록 작성, 사이버보안 운영, 문서 생성 및 관리, 소프트웨어 코드 생성 등의 분야에서 생성형 AI를 활용하고 있다. 특히 문서 생성 및 관리, 데이터 분석/예측 분석, 가상회의 지원 및 회의록 작성, 소프트웨어 코드 생성 분야에서 시범 사업이 활발하게 진행되고 있다.
유타주는 세무부 콜센터의 200명의 상담원을 지원하기 위해 생성형 AI를 활용할 계획이다. 유타주의 세법, 세무 웹사이트, 교육 매뉴얼의 정보를 대규모 언어 모델에 입력하여 상담원들이 질문에 더 정확하게 답변할 수 있도록 지원할 예정이다.
도입 걸림돌은 신뢰성·비용·인프라
그러나 생성형 AI 도입에는 여러 가지 도전 과제가 있다. 가장 큰 문제는 신뢰성이다. 유타주 CIO 앨런 풀러는 “생성형 AI는 창의적인 일을 돕는 데는 뛰어나지만 복잡한 수학적 계산에는 취약하다”고 지적했다. 버몬트주 디지털서비스국 데니스 레일리-휴스 국장도 “의도치 않은 결과가 나오지 않는 수준까지 생성형 AI가 발전하기를 기대한다”고 말했다.
또한 높은 도입 비용도 문제다. 많은 AI 기업들이 현재 손실을 감수하며 운영하고 있지만, 결국에는 투자 수익을 얻기 위해 적정 가격을 책정할 것으로 예상된다. 코네티컷주 CIO 마크 레이몬드는 “현재는 저렴하게 시작할 수 있지만, 이 도구들의 장기적인 비용을 제대로 이해하고 있는지 의문”이라고 말했다.
향후 3-5년 전망: “업무 혁신 이끌 것”
보고서는 향후 3-5년간 생성형 AI가 인터넷 초창기와 같은 큰 변화를 가져올 것으로 전망했다. 인사, 정책 개발, GIS 모델링, 데이터 분석, 고객 참여 등 다양한 분야에서 활용될 것으로 예상된다.
초기에는 콜센터 지원, 교육 가속화 등 내부 업무에 중점을 둘 것으로 보이며, 시간이 지나면서 내부와 외부 애플리케이션이 혼합되어 발전할 것으로 전망된다. 특히 일상적 프로세스를 AI가 처리하면서 공무원들은 더 복잡한 업무에 집중할 수 있게 될 것이다.
NASCIO는 주정부 기술 리더들에게 다음과 같은 6가지 권고사항을 제시했다:
- 탐색을 장려하고 정책을 수립할 것
- 강력한 거버넌스와 규제 프레임워크를 구축할 것
- 데이터 품질에 집중할 것
- 파트너십을 구축하고 협력을 촉진할 것
- 점진적 접근법을 채택할 것
- 투명성을 유지할 것
유타주의 풀러는 “사람들이 뛰어들어 탐색을 시작하기를 권장한다. 직원들이 아마도 이미 사용하고 있을 것이다. IT 조직은 기술을 뒤따라가는 것이 아니라 선도해야 한다”고 강조했다.
기사에 인용된 리포트의 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기