챗GPT 열풍 뒤 기업 60%가 AI 투자금 날릴 위기? 대부분 ‘데이터 관리’ 실패로 손실

Data Governance in the Age of Generative AI & Agentic AI

생성형 AI 채택률 55%에서 75%로 급증, 데이터 거버넌스 중요성 부각

세계 최대 규모의 비즈니스 프로세스 및 운영 우수성 전문가 커뮤니티 PEX Network가 발표한 리포트에 따르면, 생성형 AI의 기업 활용이 폭발적으로 증가하고 있는 와중에 AI 도입 기업 절반이 ‘데이터 관리’ 실패로 손실을 입고 있다. 마이크로소프트(Microsoft)와 분석 기업 IDC의 연구에 따르면 생성형 AI 사용률이 2023년 55%에서 2024년 75%로 급증했다. 가트너(Gartner)는 2026년까지 80% 이상의 기업이 생성형 AI 모델을 사용하거나 생성형 AI 기반 애플리케이션을 프로덕션 환경에 배포할 것으로 예측한다고 밝혔다. 이는 2023년 5% 미만에서 크게 증가한 수치다.

2022년 폭발적 성장 이후 생성형 AI는 자동화, 효율성, 컴플라이언스, 고객 참여를 추진하여 대규모 운영 혁신을 가능하게 하는 조직의 전략적 우선순위가 되었다. 그러나 이러한 성장 뒤에는 지속 가능한 AI 성공의 핵심 요소인 데이터 거버넌스(Data Governance)가 자리잡고 있다. 네이비 페더럴 크레딧 유니온(Navy Federal Credit Union)의 라훌 젠데(Rahul Zende) 수석 데이터 사이언티스트는 “거버넌스 관행이 약할 때 생성형 AI 모델은 잘못된 정보, 편견, 규제 위반 및 보안 격차에 취약해진다”고 경고했다.

가트너 경고: 기업 50% 데이터 품질 관리 전무, 60% AI 투자 실패 예상

강력한 데이터 기반은 모든 생성형 AI 이니셔티브 성공에 필수적이다. 그러나 현실은 우려스럽다. 50% 이상의 기업이 데이터 품질 지표조차 추적하지 않고 있으며, 가트너에 따르면 60%의 기업이 부적절한 데이터 거버넌스로 인해 AI 로드맵의 완전한 가치를 얻지 못할 것으로 예상된다. 많은 조직이 일반적인 데이터 거버넌스 전략조차 효과적으로 갖추지 못하고 있으며, 생성형 AI 통합에 특화된 전략은 더욱 부족하다. 젠데는 “생성형 AI 시스템의 성능은 전적으로 훈련 데이터 품질에 달려있다”며 “오늘날 모델 거버넌스는 본질적으로 데이터 거버넌스”라고 강조했다.

생성형 AI의 차별성과 의료 분야 적용 사례

기존 AI와 생성형 AI의 차이점은 명확하다. 젠데는 “기존 AI/머신러닝 시스템이 정해진 매개변수 내에서 작동하는 반면, 생성형 AI는 새로운 콘텐츠를 생성하므로 부적절한 데이터 거버넌스로 인한 위험을 확대시킬 가능성이 있다”고 설명했다. AI 심장학 워킹 그룹(AI in Cardiology Working Group)의 리처드 다셀라르(Richard Dasselaar) 의장은 의료 분야에서의 적용 사례를 제시했다. “의료 분야에서 생성형 AI는 질병 진단 및 치료 방식을 혁신할 수 있는 힘을 가지고 있다. 그러나 EU AI 법과 같은 규정을 고려할 때 이 기술은 신중하게 관리되어야 한다”고 말했다. 그는 “심장학에서 진단 알고리즘에 생성형 AI를 사용할 때 데이터 거버넌스는 환자 데이터가 안전하고 다양하며 전체 인구를 대표할 수 있도록 보장한다”고 덧붙였다.

데이터 거버넌스가 생성형 AI 성공에 미치는 9가지 핵심 효과

엣지버브(EdgeVerve)의 아빈드 라오(Arvind Rao) 최고기술책임자(CTO)는 데이터 거버넌스가 생성형 AI 성공을 위해 제공하는 핵심 혜택들을 제시했다.

첫째, 데이터 품질과 신뢰성 측면에서 대규모 언어 모델(LLM)과 같은 생성형 AI 모델은 정확하고 편향되지 않은 결과를 위해 고품질 데이터를 필요로 한다.

둘째, 데이터 보안과 개인정보 보호 차원에서 견고한 거버넌스 프레임워크는 민감한 정보를 보호하고 GDPR, CCPA 같은 개인정보 보호 규정 준수를 보장한다.

셋째, 윤리적이고 책임감 있는 AI 구현을 위해 거버넌스 프레임워크는 데이터 사용과 모델 출력을 모니터링하여 편견을 방지하고 공정성을 촉진한다.

넷째, 투명성과 설명가능성을 통해 데이터 사용과 모델 행동에 대한 명확한 문서화로 AI 기반 의사결정을 이해하고 신뢰할 수 있게 한다.

다섯째, 규제 준수를 위해 개인정보 보호법 준수는 사용자 동의 관리, 데이터 익명화, 개인의 데이터 접근 및 삭제 권리 보장을 포함한다.

여섯째, 운영 효율성 측면에서 효과적인 데이터 거버넌스는 중복을 줄이고 접근성을 개선하며 데이터 관리를 간소화하여 의사결정을 향상시킨다.

일곱째, 혁신과 경쟁 우위를 위해 잘 관리된 데이터는 조직이 생성형 AI를 효과적으로 활용하여 혁신을 주도하고 경쟁 우위를 유지할 수 있게 한다.

여덟째, 생명주기 제어를 통해 거버넌스는 데이터 수집부터 폐기까지 감독하여 데이터가 최신 상태를 유지하고 모델이 윤리적으로 재훈련되도록 보장한다.

마지막으로 지속적인 모니터링과 감사를 통해 지속적인 성능 평가와 감사로 AI 시스템이 공정하고 규정을 준수하며 규제 표준에 부합하도록 보장한다.

FAQ

Q: 데이터 거버넌스가 왜 생성형 AI에서 특히 중요한가요?

A: 생성형 AI는 기존 AI와 달리 새로운 콘텐츠를 생성하므로 훈련 데이터의 품질이 결과물에 직접적으로 영향을 미칩니다. 부실한 데이터 거버넌스는 편향된 결과, 잘못된 정보 생성, 보안 위험을 초래할 수 있어 더욱 엄격한 관리가 필요합니다.

Q: 기업이 데이터 거버넌스 없이 생성형 AI를 도입하면 어떤 위험이 있나요?

A: 가트너 조사에 따르면 60%의 기업이 부적절한 데이터 거버넌스로 인해 AI 투자의 완전한 가치를 얻지 못할 위험에 있습니다. 또한 규제 위반, 데이터 유출, 편향된 AI 결과로 인한 법적 문제와 브랜드 평판 손상 위험이 있습니다.

Q: 어떤 데이터 거버넌스 프레임워크를 선택해야 하나요?

A: 조직 규모, 산업 규제 요구사항, 조직 우선순위에 따라 달라집니다. 전문가들은 최고경영진의 정책 설정과 현장 직원의 의견을 결합한 협력적 접근법을 권장합니다. 큰 조직은 더 구조화된 프레임워크가, 작은 회사는 더 유연한 접근법이 적합할 수 있습니다.

해당 기사에서 인용한 보고서는 링크에서 확인할 수 있다.

이미지 출처: PEX Network

기사는 클로드와 챗GPT를 활용해 작성되었습니다.