생성형 AI 시대, 기업들의 디지털 전환 전략은?

KPMG의 최신 글로벌 테크 리포트에 따르면, 74%의 기업들이 이미 AI 투자로 비즈니스 가치를 창출하고 있다. 그러나 이를 대규모로 실현하는 기업은 31%에 불과한 것으로 나타났다. AI 도입은 빠르게 진행되고 있지만, 대부분의 기업들은 아직 실험 단계에 머물러 있는 것으로 보인다.

AI 성숙도가 높은 국가로는 중국, 미국, 영국, 독일, 이스라엘, 사우디아라비아 등이 꼽혔다. 산업별로는 제조업, 생명과학, 헬스케어 분야가 AI 도입을 선도하고 있는 것으로 나타났다.

현재 기업들은 AI 실험에 있어 개방적이고 민주화된 접근법을 취하고 있다. 가장 인기 있는 방식은 다양한 부서의 직원들로 구성된 워킹그룹이 통제된 환경에서 실험을 수행하는 것이다. 이는 AI 구현 성숙도가 가장 높은 기업들이 우선시하는 방식이기도 하다.

그러나 40%의 기업들은 향후 더 많은 아이디어가 쌓이면 리스크 관리와 중복 방지를 위해 보다 중앙화된 접근법으로 전환할 계획이라고 밝혔다. 다만 지나치게 엄격한 승인 프로세스로 혁신을 저해하지 않도록 균형을 잡는 것이 중요할 것이다.

많은 기업들이 단기적 가치 창출을 위해 가치 사슬의 특정 부분에 AI를 도입하고 있다. 하지만 이는 추적과 비교가 어려운 파편화된 이니셔티브를 만들어낼 위험이 있다.

AI 도입의 성공을 위해서는 전사적 차원의 다학제적 노력과 명확한 비즈니스 목표 연계가 필요하다. AI의 역할과 잠재력에 대한 공통된 이해를 바탕으로, 모든 이해관계자들에게 AI의 가치를 명확히 정의하고 소통하는 것이 중요하다.

Databricks의 Naveen Zutshi CIO는 “AI를 실험에서 실제 운영으로 확장하는 데 있어 가장 큰 걸림돌은 AI 모델의 신뢰성, 품질, 안전성에 대한 확신”이라고 지적했다. 그는 “이는 결국 데이터 품질의 문제로 귀결된다. 데이터 흐름을 이해하고, 데이터 주권, 마스킹, 암호화, 접근 제어 등을 제대로 관리해야 한다”고 강조했다.

AI는 이미 많은 기업에 긍정적인 영향을 미치고 있다. 74%의 응답자들이 AI가 지식 근로자의 생산성을 향상시키고 조직의 전반적인 성과를 개선하고 있다고 답했다. 또한 80% 이상이 AI가 지식 근로자들의 업무 초점을 보다 창의적인 영역으로 옮길 것이며, 지식의 미래 자체를 재정의할 것으로 기대하고 있다.

그러나 동시에 AI는 직원들 사이에 불안감도 야기하고 있다. 78%의 기업들이 많은 사용자들이 AI를 ‘블랙박스’로 여기는 것에 대해 우려하고 있다. 77%는 AI가 현재의 운영 구조에 도전을 제기하여 일자리 감소와 윤리적 문제를 야기할 수 있다고 예상한다.

Microsoft의 Michelle Chang CFO/CVP는 “AI를 조직 차원에서 적용하면 직원들의 흥미를 불러일으킬 수 있다. AI가 직원들의 시간과 에너지를 소모시켰던 오래된 문제들을 해결해줌으로써 직무 만족도를 높일 수 있기 때문이다”라고 말했다.

KPMG는 기업들의 AI 변혁 여정에서 5가지 핵심 영역에 집중할 것을 제안한다. 첫째, AI를 통한 가치 창출에 주력해야 한다. 이는 비즈니스 전략과 AI 이니셔티브를 긴밀히 연계하고, 명확한 ROI 기대치를 설정하며, AI 전환을 위한 적절한 예산을 할당하는 것을 의미한다. 둘째, AI 역량 확보에 힘써야 한다. 팀원들의 AI 관련 역량을 강화하고, 효과적인 조직 거버넌스 구조를 수립하며, 비즈니스 전반에 걸쳐 필요한 AI 역량을 파악해야 한다.

셋째, AI에 대한 신뢰 구축이 중요하다. AI 관련 리스크를 철저히 파악하고 해결하며, 데이터의 품질과 무결성을 보장해야 한다. 또한 섀도우 AI를 적절히 관리하고, AI에 사용되는 민감한 데이터를 철저히 보호해야 한다. 넷째, 자신감 있게 AI를 확장해 나가야 한다. AI 역량을 자체 개발할지 외부에서 구매할지 전략적으로 결정하고, 적합한 파트너 및 벤더를 선정해야 한다. 아울러 기존 IT 인프라와의 원활한 상호운용성을 확보하는 것도 중요하다.

마지막으로, AI 변혁을 체계적으로 설계해야 한다. 가치 흐름, 기능, 제품별로 세분화된 AI 도입 계획을 수립하기 위해 비즈니스 및 각 부서 리더들과 긴밀히 협력해야 한다. 또한 명확한 도입 로드맵을 수립하고, AI를 기존의 비즈니스, 디지털, 기술 전략과 유기적으로 통합해 나가야 한다. 이러한 종합적인 접근을 통해 기업들은 AI의 잠재력을 최대한 발휘하며 성공적인 디지털 전환을 이룰 수 있을 것이다.

AI는 이미 많은 기업에 가치를 창출하고 있지만, 아직 그 잠재력을 온전히 실현하지는 못하고 있다. 데이터 관리 강화, 비즈니스 목표 연계, 신뢰 구축 등을 통해 AI의 가치를 극대화하는 것이 앞으로의 과제가 될 것이다.

Salesforce의 Polly Sumner 최고 도입 책임자는 “모든 기업은 엔드투엔드로 가속화해야 한다. 이는 더 빠른 데이터 기반 의사결정과 모든 직원이 자신의 업무를 재설계할 수 있도록 권한을 부여함으로써만 가능하다”고 조언했다.

AI 시대의 성공을 위해서는 단순히 기술을 도입하는 것을 넘어, 조직 문화와 업무 방식의 근본적인 변화가 필요할 것이다. 기업들은 AI의 잠재력을 최대한 활용하면서도 윤리적이고 책임 있는 사용을 보장하기 위해 지속적으로 노력해야 할 것이다.

기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기