“데이터가 답이다” 아시아 태평양 기업들, AI 시대 데이터 중심 전략 필수

CIO Playbook 2025: It’s Time for AI-nomics

‘FOMO 넘어 ROI로’: 아시아 기업의 AI 투자 우선순위 대전환

아시아 태평양 지역의 기업들이 인공지능(AI) 도입 초기 단계의 ‘포모(FOMO, Fear of Missing Out)’ 심리를 넘어 실질적인 비즈니스 성과를 창출하는 방향으로 전략을 전환하고 있다. 레노버(Lenovo)가 IDC에 의뢰해 아시아 태평양 지역 900여 개 기업의 IT 및 비즈니스 의사결정자를 대상으로 진행한 연구에 따르면, 기업들은 이제 AI 기술 자체보다 핵심 비즈니스 성과에 초점을 맞추고 있다.

기업들의 AI 투자 우선순위가 크게 변화하고 있다. 2024년에는 ‘새로운 AI 기술(예: 생성형 AI) 적용’이 최우선 과제였으나, 2025년에는 ‘규제 준수 개선’과 ‘직원 생산성 향상’이 각각 1, 2위로 올라섰다. 이는 AI가 더 이상 단순한 기술적 실험이 아니라 실질적인 비즈니스 가치를 창출하는 도구로 자리 잡고 있음을 보여준다. 특히 데이터 개인정보 보호법, 윤리적 AI 표준에 관한 정책, 지정학적 압력 등으로 인해 규제 준수가 최우선 과제로 부상했으며, 하이브리드 업무 모델과 운영 요구 증가 속에서 AI를 통한 업무 흐름 개선, 직원 재교육, 혁신 촉진에 관심이 높아지고 있다.

CIO Playbook 2025 Its Time for AI-nomics

’23개 시작, 3개 완성, 성공률 62%’: 데이터 품질이 AI 성공 가로막는다

아시아 태평양 기업들의 AI 도입은 상당 부분 실험적 단계에 머물러 있다. 조사 결과에 따르면 지난 18-24개월 동안 기업들은 다양한 AI 및 생성형 AI 솔루션을 개발하고 테스트하는 데 박차를 가했지만, 성공적인 사례는 제한적이었다. 기업들은 평균 23개의 개념 증명(POC) 프로젝트를 시작했지만, 실제 프로덕션 단계로 진입한 것은 3개에 불과했으며, 이 중 ‘성공적’이라고 평가된 비율은 62%에 그쳤다.

AI 프로젝트가 기대에 못 미치는 가장 큰 원인으로는 데이터 품질 문제가 지목됐다. 실제로 향후 12개월 내 AI 투자 우선순위 중 데이터 과학 및 비즈니스 인텔리전스가 1위, 데이터 관리 및 거버넌스가 3위를 차지했다. 또한 응답자의 34%가 향후 12개월 내 데이터 관리 역량을 개발할 계획이라고 밝혔으며, AI 프로젝트를 지원하기 위해 기업들이 현재 개발 중인 기술 중 데이터 관리 및 거버넌스가 1위를 차지했다.

연구 결과는 데이터 인프라가 AI 성공의 기반이 됨을 보여준다. 적절한 데이터 스토리지, 고성능 컴퓨팅 리소스, 낮은 지연 시간의 네트워크, 통합된 MLOps 플랫폼은 AI 워크로드를 지원하고 원활한 운영을 보장하는 데 필수적이다. 특히 생성형 AI 사용 사례의 급속한 배포 과정에서 많은 기업들이 데이터 품질 문제로 인해 비효율과 제한된 성공을 경험했으며, 이는 강력한 데이터 관리 관행과 데이터 관리 플랫폼에 대한 투자의 필요성을 강조한다.

‘생성형 AI 투자 비중 11%→41%’: 백오피스와 IT 운영 최적화에 집중

2025년 AI 투자의 41%가 생성형 AI로 향할 전망이며, 이는 2024년 대비 급격한 증가다. 조사에 따르면 생성형 AI가 전체 AI 투자에서 차지하는 비중이 2024년 11%에서 2025년 41%로 급증할 것으로 예상된다. 한편, 해석적 AI에 대한 투자는 68%에서 36%로 감소하고, 예측적 AI는 소폭 증가할 전망이다.

기업들은 IT 운영, 사이버보안, 소프트웨어 개발과 같은 IT 관련 비즈니스 기능에 생성형 AI를 우선적으로 도입하고 있다. 이러한 영역은 코드 생성, DevOps 최적화, 기계 학습 워크플로 관리 등 높은 영향력을 가진 AI 사용 사례에 적합하다. 이미 사용 가능한 데이터와 숙련된 인력을 보유하고 있어 상대적으로 구현이 용이하기 때문이다.

AI 프로젝트의 확장이 계속되면서 기업들은 공급망 및 마케팅과 같은 프론트 및 백오피스 기능에서 더 많은 사용 사례를 구현할 계획이다. 특히 대부분의 기업들은 독자적인 AI 솔루션을 구축하기보다 미세 조정, 구축, 구매 모델을 결합하는 ‘조합’ 방식을 선호하는 것으로 나타났다. 낮은 성숙도의 조직들은 빠른 생산성 향상을 위해 내장된 생성형 AI가 포함된 AI 솔루션을 ‘구매’하는 경향이 있지만, 복잡한 사용 사례는 더 맞춤화된 접근 방식이 필요하다.

‘65%가 선택한 방식’: 하이브리드·온프레미스 모델이 AI 인프라 주류

아시아 태평양 기업들의 65%가 AI 워크로드를 주로 온프레미스 또는 하이브리드 클라우드에서 운영하고 있다. AI 워크로드, 특히 생성형 AI는 대규모 데이터를 처리하고 복잡한 알고리즘을 실행하기 위해 GPU와 같은 특수 하드웨어와 고성능 인프라를 필요로 한다.

IDC 연구에 따르면 기업의 3분의 2가 AI 워크로드에 하이브리드 및 온프레미스 솔루션을 사용하며, 이는 유연성, 리소스 관리, 모니터링을 위해 온프레미스 인프라와 프라이빗 클라우드 리소스를 결합하는 방식이다. 또한 기업의 약 3분의 1은 민감한 데이터에 대한 통제 유지, 엄격한 보안 및 규정 준수 요구 사항 충족, 지연 시간 감소를 위해 온프레미스 솔루션을 우선시한다.

AI 인프라 접근 방식을 결정할 때 사용 사례 정렬이 중요한 요소로 작용한다. 예를 들어 제조업체는 IoT 데이터 수집을 위해 온프레미스 시스템을 사용하고, AI 기반 인사이트를 분석하기 위해 프라이빗 클라우드를 활용하여 규제 요구 사항을 충족하면서 효율성을 극대화할 수 있다.

‘89%가 주목하는 AI PC’: 지능형 업무 환경으로 직원 생산성 혁신

아시아 태평양 기업의 43%가 AI 지원 디바이스가 직원 생산성과 경험을 향상시킨다고 믿고 있으며, 이에 따라 89%가 중기적으로 AI 지원 PC 출시를 시범 운영, 계획 또는 탐색하고 있다. AI PC는 NPU(신경망 처리 장치)에 작업을 오프로드하여 CPU와 GPU에 대한 부담을 줄인다. 이 아키텍처는 실시간 추론, 모델 교육, 병렬 처리를 지원하여 이미지 인식, 자연어 처리, 센서 데이터 분석과 같은 작업에 이상적이다. 이러한 디바이스는 개인화된 경험, 작업 자동화, 개선된 협업을 통해 근로자 생산성을 향상시키는 동시에, 더 큰 효율성과 혁신을 주도하는 AI 에이전트를 위한 기업의 미래 준비를 돕는다.

AI PC 도입은 초기 단계에 있지만, 대부분의 기업이 IT 인프라에 통합을 계획하거나 고려하고 있다. 엄격한 디바이스 갱신 주기로 인해 채택 속도가 느려질 수 있지만, 기술이 성숙하고 명확한 이점이 입증됨에 따라 도입 곡선이 가속화되어 다양한 산업에서 더 많은 구현이 이루어질 것으로 전망된다.

‘신뢰의 초석’: 단 25%만 완비한 AI 거버넌스 프레임워크

강력한 거버넌스, 위험 및 규정 준수(GRC) 프레임워크 없이는 AI 이니셔티브가 기대에 미치지 못하고 신뢰를 훼손하며 도입에 장벽을 만들 위험이 있다. 기업은 AI 전략의 기본 구성 요소로 거버넌스를 우선시하여 가치를 극대화하고 장기적인 성공을 보장해야 한다. AI GRC는 투명성, 보안, 규정 준수를 보장하고 사용자, 직원, 파트너 간의 신뢰를 구축하는 데 필수적이다. 그러나 아시아 태평양 조직의 25%만이 GRC 정책을 완전히 시행하고 있어 구조화된 접근 방식의 시급한 필요성이 강조된다.

효과적인 AI 거버넌스는 설명 가능성, 윤리적 프레임워크, 책임성, 모델 거버넌스, 향상된 개인 정보 보호 및 보안, 통합된 인간 감독을 필요로 한다. 이러한 조치는 편향, 공정성 문제를 해결하고 AI 및 데이터 보호 규정을 준수하여 지속 가능한 AI 도입의 근간을 형성한다.

FAQ

Q. AI 투자의 주요 성공 요인은 무엇인가요?

A: 아시아 태평양 기업들의 AI 투자 성공을 위한 주요 요인으로는 직원 교육 및 기술 향상, 품질 데이터 확보, 강력한 AI 역량을 갖춘 파트너와의 협력, 내부 AI 전문성 확보, 데이터 규정 준수 및 주권 보장이 꼽힙니다. 이러한 요소들은 기업의 데이터 활용 능력과 AI 도입 확장 가능성을 결정짓는 핵심 요소입니다.

Q. 생성형 AI 투자는 어떤 분야에 집중되고 있나요?

A: 2025년 아시아 태평양 기업들의 생성형 AI 투자는 IT 운영, 소프트웨어 개발, 사이버보안, 공급망 관리 등 주로 백오피스 기능에 집중될 전망입니다. 이러한 영역에서는 코드 생성, DevOps 최적화, 보안 강화, 공급망 최적화 등 가시적인 효과를 빠르게 확인할 수 있는 사용 사례가 주목받고 있습니다.

Q. AI 도입에 실패하는 주요 원인은 무엇인가요?

A: 아시아 태평양 기업들의 AI 프로젝트가 기대에 못 미치는 주요 원인으로는 데이터 품질 문제, 기존 시스템과의 통합 문제, 예산 또는 경영진 지원 부족, IT 인프라/네트워크 비용, 애플리케이션 지연/성능 문제 등이 지적됩니다. 특히 데이터 품질은 AI 성공의 근간이 되는 요소로, 데이터 관리 역량 강화가 필수적입니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: Lenovo

기사는 클로드와 챗GPT를 활용해 작성되었습니다.