엔터프라이즈 AI의 잠재력 실현: 기회 및 전략
1조 달러의 대변혁: 생성형 AI 시대의 개막
데이터브릭스(Databricks)의 의뢰로 이코노미스트 임팩트가 발표한 보고서에 따르면, 엔터프라이즈 AI는 대대적인 전환기를 맞이하고 있다. AI 혁명을 뒷받침할 데이터센터, 칩, 에너지, 인프라를 제공하기 위해 향후 몇 년 동안 1조 달러에 달하는 막대한 자본 지출이 예상된다.
많은 기업들이 생성형 AI의 다양한 활용 분야를 찾고 있으며, 신약 개발 가속화부터 금융 소외계층에 대한 신용 확대까지 폭넓게 적용되고 있다. IT(91%), 마케팅(85%), 영업 및 고객 서비스(83%), 운영(80%) 등 자동화 잠재력이 높은 부서에서 생성형 AI를 집중적으로 테스트하고 있으며, 데이터 사이언티스트의 82%는 코딩에 AI를 사용하고 있다.
AI 투자의 진정한 가치 매출이 아닌 미래 경쟁력 확보
AI 투자의 가시적 성과 측정에서 매출 성장은 지금까지 가장 낮은 지표로 나타났으며, 응답자의 19%만이 매출 성장이 투자 사례에 크게 기여했다고 답했다. 대신 기업들은 AI 활용의 성과를 측정하기 위한 주요 지표로 위험 관리(68%), 시장 진입(66%), 전략적 영업 및 파트너십(66%)을 중요하게 고려하고 있다. 이는 기업들이 단기적인 수익보다 장기적인 경쟁력 강화에 초점을 맞추고 있음을 시사한다.
산업별 AI 도입 현황과 성공 사례
설문 조사에 따르면 85%의 조직이 적어도 한 가지 이상의 비즈니스 기능에서 생성형 AI를 적극적으로 활용하고 있으며, 이는 매출 100억 달러 이상의 기업 중 97%에 달한다. 금융 서비스 업계가 생성형 AI 구현을 주도하고 있으며, 45%가 이미 사용 사례를 확대 및 확장하고 있다. 통신, 소매 및 제조 부문도 얼리 어답터로 부상했으며, 미디어/엔터테인먼트와 공공 부문은 현재 확장 면에서는 뒤처져 있으나 대다수가 프로덕션에 적극적으로 배포 중이다.
실제 도입 사례를 보면, Flo Health는 AI 어시스턴트를 통해 실수를 줄이고 문서 생성 속도를 단축해 데이터 엔지니어링 효율성을 24% 향상시켰다. 스페인의 에너지 기업 Repsol은 200명의 코딩 전문가와 20개 프로그래밍 언어에 걸쳐 20만 줄 이상의 코드를 대상으로 GenAI 실험을 진행한 결과, 기술에 따라 최대 30%, 평균 7%의 생산성 향상을 확인했다.
기업의 발목 잡는 레거시 시스템 – AI 인프라의 현실
조직의 22%만이 현재 아키텍처가 수정 없이 AI 워크로드를 지원할 수 있다고 답했으며, 데이터 엔지니어의 48%는 데이터 소스 연결을 구성하고 수정하는 데 대부분의 시간을 소비하고 있다. 응답자의 47%가 실시간 데이터 처리를 가장 큰 용량 격차로 지적했다. 대기업은 제품 개발(67%), 채용 및 인력 계획(67%), 투자 및 자본 배분(61%)과 관련된 전략적 의사 결정에 AI를 활용할 가능성이 중견급 기업(각각 55%, 53%, 48%)에 비해 더 높은 것으로 나타났다.
엔터프라이즈 아키텍트의 61%가 AI 워크로드를 지원하기 위해 클라우드 서비스에 대한 의존도를 높이고 있다. 주목할 만한 점은 많은 기업들이 일부 워크로드를 퍼블릭에서 프라이빗 클라우드 환경으로 이전하는 추세를 보이고 있다는 것이다. 이는 데이터 보안과 제어 강화에 대한 기업들의 요구를 반영한다.
자체 데이터로 차별화하라: AI 모델 선택과 통합 전략
조직의 2/3는 생성형 AI 모델을 자체 데이터와 통합하는 데 상당한 잠재력이 있다고 보고 있다. 데이터 사이언티스트의 58%는 추론 또는 결과물을 생성할 때 LLM이 RAG를 통해 독점 데이터로 보강하고 있으며, 45%는 데이터에 연결하지 않고 표준 LLM을 사용하고 있다. 21%는 둘 다 사용한다고 답변했다. 10곳 중 7곳에서 오픈 소스 생성형 AI를 실험 중이거나 완전히 배포했으며, 96%는 2027년까지 이를 구현할 것이라고 답했다.
AI 도입의 그늘: 보안과 규제 준수의 과제
데이터 보안과 거버넌스는 지난 10년간 이사회 수준의 최우선 과제였다. 특히 유럽의 DORA(디지털 운영 복원성 법안)와 같은 새로운 규제의 등장으로 거버넌스 실패의 위험이 더욱 커지고 있다.
데이터 프라이버시 및 보안 침해는 엔터프라이즈 아키텍트의 53%가 가장 우려하는 부분이며, 보안 및 거버넌스는 엔지니어가 데이터 엔지니어링에서 가장 어려워하는 부분이다. 조직의 40%는 AI 안전과 규정 준수를 보장하기 위한 프로세스가 불충분하다고 인정했으며, 인도(35%)와 미국(29%)의 응답자가 자체 프로세스가 충분하다고 가장 강력하게 동의했다.
AI 우수성 센터(COE)의 역할 강화
COE(Center of Excellence)는 단순한 AI의 중앙 제어 장치를 넘어서 조직의 AI 혁신을 주도하는 핵심 기구로 자리잡고 있다. COE는 부서와 사업부 전반에 걸쳐 모범 사례를 모니터링, 구현 및 공유할 뿐만 아니라, AI 구축 및 운영을 위한 탐색과 혁신을 적극적으로 촉진하는 역할을 수행한다.
“AI는 모두의 일상이 된다” – 2030년 일하는 방식의 대전환
기업 6곳 중 1곳만이 AI 기술을 최대한 활용하는 데 필요한 전문 인력을 확보할 수 있다고 확신하는 것으로 나타났다. AI 관련 능력을 갖춘 근로자에게 프리미엄을 지불하고 있으며, AI 기술을 습득한 근로자의 임금은 평균 21% 상승할 것으로 예상된다.
엔터프라이즈 아키텍트의 97% 이상이 향후 3년 내에 비기술직 직원도 자연어 프로그램으로 복잡한 데이터 세트와 상호 작용할 것으로 예측했으며, 58%는 자연어를 주로 사용하거나 자연어만 사용하게 될 것으로 전망했다. 2030년까지 디지털화, 자동화, AI로 인해 3억 7,500만 명의 근로자가 직업을 바꿔야 할 수도 있을 것으로 전망된다.
선도적인 기업들은 적극적인 인재 육성 프로그램을 운영하고 있다. 예를 들어 Unilever는 약 2만 명에 이르는 직원을 대상으로 생성형 AI 학습 지원 프로그램을 운영하며, 새로운 기술과 역량에 대한 수요가 증가하는 역동적인 분야에서 경쟁력을 강화하고 있다.
AI 시대의 기업 생존 전략
AI를 대규모로 배포하고 싶은 마음은 이해할 수 있지만, 기업들은 위험과 미지의 영역을 의식하고 있다. AI 우수성 센터(COE)는 체계적인 감독을 수행하고 모범 사례를 모니터링하며 부서간 혁신을 촉진하는 중요한 역할을 하고 있다. 전문가들은 처음에는 샌드박스와 반복을 통해 내부 사용 사례를 우선적으로 고려하고, 강력한 데이터 파운데이션 및 기술 기반을 구축하기 위한 인프라 업그레이드에 투자할 것을 권장한다.
해당 리포의 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
