Making Reinvention Real with Gen AI: From experimentation to impact
생성형 AI 성공률 13%에 그친 이유, 다섯 가지 전략 부재
생성형 AI(Generative AI)가 기업 환경에 도입된 지 1년이 지난 지금, 많은 기업들은 여전히 실험 단계에 머물러 있다. 액센추어(Accenture)의 보고서에 따르면, 설문에 응한 기업 경영진 중 36%만이 생성형 AI 솔루션을 확장했으며, 단 13%만이 기업 차원의 의미 있는 가치를 창출했다고 응답했다. 이는 생성형 AI가 제공하는 혁신적 가능성에도 불구하고 많은 기업들이 실질적인 성과를 달성하는 데 어려움을 겪고 있음을 보여준다.
액센추어는 2,000개 이상의 생성형 AI 프로젝트 분석과 3,000명 이상의 C레벨 경영진 설문을 통해 기업들이 생성형 AI를 통해 실질적인 가치를 창출하기 위해 집중해야 할 다섯 가지 핵심 전략을 제시했다. 이 다섯 가지 전략을 모두 실행한 기업들은 그렇지 않은 기업들보다 기업 차원의 성과를 달성할 확률이 2.5배 높은 것으로 나타났다.
AI 혁신 선도 기업, 2025년 투자 확대 가능성 6배 높아
생성형 AI에 투자하는 기업들은 IT, 고객 서비스, 마케팅 분야에서 두드러진 성과를 보이고 있다. 생성형 AI 투자의 73%가 이러한 기능 영역에 집중되어 있으며, 기술 개발 라이프사이클, 콜센터, 마케팅 개인화 등에서 높은 영향력을 보여주고 있다. 특히 은행, 보험, 생명과학 분야에서는 도메인별 맞춤형 생성형 AI 애플리케이션이 측정 가능한 ROI를 달성하고 있다. 전체 조직의 34%가 가치 사슬 내 핵심 프로세스를 위한 산업 맞춤형 솔루션을 확장했으며, 이러한 조직들은 기대 이상의 ROI를 달성할 가능성이 3배 높다.
기업의 83%는 이제 생성형 AI가 긍정적인 비즈니스 성과를 창출할 가능성이 초기 기대치를 초과한다고 믿는다. 이미 기업 수준의 가치를 창출하고 있는 기업들은 에이전트 아키텍처(Agent Architecture)에 전략적으로 투자할 가능성이 4.5배 높고, 2025년에 생성형 AI 투자를 크게 늘릴 가능성은 6배 높은 것으로 나타났다.
CEO가 주도하는 AI 프로젝트, ROI 2.5배 높게 나타나
가치 주도의 접근 방식은 핵심 비즈니스 과제를 해결하는 대담하고 영향력 있는 이니셔티브를 우선시하는 것을 의미한다. 이를 위해 기업들은 다음과 같은 전략을 취해야 한다.
최고 경영진의 후원과 전략적 목표 조율이 필수적이다. CEO의 후원을 받는 기업들은 그렇지 않은 기업들에 비해 2.5배 높은 투자수익률(ROI)을 달성하는 것으로 나타났다. 또한 맞춤형 임원 교육을 제공하는 것이 중요하다. 기업 수준의 가치를 창출하는 조직의 리더들은 생성형 AI를 깊이 이해할 가능성이 다른 리더들보다 6배 높은 것으로 확인되었다. 명확하고 추적 가능한 목표를 가진 과감한 목표 설정도 필요하다. 기업들은 재무 및 비재무적 성과를 포함한 360도 가치에 대한 측정 가능한 목표를 설정해야 한다. 마지막으로, 부서 간 경계를 넘어 프로세스를 재설계하는 것이 중요하다. 생성형 AI를 활용해 워크플로우를 “해킹”하고 전체 도메인, 프로세스, 여정을 혁신함으로써 더 큰 가치를 창출할 수 있다.
에콜랩(Ecolab)의 사례는 AI 에이전트를 활용해 리드 투 캐시(Lead to Cash) 프로세스 전반을 혁신하여 고객 경험을 향상시키고 영업 담당자에게 더 많은 시간을 확보해주는 방식을 보여준다. 이 접근 방식은 비즈니스와 기능 도메인 전반에 걸쳐 숨겨진 가치를 빠르게 활용할 수 있게 한다.
AI 예산 배분의 실수: 기술에 3배 투자, 인재는 후순위
실질적인 가치를 확보하기 위해서는 업무 방식을 근본적으로 변화시키고 다르게 일하는 방법을 배워야 한다. 하지만 액센추어의 보고서에 따르면 조직의 35%만이 생성형 AI가 인력 구조를 어떻게 재편할지에 대한 로드맵을 가지고 있다.
기업들은 인공지능 에이전트와 사람이 함께 일하는 방식을 재구상하고, 기술과 인재를 재편하며, 조직을 재설계해야 한다. 이를 위해 여러 유형의 에이전트를 활용할 수 있다. 유틸리티 에이전트는 일상적이고 빈번한 작업을 수행하여 운영 효율성을 향상시킨다. 슈퍼 에이전트는 여러 기능을 결합하고 데이터를 종합하여 전략적 워크플로우를 추진한다. 오케스트레이터 에이전트는 부서 간 경계를 허물고 원활한 협업을 가능하게 하는 전체 프로세스를 감독한다.
액센추어의 마케팅 및 커뮤니케이션 부서는 AI 에이전트와 인간의 협업을 통해 내부 커뮤니케이션을 60%, 외부 콘텐츠를 50% 줄이면서 외부 브랜드 가치를 25% 향상시켰다. 또한 수동 작업을 약 30% 줄이고 시장 진출 속도를 25-55% 개선했다.
데이터 전략 갖춘 기업, AI 성과 창출 확률 2.9배 높아
강력한 디지털 코어는 생성형 AI 배포의 핵심이지만, 차별화된 가치를 창출하기 위해서는 고급 적응형 디지털 에코시스템을 설계해야 한다. 기업 수준의 가치를 창출하는 조직들은 생성형 AI 노력을 지원하기 위한 종합적인 데이터 전략을 갖출 가능성이 2.9배 높다.
기업들은 다음과 같은 방식으로 디지털 코어를 변화시켜야 한다. 우선 에이전트 아키텍처가 지원하는 AI 역량의 적응형 스택을 구축해야 한다. 또한 경쟁 우위를 확보하기 위해 독점 데이터에 투자하는 것이 중요하다. 더불어 유연하고 모듈식 아키텍처를 개발하여 빠르게 변화하는 환경에 대응할 수 있어야 한다.
셈프라(Sempra)의 사례는 핵심 애플리케이션 현대화, 독점 데이터 활용, 책임 있는 AI 거버넌스 구현을 통해 AI 분석 시간을 최대 90% 단축하고, 자산 품질을 향상시키며, 고객 서비스를 개선한 사례를 보여준다.
책임 있는 AI 적용한 은행, 법률 검토 시간 3일에서 1일로 단축
책임감 있는 AI는 단순한 규정 준수 요구사항이 아니라 의사결정 가속화와 가치 창출을 돕는 요소다. 기업 수준의 가치를 창출하는 조직들은 생성형 AI 라이프사이클 전반에 걸쳐 책임 있는 AI 원칙과 거버넌스를 갖출 가능성이 2.7배 높다.
책임감 있는 AI를 가치 원천으로 전환하기 위해 조직들은 다음과 같은 접근 방식을 취해야 한다. 우선 설계 단계부터 책임감 있는 AI를 구현하여 초기부터 윤리적 고려사항을 통합해야 한다. 또한 플랫폼 접근 방식을 도입하여 일관된 거버넌스와 확장성을 확보해야 한다. 그리고 가치 중심 사고방식을 선도하여 책임감 있는 AI가 단순한 제약이 아닌 가치 창출의 동력이 되도록 해야 한다. 마지막으로, 생태계 협력을 촉진하여 모범 사례를 공유하고 공동의 과제를 해결할 수 있어야 한다.
한 선도 은행의 사례는 책임감 있는 AI 프레임워크를 통해 법률 검토 시간을 3일에서 1일로 단축하고, 신용 평가를 80% 더 빠르게 처리하며, 소프트웨어 개발 생산성을 18% 향상시켰다. 또한 연간 2억 달러 이상의 생산성 향상을 달성했다.
AI 기반 고객 응대, 채팅 효율 70% 이상 개선한 전자제품 소매업체 사례
변화는 인간과 지능형 에이전트가 학습함에 따라 지속될 것이다. 이러한 변화 속에서 경쟁력을 유지하기 위해 조직들은 다음과 같은 전략을 취해야 한다. 우선, 변화의 폭이 크다는 것을 인식하고 가치 창출 목표와 연계된 명확한 목표를 설정해야 한다. 또한 지속적인 변화를 핵심 역량으로 구축하여 끊임없이 진화하는 AI 환경에 적응할 수 있어야 한다. 그리고 혁신의 중심에 사람을 두고, AI에 대한 인식을 자동화와 일자리 손실이라는 부정적 시각에서 성장과 혁신의 기회로 전환시켜야 한다.
대형 전자제품 소매업체의 사례는 AI 기반 가상 비서와 실시간 AI 도구를 활용하여 채팅에서 14%, 음성 응답에서 35%의 고객 의도 파악 개선과 같은 성과를 달성했다. 또한 3천만 개의 요약을 생성하고 평균 채팅 처리 시간을 38초, 음성 처리 시간을 30초 단축했다.
생성형 AI 성공의 첫걸음: 4가지 핵심 단기 전략
대부분의 조직들이 여전히 생성형 AI의 출발선에 있는 가운데, 실험에서 실질적인 결과로 전환하기 위한 네 가지 핵심 단기 조치가 있다.
실질적인 결과를 얻기 위해서는 먼저 CEO 후원으로 리더십을 구축해야 한다. CEO가 후원하는 생성형 AI 기반 기업 혁신은 일반적으로 2.5배 더 많은 가치를 창출하는 것으로 나타났다. 또한 리더십과 이해관계자 간 기술 및 AI에 대한 지식을 향상시켜야 한다. 이는 더 과감한 이니셔티브에 대한 자신감을 심어주고 확장 단계에서의 의사결정을 가속화하는 데 도움이 된다. 다음으로, 고부가가치 프로세스를 재구상해야 한다. 인간과 에이전트의 설계를 활용하여 Lead to Cash와 같은 주요 통합 메가 프로세스를 변환하는 것이 중요하다. 마지막으로, 데이터를 기반으로 구축해야 한다. 구조화된 데이터, 비구조화된 데이터, 합성 데이터 등 다양한 유형의 데이터에 대한 강력한 기반을 구축함으로써 AI 이니셔티브의 성공 가능성을 높일 수 있다.
FAQ
Q: 생성형 AI의 기업 도입 현황은 어떻게 되나요?
A: 액센추어 보고서에 따르면 설문에 응한 기업 경영진 중 36%만이 생성형 AI 솔루션을 확장했으며, 단 13%만이 기업 차원의 의미 있는 가치를 창출했습니다. 많은 기업들이 여전히 실험 단계에 머물러 있습니다.
Q: 생성형 AI 도입으로 가장 큰 성과를 거둔 분야는 어디인가요?
A: IT, 고객 서비스, 마케팅 분야에서 가장 두드러진 성과를 보이고 있으며, 생성형 AI 투자의 73%가 이러한 기능 영역에 집중되어 있습니다. 특히 기술 개발 라이프사이클, 콜센터, 마케팅 개인화 등에서 높은 영향력을 보여주고 있습니다.
Q: 생성형 AI 도입 시 인재 관리는 어떻게 해야 하나요?
A: 생성형 AI 도입 시 기술보다 인재에 집중해야 합니다. 현재 생성형 AI 예산의 3배가 인재보다 기술에 투자되고 있지만, 성공적인 혁신을 위해서는 AI 에이전트와 인력이 함께 일하는 방식을 재구상하고, 기술 중심의 인재 전략을 수립하며, 조직 구조를 재설계해야 합니다.
해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.
이미지 출처: 액센추어
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
관련 콘텐츠 더보기