2024 Business Opportunity of AI:
Generative AI Delivering New Business Value and Increasing ROI
생성형 AI 도입 현황과 투자 전망
IDC가 마이크로소프트(Microsoft)의 후원으로 발표한 ‘2024 Business Opportunity of AI’ 보고서에 따르면, 기업들의 생성형 AI(Generative AI) 도입률이 2023년 55%에서 2024년 75%로 20%p 증가했다. 일반 AI 도입률은 같은 기간 71%에서 78%로 소폭 증가한 것과 비교하면, 생성형 AI의 도입이 매우 빠른 속도로 진행되고 있음을 알 수 있다.
IDC는 2024년 전 세계 기업들의 AI 솔루션 투자가 2,460억 달러에 달할 것으로 전망했다. 이는 2028년까지 연평균 32.8% 성장해 7,490억 달러 규모로 확대될 것으로 예측됐다. 특히 생성형 AI 투자는 2023년 190억 달러에서 2024년 440억 달러로 급증했으며, 2028년까지 3,040억 달러 규모로 성장할 것으로 전망됐다.
AI 도입 목적과 활용 분야
기업들의 AI 도입 주요 목적을 살펴보면, ‘직원 생산성 향상’이 33%로 가장 높았고, ‘매출 성장'(23%), ‘고객 참여 강화'(20%), ‘비용 관리'(16%), ‘제품/서비스 혁신'(8%) 순으로 나타났다. 지역별로는 서유럽에서 ‘직원 생산성 향상'(36%)이 가장 높은 비중을 차지했고, 아시아태평양 지역에서는 ‘비용 관리'(20%)가 상대적으로 높게 나타났다.
현재 AI 활용 분야를 보면, 마케팅/PR(92%), IT/기술 인프라(89%), 영업/사업개발(80%), 고객 서비스(77%) 순으로 나타났다. 향후 24개월 내 AI 도입을 계획하고 있는 분야로는 제품개발(34%), 인적자원(28%), 법무(22%) 등이 높은 비중을 차지했다.
AI 수익창출 현황과 전망
현재 기업들의 AI 수익창출은 생산성 활용 사례가 69%로 가장 높은 비중을 차지했다. 향후 24개월 내에는 기능별 활용 사례(37%)와 산업별 활용 사례(38%)를 통한 수익창출에 더 큰 비중을 둘 계획인 것으로 나타났다.
생성형 AI의 투자수익률(ROI)
보고서에 따르면, 기업들이 생성형 AI에 투자한 1달러당 평균 3.7배의 투자수익률을 거두고 있는 것으로 나타났다. 이는 지역별로 큰 차이를 보이지 않았는데, 북미 3.7배, 서유럽 3.7배, 아시아태평양 3.6배, 중남미 3.8배로 비슷한 수준을 기록했다.
업종별로는 금융서비스(4.2배)와 미디어·통신(3.9배) 분야에서 가장 높은 ROI를 기록했으며, 교육(3.2배)과 에너지(3.5배) 분야는 상대적으로 낮은 ROI를 보였다. 특히 금융서비스와 미디어·통신 분야는 일반 AI 대비 생성형 AI에서 더 높은 ROI를 달성한 것으로 나타났다.

실제 기업 활용 사례를 보면, 글로벌 광고회사 덴츠(dentsu)는 Copilot을 통해 직원들이 하루 15-30분의 업무 시간을 절약했다. 무디스(Moody’s)는 Research Assistant를 통해 금융 분석가의 작업 시간을 25% 줄였으며, 캐나다 타이어(Canadian Tire Corporation)는 자체 개발한 ChatCTC로 직원들이 하루 30-60분의 시간을 절약한 것으로 나타났다.
AI 선도기업과 후발기업 간의 격차
IDC는 AI 활용 수준에 따라 기업들을 선도기업(Leaders), 중간기업(Neutral), 후발기업(Laggards)으로 분류했다. AI 선도기업은 전체의 21%를 차지했으며, 이들은 생성형 AI 투자에서 평균 10.3배의 ROI를 달성했다. 특히 북미 지역의 기업들이 AI 선도기업 비중(31%)이 가장 높았고, 아시아태평양(19%)이 가장 낮았다.
선도기업들의 특징으로는 책임있는 AI 거버넌스 체계 구축이 돋보였다. 선도기업의 51%가 ‘AI 감독 거버넌스 기구’를 보유하고 있었으며, 50%는 ‘책임있는 AI 개발과 활용을 위한 명확한 원칙’을, 49%는 ‘이를 실행하기 위한 규칙과 정책’을 갖추고 있었다.
AI 도입의 장애요인
기업들이 꼽은 AI 도입의 가장 큰 장애요인은 ‘AI 활용 가능한 전문 인력 부족’으로 52%를 차지했다. 이는 2023년 45%에서 증가한 수치다. 다음으로 ‘데이터 보안'(41%), ‘데이터 거버넌스'(41%), ‘개인정보보호'(39%), ‘규제 준수'(39%), ‘AI 해킹 위협'(31%) 순으로 나타났다.
지역별로는 북미에서 ‘데이터 보안'(46%)이 가장 큰 우려사항으로 꼽혔고, 중남미에서는 ‘규제 준수'(42%)가 상대적으로 높은 비중을 차지했다.
IDC의 기업 권고사항

IDC는 기업들에게 AI 도입과 활용을 위한 여러 권고사항을 제시했다. 우선 AI 이니셔티브에서 생산성과 ROI를 포함한 비즈니스 가치에 초점을 맞추는 것이 중요하다고 강조했다. 또한 데이터 보안과 검증 및 활용 방안을 포함하는 포괄적인 데이터 전략을 수립할 것을 권고했다. 아울러 조직의 모든 부서와 직급에 걸쳐 AI 교육과 기술 향상을 위한 프로그램을 개발하고 실행할 것을 제안했다. 마지막으로 책임있는 AI 실행과 이를 위한 프로그램 개발의 중요성을 강조했다.
AI의 미래 전망
IDC는 향후 2년 내 IT 인프라(56%), 고객 서비스(51%), 영업·사업개발(48%), 재무·회계(46%), 인적자원(41%) 등 기업의 핵심 기능이 AI로 인해 크게 변화할 것으로 전망했다. 현재 기업들의 60%가 향후 2년 내 AI 역량을 충분히 활용할 준비가 되어있다고 응답했으며, 이는 2023년 46%에서 크게 증가한 수치다.
AI 솔루션 도입 방식에도 변화가 예상된다. 현재는 사전 구축된(Pre-Built) AI 솔루션 사용이 43%로 가장 많지만, 향후 2년 내에는 맞춤형(Customized) 솔루션(38%)과 자체 개발(Custom-Built) 솔루션(36%)의 비중이 크게 증가할 것으로 전망됐다.
이번 IDC 보고서는 전 세계 4,000여 명의 비즈니스 리더들을 대상으로 한 설문조사와 8개 대기업과의 인터뷰를 바탕으로 작성됐다. IDC는 AI가 2030년까지 전 세계 경제에 19.9조 달러의 누적 경제적 영향을 미칠 것이며, 2030년 전 세계 GDP의 3.5%를 차지할 것으로 전망했다.
기사에 인용된 리포트의 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기