AI 환멸의 골짜기를 지나는 기업들, 실제 성과는 어디까지?

The “trough of disillusionment” isn’t a failure of technology
—it’s a failure of expectations

직원 생산성 평균 11% 증가, 생성형 AI의 현실적 영향력은 아직 제한적

생성형 AI는 종종 생산성의 혁명으로 묘사되며, 10배 더 효율적인 개발자를 탄생시키고, 영업 접근을 강화하며, 마케팅과 제품 팀이 전례 없는 규모로 A/B 테스트를 수행할 수 있게 해준다는 약속을 하고 있다. 하지만 이러한 효율성 향상이 실제로 나타나고 있을까?

벤처 캐피털 펀드 플라이브릿지(Flybridge)의 AI 인덱스에 포함된 기업들 중 정규직 직원 수에 대한 상세 데이터를 제공한 기업들을 분석한 결과, 언뜻 보기에 AI 생산성 붐을 확인하는 것처럼 보인다. 2023년에서 2024년 사이 직원당 매출이 중앙값 기준 11% 증가했기 때문이다. 그러나 더 깊이 들여다보면 더 미묘한 이야기가 드러난다.

간과되기 쉬운 핵심 세부사항은 직원당 매출이 AI 도입이 가속화되기 훨씬 전부터 수년간 상승해왔다는 점이다. 예를 들어, 팔란티어(Palantir)는 IPO 이후 직원당 매출이 연평균 25% 성장률(CAGR)로 증가했다. 2023년에는 대부분의 기업들이 AI 도입의 초기 단계에 있었으며, 팀을 구성하고 초기 AI 기반 제품을 출시하는 단계였다. 그러나 그 기간 동안 표본 그룹의 직원당 매출 중앙값은 16% 성장했는데, 이는 올해의 10% 성장률을 크게 앞지르는 수치다.

엔비디아(NVIDIA)와 같은 예외적인 기업들이 존재하지만, 대부분의 기업에서 AI가 생산성에 미치는 영향은 여전히 제한적이다. 이는 기업 보고서와도 일치한다. 소프트웨어 개발 외에는 AI의 역할이 여전히 실험적인 단계에 있다. 파일럿에서 실제 운영으로의 전환이 시작되고 있지만, 이러한 배포는 여전히 소규모이며 통제된 환경에서 이루어지고 있다.

AI 도입 초기 단계에서 실제 활용으로: 허브스팟의 지원 티켓 35%가 AI로 처리

그러나 AI 도입은 변화하고 있다. 10개월 전만 해도 기업들의 실적 발표에서는 모호한 언급만 있었다. “첫 AI 기반 제품”을 발표하거나 “AI 책임자”를 고용했다는 등의 발표가 대부분이었다. 하지만 오늘날에는 더 구체적인 결과들이 나타나고 있다. 허브스팟(HubSpot)은 “AI 기반 지원 자동화가 현재 지원 티켓의 35% 이상을 처리하고 있으며, 2025년까지 이를 50%로 늘리는 것이 목표”라고 보고했다.

AI는 인간의 능력을 증폭시킬 것이지만, 도입에는 시간이 걸릴 것이다. 초기 징후는 유망하지만, 도입 속도를 오해하지 않는 것이 중요하다. 이른바 “환멸의 골짜기(trough of disillusionment)”는 기술의 실패가 아니라 기대의 실패라고 볼 수 있다.

스타트업 창업자들에게는 긍정적인 소식이다. 가장 혁신적인 기존 기업들조차도 적응하는 데 시간이 걸린다는 현실을 반영하기 때문이다. 이는 민첩한 팀과 깔끔한 아키텍처를 갖춘 스타트업들에게 기회를 제공하며, 이들은 초기부터 생성형 AI의 혜택을 누릴 수 있다.

엔비디아 데이터센터 매출 93% 급증, 주요 기업들의 AI 투자 금액 공개

엔비디아(NVIDIA)의 AI 관련 매출은 계속해서 급증하고 있다. 2024년 4분기 데이터 센터 매출은 356억 달러로, 전년 대비 93% 증가했고 전분기 대비 16% 증가했다. 2025 회계연도의 데이터 센터 매출은 1,152억 달러로, 전년 대비 두 배 이상 증가했다.

IBM의 생성형 AI 사업은 현재까지 50억 달러 이상에 달하며, 이는 전분기 대비 20억 달러 증가한 수치다. 4분기에는 소프트웨어 AI 사업이 약 10억 달러에 달했으며, AI 관련 컨설팅 매출은 AI 사업의 4/5를 차지했다.

메타(Meta)의 경우, 현재 7억 명 이상의 월간 활성 사용자가 메타 AI와 상호작용하고 있다. 또한 400만 이상의 광고주가 메타의 생성형 AI 및 창의적 도구 중 하나 이상을 사용하고 있으며, 이는 6개월 전 100만 명에서 크게 증가한 수치다. 메타는 2025년 자본 지출을 600억에서 650억 달러로 계획하고 있다.

서비스나우(ServiceNow)는 AI 기반 Pro+ 거래가 전분기 대비 150% 증가했다고 보고했다. 또한 IDC 예측을 인용하여 AI 소프트웨어 지출이 2025년에 46% 증가하고, AI 플랫폼 소프트웨어가 2028년까지 1,530억 달러에 달할 것이며, 연평균 성장률(CAGR)은 40.6%라고 밝혔다. 서비스나우에서는 고객 셀프 서비스 상호작용의 85%가 이제 AI 기반으로 이루어지고 있으며, AI 기반 프로세스 자동화를 통해 내부적으로 400,000시간의 노동 시간을 절약했다고 한다. 또한 AI 기반 영업 잠재 고객 발굴이 전환율을 최대 16배까지 향상시켰다고 보고했다.

셀프서비스 상호작용 85% AI 처리, 다양한 산업에서 구체화되는 AI 활용 사례

구글(Google)의 AI 기반 쇼핑 도구는 2024년 12월 미국 구글 쇼핑의 일일 활성 사용자 수를 전년 대비 13% 증가시키는 데 기여했다. 또한 구글 클라우드의 AI 하이퍼컴퓨터는 대규모 AI 워크로드에 활용되고 있으며, 고객은 18개월 전보다 AI 모델 훈련 및 추론을 위한 컴퓨팅 용량을 8배 더 소비하고 있다. 구글은 2025년 자본 지출에 750억 달러를 투자할 계획이다.

AMD는 2024년에 데이터 센터 AI 매출로 50억 달러 이상을 창출했으며, MI400 시리즈는 실리콘 레벨에서 네트워킹, CPU 및 GPU를 통합하는 랙 규모 AI 솔루션에 초점을 맞출 예정이다.

허브스팟(HubSpot)은 AI 기반 영업 잠재 고객 발굴이 4분기에만 영업팀에게 10,000개 이상의 미팅을 제공했다고 밝혔다. AI 기반 지원 자동화는 현재 지원 티켓의 35% 이상을 처리하고 있으며, 2025년까지 이를 50%로 늘리는 것이 목표다. 또한 AI 기반 영업 봇은 웹사이트 채팅 문의의 80% 이상을 해결하여 영업 효율성을 향상시키고 있다.

나이스(NICE)는 2024년 대규모 기업 거래(100만 달러 이상의 ARR)의 97%가 고급 AI 솔루션을 포함했다고 밝혔다. 또한 가트너의 추정치를 공유하며 2028년까지 기업 소프트웨어 애플리케이션의 33%가 에이전트 AI를 포함할 것이라고 전망했는데, 이는 2024년 1% 미만에서 크게 증가하는 수치다.

세일즈포스(Salesforce)의 AI 기반 제품 라인인 에이전트포스(Agentforce)는 현재 수십억 달러의 매출을 창출하고 있다. 에이전트포스는 디지털 노동을 위한 AI 기반 자동화 플랫폼으로, 출시 후 90일 이내에 3,000명의 유료 고객이 배포했다.

스노우플레이크(Snowflake)는 AI와 기계 학습(ML) 도입이 계속해서 확장되고 있으며, 4,000명 이상의 고객이 매주 스노우플레이크의 AI 및 ML 기술을 사용하고 있다고 밝혔다. AI 기반 기능은 2025 회계연도 제품 매출의 3%를 차지했으며, 이는 스노우플레이크 AI 제품의 초기 견인력을 보여준다.

FAQ

Q. 생성형 AI가 기업 생산성에 미치는 영향이 아직 제한적인 이유는 무엇인가요?

A: 기업들이 아직 AI 도입의 초기 단계에 있기 때문입니다. 대부분의 기업들은 여전히 팀을 구성하고 초기 AI 기반 제품을 출시하는 단계에 있으며, 실제 운영으로의 전환이 시작되고는 있지만 이러한 배포는 아직 소규모이고 통제된 환경에서 이루어지고 있습니다. 특히 소프트웨어 개발 외의 영역에서는 AI의 역할이 여전히 실험적인 단계에 있습니다.

Q. 어떤 기업들이 생성형 AI를 가장 효과적으로 활용하고 있나요?

A: 엔비디아(NVIDIA)나 서비스나우(ServiceNow), 허브스팟(HubSpot) 등이 생성형 AI를 효과적으로 활용하고 있습니다. 특히 허브스팟은 AI 기반 고객 지원 자동화로 지원 티켓의 35% 이상을 처리하고 있으며, 서비스나우는 AI 기반 셀프 서비스로 고객 상호작용의 85%를 처리하고 있습니다. 엔비디아는 AI 관련 데이터 센터 사업에서 큰 성장을 보이고 있으며, 2025 회계연도에 1,152억 달러의 매출을 기록했습니다.

Q. 스타트업이 생성형 AI에서 기회를 찾을 수 있는 영역은 어디인가요?

A: 스타트업은 기존 대기업들이 적응하는 데 시간이 필요한 점을 활용할 수 있습니다. 민첩한 팀과 깔끔한 아키텍처를 갖춘 스타트업은 처음부터 생성형 AI를 효과적으로 통합할 수 있어 더 빠른 혁신과 가치 창출이 가능합니다. 특히 고객 지원 자동화, 영업 잠재 고객 발굴, 콘텐츠 생성 등의 영역에서 기회가 있으며, 기존 기업들이 아직 완전히 활용하지 못하고 있는 틈새 시장을 공략할 수 있습니다.

해당 기사에서 인용한 연구 자료는 링크에서 확인할 수 있다.

기사는 클로드와 챗GPT를 활용해 작성되었습니다. 

관련 콘텐츠 더보기