기업 10곳 중 9곳이 만족, 생성형 AI 투자 전년 대비 102% 급증 : 베인앤컴퍼니 설문조사 결과

Survey: Generative AI’s Uptake Is Unprecedented Despite Roadblocks

생성형 AI 도입률 1년 만에 12% 증가, 실제 사용 사례 두 배로 늘어

생성형 AI가 이제 비즈니스의 필수 요소로 자리잡고 있다. 경영 전략 컨설팅 회사 베인앤컴퍼니(Bain & Company)의 설문 조사에 따르면, 미국 기업의 95%가 생성형 AI를 사용하고 있으며, 이는 1년 전보다 12%p 증가한 수치다. 더욱 주목할 만한 점은 실제 운영 중인 사용 사례가 2023년 10월부터 2024년 12월 사이에 두 배로 증가했다는 사실이다. 2023년 10월 평균 2.5개였던 생산 단계 사용 사례가 2024년 12월에는 5.0개로 101% 증가했다.

소프트웨어 코드 개발이 여전히 가장 많이 활용되는 분야지만, IT 부문에서의 활용이 가장 빠른 성장세를 보이고 있다. 산업별 도입률을 살펴보면 IT 부문에서의 도입률이 2023년 10월 이후 28%p 증가하여 현재 60%에 달하고 있으며, 소프트웨어 코드 개발 분야는 26%p 증가하여 68%의 높은 도입률을 보이고 있다. 그 외에 지식 근로자 효율성 부문(26%p 증가, 57% 도입), 영업 부문(25%p 증가, 55% 도입)도 높은 성장세를 기록하고 있다. 반면 법률(34%), 재무(35%), 인사(30%) 등의 분야는 상대적으로 낮은 도입률을 보이고 있다.

불과 1년 만에 AI를 최우선 과제로 꼽는 기업의 비율이 9%에서 15%로 증가했다. 현재 약 절반의 기업이 명확한 구현 로드맵을 갖고 있으며, 이는 18%p 증가한 수치다. 하지만 이는 여전히 절반의 기업이 구체적인 계획을 세우지 못했다는 것을 의미하기도 한다.

데이터 보안 우려 44%, 인재 부족 42%로 AI 도입 최대 장애물

생성형 AI 도입 속도를 늦추는 주요 장애물로는 데이터 보안, 인재 부족, 그리고 출력 품질 문제가 꼽혔다. 2024년 12월 조사에 따르면 데이터 보안 및 개인정보 보호에 대한 우려가 전체 응답자의 44%로 가장 높게 나타났으며, 이는 2024년 7월 대비 6%p 증가한 수치다. 그 다음으로는 사내 전문성 또는 자원 부족(42%, 2%p 감소)과 품질 및 정확성 우려(39%, 5%p 감소)가 뒤를 이었다. 특히 생성형 AI 도입을 선도하는 기업들 사이에서 보안 및 개인정보 보호에 대한 우려가 커지고 있는 반면, 정확성에 대한 우려는 감소하고 있어 기업들이 생성형 AI의 출력물에 대한 신뢰도가 높아지고 있음을 시사한다.

도입 초기 단계에 있는 기업들은 조직의 준비 상태와 관련된 장애물에 더 많은 관심을 가지는 반면, 후기 단계에 있는 기업들은 데이터 보안, 개인정보 보호, 품질, 정확성에 더 집중하고 있다. 규모 확장 역시 여전히 과제로 남아 있으며, 기업의 75%가 핵심 기능 전반에 걸쳐 필요한 사내 전문 지식을 찾는 데 어려움을 겪고 있다.

기업 58%가 실질적 비즈니스 성과 달성, AI 사용 사례 80% 이상 기대치 충족

비즈니스 성과에 대한 초기 평가는 명확하다: 생성형 AI는 성과를 내고 있다. 보고된 사용 사례의 80% 이상이 기대치를 충족하거나 초과하고 있으며, AI 성능에 만족한 기업의 약 60%가 비즈니스 결과도 향상되었다고 보고했다. 구체적으로 살펴보면, 생성형 AI 기술이 기대치를 충족하거나 초과했다고 응답한 기업(n=154) 중 42%는 기술 성능에 만족했고, 38%는 성능 만족과 함께 실질적인 비즈니스 이익을 달성했으며, 20%는 성능 만족과 함께 광범위한 비즈니스 혁신의 촉매제 역할을 했다고 응답했다. 생성형 AI 솔루션을 규모화한 기업 중 약 90%는 목표를 달성하거나 초과 달성했다고 응답했다.

기술에 실망한 기업들 사이에서는 파일럿 사용자와 실제 운영 중인 사용자 간의 경험이 다르게 나타났다. 2024년 12월 조사 결과에 따르면, 두 그룹 모두 도구 활용 방법에 대한 이해 부족(파일럿 35%, 생산 38%), 필요한 작업을 충분히 수행하지 못함(파일럿 38%, 생산 36%), 데이터 비호환성(파일럿 38%, 생산 32%) 등의 유사한 불만을 제기했다.

그러나 파일럿 단계의 기업들은 프로세스 재설계 어려움(23%)과 경영진 지원 부족(27%)에 더 많은 우려를 표했다. 반면 생산 단계에 있는 기업들은 내부 압력/프로젝트 중요성과 가시성(26%), 저품질 벤더(19%), 출력 품질 문제(30%)를 더 많이 지적했다. 프로젝트가 확장됨에 따라 내부 압력이 증가하고 출력 품질 문제가 더 명확해져, 예상보다 성장이 어려워지는 경향이 있다.

대기업 AI 예산 405% 폭증, 전체 기업 평균 102% 증가로 1천만 달러 돌파

이러한 장애물에도 불구하고 기업들은 생성형 AI에 더 큰 재정 및 인재 투자를 진행하고 있다. 연간 예산은 2024년 초 이후 두 배로 증가하여 현재 평균 약 1천만 달러에 이르며, 이는 2024년 2월 수준(5.1백만 달러)보다 102% 증가한 수치다. 이러한 투자 증가는 기업 규모에 상관없이 뚜렷하게 나타났다. 연 매출 5천만~5억 달러 기업은 평균 AI 예산이 1.6백만 달러에서 3.0백만 달러로 94% 증가했고, 5억~50억 달러 기업은 5.4백만 달러에서 8.9백만 달러로 67% 증가했으며, 50억 달러 이상 대기업은 5.4백만 달러에서 27.0백만 달러로 무려 405%나 증가했다.

더 많은 기업이 생성형 AI를 표준 운영에 통합하고 있으며, 프로그램의 60%가 정규 예산 주기를 통해 자금을 조달할 것으로 예상된다. 인력 투자 역시 확대되고 있다. 기업들은 현재 평균적으로 160명의 직원이 적어도 일부 시간을 생성형 AI에 할애하고 있다고 보고했으며, 이는 불과 몇 개월 전보다 30% 증가한 수치다.

생성형 AI의 모멘텀은 부인할 수 없다. 현재의 과제는 단순히 생성형 AI를 도입하는 것이 아니라 전략적이고 안전하게, 그리고 적절한 인재를 확보한 상태에서 이를 확장하는 것이다. 이를 먼저 해결하는 기업들은 생성형 AI 분야에서 선도할 뿐만 아니라 산업을 재정의할 것이다.

FAQ

Q: 생성형 AI가 비즈니스에 가져온 실질적인 성과는 무엇인가요?

A: 베인앤컴퍼니의 조사에 따르면, 생성형 AI 사용 사례의 80% 이상이 기대치를 충족하거나 초과했으며, AI 성능에 만족한 기업의 약 60%가 비즈니스 결과도 향상되었다고 보고했습니다. 특히 생성형 AI 솔루션을 규모화한 기업 중 약 90%는 목표를 달성하거나 초과 달성했습니다.

Q: 기업들이 생성형 AI 도입 시 직면하는 주요 장애물은 무엇인가요?

A: 기업들이 생성형 AI 도입 시 가장 많이 직면하는 장애물은 데이터 보안 우려, 전문 인력 부족, 그리고 출력 품질 문제입니다. 도입 단계에 따라 우려사항이 달라지는데, 초기 단계 기업은 조직 준비도에, 후기 단계 기업은 보안과 품질에 더 집중합니다.

Q: 기업들의 생성형 AI 투자 규모는 어떻게 변화하고 있나요? A: 기업들의 생성형 AI 연간 예산은 2024년 초 이후 두 배로 증가하여 현재 평균 약 1천만 달러에 이릅니다. 인력 투자도 확대되어 평균 160명의 직원이 생성형 AI 관련 업무에 시간을 할애하고 있으며, 이는 몇 개월 전보다 30% 증가한 수치입니다. 프로그램의 60%는 정규 예산 주기를 통해 자금을 조달할 예정입니다

해당 기사에서 인용한 설문조사 결과는 링크에서 확인할 수 있다.

이미지 출처: Bain & Company

기사는 클로드와 챗GPT를 활용해 작성되었습니다.