생성형 AI 투자 열기 지속…”기업 78%가 최우선 순위로 꼽아”

베인앤컴퍼니(Bain & Company)가 실시한 3분기 연속 AI 준비도 조사 결과, 기업들은 생성형 AI에 대한 투자를 지속적으로 확대하고 있는 것으로 나타났다. 초기의 열광적인 반응 이후 투자 수익률이나 적합한 애플리케이션에 대한 의구심이 제기되었음에도 불구하고, 기업들의 투자 의지는 오히려 강화되고 있다.

조사 결과에 따르면 응답 기업의 15%가 생성형 AI를 최우선 과제로 선정했으며, 35%는 2-3순위 핵심 과제로 꼽았다. 여기에 상위 5대 우선순위로 응답한 28%를 더하면 전체의 78%가 생성형 AI를 주요 우선순위로 인식하고 있는 것으로 나타났다. 상위 6-10위 우선순위라고 응답한 기업은 17%였으며, 생성형 AI를 우선순위로 고려하지 않는다고 응답한 비율은 단 1%에 불과했다. 나머지 4%는 모르거나 응답을 거부했다.

이러한 조사 결과는 생성형 AI가 기업의 핵심 전략으로 자리잡고 있음을 보여준다. 특히 전체 응답자의 절반이 생성형 AI를 3대 우선순위 안에 포함시켰다는 점은 기업들이 이 기술의 전략적 중요성을 명확히 인식하고 있다는 것을 시사한다.

조사에 참여한 임원들은 생성형 AI가 자신들의 산업에 미칠 파괴적 혁신의 위험에 대해 분명한 우려를 나타냈다.

구체적으로, 전체 응답자의 38%는 생성형 AI가 자신들의 산업에 “매우 큰 위험(Very high risk)”을 가져올 것으로 예상했으며, 37%는 “상당한 위험(Significant risk)”이 있을 것으로 전망했다. 이는 전체 응답자의 75%가 생성형 AI의 파괴적 혁신 가능성을 심각하게 인식하고 있음을 보여준다. 반면 “중간 정도의 위험(Moderate risk)”이라고 응답한 비율은 20%였으며, “낮은 위험(Low risk)” 또는 “매우 낮은 위험(Very low risk)”이라고 응답한 비율은 각각 4%와 1%에 불과했다.

특히 임원들은 생성형 AI가 산업의 경쟁 구도를 어떻게 변화시킬 것인지에 대해서도 구체적인 전망을 제시했다. 응답자의 33%는 생성형 AI가 “게임 체인저(Game changer)”가 될 것으로 예상했으며, 44%는 “중요한 차별화 요소(Important differentiator)”가 될 것으로 전망했다. 즉, 77%의 임원들이 생성형 AI를 산업 경쟁력의 핵심 요소로 인식하고 있는 것이다. 반면 21%는 “점진적 발전(Incremental improvement)”을 가져올 것으로 보았으며, 단 2%만이 “영향이 미미(Limited impact)”할 것이라고 응답했다.

이러한 인식은 베인앤컴퍼니의 3차례 연속 조사에서 일관되게 유지되었으며, 현재 53% 이상의 기업이 이미 생성형 AI를 통해 실질적인 비즈니스 가치를 창출하고 있다고 응답했다. 특히 주목할 만한 점은 위험을 인식하고 있는 기업들 대부분이 이를 부정적인 위협이 아닌 혁신의 기회로 받아들이고 있다는 것이다.

베인앤컴퍼니의 조사에 따르면, 기업들이 생성형 AI 도입을 가속화하는 데 있어 다양한 장애요인들이 존재하는 것으로 나타났다.

가장 큰 어려움으로 지목된 것은 ‘AI 도구 활용 방법에 대한 이해 부족’으로, 응답자의 31%가 이를 주요 장애요인으로 꼽았다. 그 다음으로는 ‘데이터 준비 부족'(27%), ‘인재/기술력 부족'(26%), ‘활용 사례 파악 어려움'(25%)이 높은 비중을 차지했다.

특히 주목할 만한 점은 ‘프라이버시/보안 우려'(24%)와 ‘리스크 관리의 어려움'(22%)도 중요한 장애요인으로 지목되었다는 것이다. 이어서 ‘경영진의 지원 부족'(21%), ‘예산 부족'(20%), ‘ROI에 대한 불확실성'(19%)도 AI 도입을 저해하는 요인으로 나타났다.

생성형 AI가 기대에 미치지 못한 이유에 대해서는 더욱 구체적인 응답이 제시되었다. 응답자의 34%는 ‘도구 활용 방법에 대한 이해 부족’을 주된 원인으로 지목했으며, 28%는 ‘데이터가 준비되지 않음’을 꼽았다. 또한 25%는 ‘활용 사례를 찾지 못함’을, 24%는 ‘기술적 한계’를, 23%는 ‘인력 부족’을 원인으로 들었다. ‘비용 대비 효과 부족'(22%)과 ‘보안/규제 문제'(21%)도 중요한 요인으로 지적되었다.

베인앤컴퍼니의 조사 결과, 매 분기마다 데이터 준비 부족을 지적하는 응답자의 비율이 증가하고 있는 것으로 나타났다. 이는 기업들이 파일럿 프로젝트를 진행하면서 데이터 품질과 관리의 중요성을 더욱 실감하고 있음을 보여준다. 특히 대부분의 장애요인들이 기술 자체의 한계보다는 조직의 준비도와 관련된 문제라는 점에서, 체계적인 준비와 전략적 접근의 중요성이 강조된다.

베인앤컴퍼니의 조사 결과, 기업들은 생성형 AI를 매우 다양한 영역에서 활용하고 있거나 활용을 검토 중인 것으로 나타났다. 가장 높은 활용도를 보인 분야는 소프트웨어 개발/엔지니어링으로, 63%의 기업이 이미 활용 중이거나 파일럿 테스트를 진행하고 있다고 응답했다. 그 다음으로는 마케팅/세일즈(61%), 제품 개발/R&D(58%), 전략/기획(57%), 운영/생산성(55%) 순으로 높은 활용률을 보였다.

고객 서비스 분야에서는 54%의 기업이 생성형 AI를 도입했거나 검토 중이며, IT/보안 분야에서는 52%가 활용을 추진하고 있다. 인사/교육 분야는 51%의 기업이, 법무/규제준수 분야는 45%의 기업이 생성형 AI 활용을 적극적으로 검토하고 있는 것으로 나타났다. 재무/회계 분야에서도 44%의 기업이 생성형 AI 도입을 진행하거나 고려하고 있다.

특히 주목할 만한 점은 대부분의 기업들이 단일 분야가 아닌 다수의 영역에서 동시에 생성형 AI 도입을 추진하고 있다는 것이다. 전체 응답 기업의 85%는 최소 3개 이상의 부서에서 생성형 AI 활용 사례를 발굴하고 있으며, 이 중 소프트웨어 개발 분야에서의 성공률이 72%로 가장 높았다. 이어서 마케팅(65%), 운영(60%), R&D(58%) 순으로 높은 성과를 보이고 있어, 생성형 AI가 기업 전반에 걸쳐 실질적인 가치를 창출하고 있음을 보여준다.

베인앤컴퍼니의 조사에 따르면, 생성형 AI를 도입한 기업들의 성과는 분야별로 상이한 것으로 나타났다.

가장 높은 성공률을 기록한 분야는 소프트웨어 공학/개발로, 도입 기업의 47%가 “매우 성공적(Highly successful)”이라고 평가했으며, 38%는 “다소 성공적(Somewhat successful)”이라고 응답했다. 반면 12%는 “제한적 성공(Limited success)”을, 3%는 “성공하지 못함(Not successful)”이라고 평가했다.

마케팅/세일즈 분야에서는 42%가 “매우 성공적”, 41%가 “다소 성공적”이라고 응답했으며, 14%는 “제한적 성공”, 3%는 “성공하지 못함”이라고 답했다. 제품 개발/R&D 영역에서는 39%가 “매우 성공적”, 40%가 “다소 성공적”이라고 평가했고, 17%는 “제한적 성공”, 4%는 “성공하지 못함”이라고 응답했다.

전략/기획 분야에서는 36%가 “매우 성공적”, 43%가 “다소 성공적”이라고 답했으며, 운영/생산성 영역에서는 35%가 “매우 성공적”, 42%가 “다소 성공적”이라고 평가했다. 특히 주목할 만한 점은 모든 분야에서 75% 이상의 기업이 생성형 AI 도입을 “매우 성공적” 또는 “다소 성공적”이라고 평가했다는 것이다.

이러한 높은 성공률은 기업들이 생성형 AI를 전략적으로 도입하고 있으며, 각 분야의 특성에 맞게 적절히 활용하고 있음을 보여준다. 또한 대부분의 실패 사례가 기술적 한계보다는 도입 준비도나 활용 방법의 미숙에서 기인했다는 점에서, 향후 경험이 축적되면서 성공률은 더욱 높아질 것으로 전망된다.

베인앤컴퍼니의 조사에 따르면, 생성형 AI 이니셔티브를 주도하는 부서는 기업의 특성에 따라 뚜렷한 차이를 보였다.

기술 기업들의 경우 엔지니어링/R&D/제품 개발 부서가 42%로 가장 높은 비중을 차지했으며, 데이터 사이언스/AI 전담 부서가 31%로 그 뒤를 이었다. IT 부서가 주도하는 경우는 17%였으며, 전략/혁신 부서는 10%를 차지했다.

반면 비기술 기업들의 경우에는 IT 부서가 65%로 압도적인 비중을 차지했다. 그 뒤를 이어 데이터 사이언스/AI 전담 부서가 15%, 엔지니어링/R&D/제품 개발 부서가 12%, 전략/혁신 부서가 8%를 차지했다. 이러한 차이는 기업의 기술 성숙도와 조직 문화의 차이를 반영하는 것으로 분석된다.

특히 주목할 만한 점은 기술 기업들이 생성형 AI 이니셔티브를 제품 개발과 직접적으로 연계하는 반면, 비기술 기업들은 주로 업무 프로세스 개선이나 효율성 향상을 위한 지원 도구로 접근하는 경향이 강하다는 것이다. 이는 각 기업의 비즈니스 모델과 전략적 우선순위의 차이를 반영하는 것으로 해석된다.

AI 활용 사례에서 더 높은 성공률을 보이는 선도 기업들의 80%는 아이디어 발굴과 우선순위 설정을 중앙집중화하는 경향을 보였다. 생성형 AI 애플리케이션 개발에 있어서는 자체 개발(60%)이 여전히 더 일반적이지만, 점차 기성 솔루션 구매(40%)가 증가하는 추세를 보이고 있다. 특히 선도 기업들은 자사의 한계를 더 잘 인식하고 있어 기성 애플리케이션의 도입 비율이 일반 기업들보다 25% 더 높은 것으로 나타났다.

베인앤컴퍼니의 3분기 연속 조사 결과는 생성형 AI가 단순한 비용 절감을 넘어 제품과 비즈니스 프로세스를 근본적으로 변화시킬 수 있는 잠재력을 가지고 있음을 보여준다. 응답자의 82%는 향후 2년 내에 생성형 AI가 자사의 비즈니스 모델을 크게 변화시킬 것으로 예상했으며, 90%는 지속적인 투자 확대 계획을 밝혔다.

해당 리포트의 원문은 베인앤컴퍼니에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기