AI, Today Insights From 400 Senior AI Professionals on Generative AI, ROI, Use Cases, and More
생성형 AI(Generative AI)가 기업의 핵심 전략으로 빠르게 자리잡고 있다. 다다이쿠(Dataiku)와 데이터브릭스(Databricks)가 2024년 5월 실시한 설문조사에 따르면, 기업들의 생성형 AI 투자와 활용이 크게 증가한 것으로 나타났다. 이번 조사는 연간 매출 30억 달러 이상의 글로벌 기업에서 근무하는 400명의 AI 전문가들을 대상으로 이루어졌다.
생성형 AI, 이제는 선택이 아닌 필수
조사 결과, 응답자의 90%가 생성형 AI에 투자하고 있다고 답했다. 이 중 57%는 IT 및 데이터 과학 예산의 일부로, 33%는 생성형 AI를 위한 별도의 예산을 책정하고 있다고 밝혔다. 특히 주목할 만한 점은 응답자의 48%가 향후 12개월 내에 생성형 AI에 100만 달러 이상을 투자할 계획이라고 답한 것이다. 이는 기업들이 생성형 AI를 더 이상 실험적인 기술이 아닌, 비즈니스 운영의 핵심 요소로 인식하고 있음을 보여준다.
생성형 AI 투자, 긍정적인 ROI로 이어져
기업들의 과감한 투자는 실제 성과로 이어지고 있다. 대규모 언어 모델(Large Language Models, LLMs) 또는 생성형 AI 모델을 실제 운영에 적용하고 있는 응답자 중 65%가 생성형 AI 투자로부터 긍정적인 투자수익률(ROI)을 경험하고 있다고 답했다. 이는 생성형 AI가 단순한 기술적 혁신을 넘어 실질적인 비즈니스 가치를 창출하고 있음을 입증한다.
다양한 생성형 AI 모델 활용 증가
기업들은 다양한 생성형 AI 모델을 적극적으로 도입하고 있다. 호스팅 LLM 서비스(예: OpenAI)가 가장 인기 있는 것으로 나타났는데, 응답자의 85%가 이를 실제 운영에 사용하거나 탐색 중이라고 답했다. 자체 호스팅 오픈소스 LLM(예: Meta Llama, Mistral, DBRX, Falcon)도 유연성과 보안성 때문에 인기를 얻고 있다. LLM 외에도 65%의 응답자가 다중 모달, 비디오, 이미지, 오디오 등 다른 생성형 AI 모델을 탐색하거나 실제 운영에 적용하고 있다고 밝혔다.
AI, 다양한 비즈니스 기능으로 확산
AI의 활용 범위가 전통적인 영역을 넘어 다양한 비즈니스 기능으로 확대되고 있다. 특히 인사(HR)나 법무 부서와 같이 이전에는 예측 분석이나 기계학습 활용 사례가 뚜렷하지 않았던 부서에서도 생성형 AI의 활용이 증가하고 있다. 예를 들어, 인사 부서에서는 인재 확보와 직원 관리에, 법무팀에서는 규정 준수 업무 자동화와 문서 검토 간소화에 생성형 AI를 활용할 수 있다.
AI에 대한 인식 변화
AI에 대한 전반적인 인식도 변화하고 있다. AI의 미래에 대해 걱정보다 기대가 더 크다고 답한 응답자의 비율은 지난해 8%에서 올해 6%로 소폭 감소했다. 반면 기대보다 걱정이 더 크다고 답한 비율은 10%에서 4%로 크게 줄었다. 이는 AI에 대한 극단적인 견해가 줄어들고 보다 균형 잡힌 시각이 형성되고 있음을 시사한다.
조직 리더들의 AI 이해도에 대한 신뢰도 상승했다. AI(생성형 AI 포함)의 위험과 이점을 이해하고 있다고 믿는 응답자의 비율이 지난해 48%에서 올해 56%로 증가했다. 이러한 신뢰도 상승은 생성형 AI의 전략적 도입을 가속화하고 조직의 성과를 개선하는 데 기여할 것으로 보인다.
생성형 AI에 대한 기대감도 높아지고 있다. 응답자의 28%는 생성형 AI가 우리의 업무 방식을 변화시킬 혁명이라고 보았으며, 43%는 생성형 AI가 많은 가치 있는 응용 분야를 가지고 있어 기업들이 지금 바로 개발을 시작해야 한다고 믿고 있다.
지속되는 AI 도입의 장벽들
하지만 생성형 AI의 잠재력을 완전히 실현하는 데에는 여전히 장애물이 존재한다. 주요 장벽으로는 양질의 데이터 부족 또는 적절한 데이터에 대한 접근성 부족(58%), 데이터·분석·AI 프로젝트의 신속한 운영화 및 반복 능력 부족(53%), 조직 전반의 데이터·분석·AI 프로젝트에 대한 가시성과 통제력 부족(44%) 등이 꼽혔다.
생성형 AI 특유의 새로운 장벽도 등장했다. 44%의 응답자가 고급 생성형 AI 모델을 실행하는 데 필요한 내부 또는 외부 리소스가 부족하다고 답했으며, 28%는 직원들이 생성형 AI를 어떻게 활용해야 할지 모른다고 밝혔다. 또한 22%는 IT 및 내부 정책이 생성형 AI 사용을 방해한다고 응답했다.
AI 선도 기업과 후발 기업 간 격차 확대
AI 도입 수준에 따른 기업 간 격차도 주목할 만하다. ‘AI 선도 기업’으로 분류된 응답자들은 생성형 AI 투자와 활용에서 더 높은 성과를 보이고 있다. AI 선도 기업의 69%가 생성형 AI 활용 사례에서 긍정적인 ROI를 경험하고 있다고 답한 반면, 비선도 기업에서는 이 비율이 52%에 그쳤다. 또한 AI 선도 기업의 54%가 향후 12개월 내에 생성형 AI에 100만 달러 이상을 투자할 계획이라고 밝혔는데, 이는 비선도 기업의 35%보다 훨씬 높은 수치다.
AI 선도 기업들은 모든 사업 부문에서 데이터 과학, 분석, AI 이니셔티브를 지속적으로 확장하고 있으며, 다양한 생성형 AI 모델과 LLM을 더 광범위하게 사용하고 있는 것으로 나타났다.
결론: 전략적 AI 투자의 중요성
이번 조사 결과는 AI, 특히 생성형 AI가 기업의 핵심 전략으로 자리잡고 있음을 명확히 보여준다. AI 선도 기업들의 사례에서 볼 수 있듯이, 전략적인 AI 투자와 집중은 높은 수익률과 지속적인 경쟁 우위로 이어지고 있다.
생성형 AI의 잠재력을 최대한 활용하고자 하는 기업들은 명확한 방향성을 가지고 접근해야 한다. AI를 핵심 전략에 통합하고, 기술 자원 접근성과 교육 같은 도전 과제들을 해결하며, 데이터이쿠의 LLM 메시(Mesh)와 같은 솔루션을 통해 IT 관리를 간소화하는 것이 중요하다. 이러한 노력을 통해 기업들은 생성형 AI의 잠재력을 실질적인 성과로 전환할 수 있을 것이다.
다다이쿠 보고서는 링크에서 확인할 수 있다.
본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
