2024년 생성형 AI 시장 전환점 맞아… 기업 투자 50% 증가 전망

ISG가 발표한 보고서에 따르면, 생성형 AI가 기술 시장에 등장한 지 약 2년이 지난 현재, 두 가지 사실이 명확해졌다. 첫째, 생성형 AI는 모든 산업에 상당한 영향을 미치고 변화를 가져올 것이며, 이는 시간문제일 뿐이다. 둘째, 우리는 여전히 도입 초기 단계에 있으며, 이 전환기에 생성형 AI의 잠재력을 활용하는 데는 여전히 상당한 과제가 존재한다.

현재 기업들의 생성형 AI 도입 단계를 살펴보면, 43%가 ‘부서별 시범 운영/시험 단계’에 있으며, 27%는 ‘전체 생산 단계로 이행 중’이다. ‘전체 생산 단계’에 진입한 기업은 15%이며, ‘도구/공급업체 평가 단계’가 8%, ‘테스트 단계’가 7%로 나타났다.

2024년 기업 IT 예산 중 생성형 AI 투자 비중은 4.3%를 차지했으며, 2025년 말까지 6.5%로 증가할 것으로 전망된다. 특히 2025년에는 생성형 AI 관련 투자가 2024년 대비 50% 증가할 것으로 예측됐다. 기업들은 2024년 가장 큰 규모의 활용 사례에 평균 260만 달러를 투자한 것으로 조사됐다.

생성형 AI의 현재 주요 활용 사례를 살펴보면, 고객 서비스 챗봇이 53%로 가장 높은 비중을 차지하고 있다. 다음으로 HR 지원과 고객 서비스 지원이 각각 41%를 기록했으며, 시청각 콘텐츠 생성이 35%, IT 자동화 테스트가 33%로 뒤를 이었다. 고객 커뮤니케이션은 31%를 차지했으며, 마케팅 텍스트와 그래픽 생성, IT 보안이 각각 30%를 기록했다. 문서 작성과 비즈니스 프로세스 워크플로우 관리는 29%로 나타났다.

생성형 AI가 소프트웨어 개발 과정에서 가져온 생산성 향상은 단계별로 뚜렷한 차이를 보였다. 가장 큰 개선효과를 보인 것은 유지보수 단계로 31%의 생산성 향상을 기록했다. 배포 단계에서는 27%, 테스팅 단계에서는 25%의 향상을 보였다. 코딩 단계에서는 18%의 생산성이 증가했으며, 설계 단계와 계획 및 요구사항 단계에서는 각각 11%와 7%의 향상을 달성했다. 전체적으로 생성형 AI 도입은 30-42%의 괄목할만한 생산성 개선 효과를 가져온 것으로 평가됐다.

생성형 AI의 효과적인 구현을 위해서는 강력한 데이터 플랫폼이 필수적이다. 현재 데이터 플랫폼과 데이터베이스의 절반 이상이 클라우드에 있으며, 생성형 AI 워크로드가 확장됨에 따라 클라우드 배포는 계속 증가할 것으로 예상된다.

최근 데이터 플랫폼 분야에서는 세 가지 주목할 만한 발전이 이루어지고 있다. 벡터 검색 기능이 도입되어 AI 모델의 데이터 처리 능력이 향상되었으며, 검색 증강 생성(RAG) 기술의 통합으로 AI 시스템의 정확도가 개선되었다. 또한 데이터베이스 내에서 직접 AI 처리가 가능해져 데이터 처리의 효율성이 크게 높아졌다. 이러한 기술적 진보는 데이터 플랫폼의 AI 지원 능력을 한층 강화하고 있다.

생성형 AI 도입을 가로막는 주요 장애요인으로는 AI 전문 인력과 기술 부족이 가장 큰 문제로 지적됐다. 전체 응답 기업의 56%가 이 문제를 꼽았다. 데이터 프라이버시와 보안, 그리고 레거시 인프라와 애플리케이션 문제가 각각 39%로 그 뒤를 이었다. 변화관리의 어려움은 35%의 기업이 지적했으며, LLM 관련 비용 문제는 33%의 기업이 주요 장애요인으로 언급했다.

기업들이 직면한 주요 위험 요소들도 다양하게 나타났다. 가장 우려되는 것은 AI 모델이 그럴듯해 보이지만 사실과 다른 콘텐츠를 생성하는 환각 현상과 정확성 문제다. 또한 편향된 데이터셋으로 인해 기존의 편향이 지속되거나 심화되는 문제도 중요한 위험으로 지적됐다. LLM이 생성하는 유해 콘텐츠와 악의적 프롬프트를 통한 AI 조작 가능성도 주요 우려사항으로 나타났다.

이외에도 악의적 행위자에 의한 AI 시스템 탈취 위험, AI 생성 콘텐츠의 저작권 침해 가능성, 민감 정보 유출 또는 개인정보보호 규정 위반 문제가 지적됐다. 특히 새롭게 등장하는 AI 규제를 준수하는 것이 큰 과제로 떠올랐다.

기업들이 생성형 AI 프로젝트의 가치를 향상시키고 가치 실현 시간을 단축하기 위해서는 여러 요소들의 개선이 필요한 것으로 나타났다. 거버넌스와 조정 개선이 필요하다는 응답이 21%로 가장 높았으며, 더 빠른 학습과 실패를 통한 경험 축적이 19%로 그 뒤를 이었다. 외부 지원을 적극적으로 활용해야 한다는 의견도 17%를 차지했다. 더 많은 연구와 평가가 필요하다는 응답은 15%였으며, 다른 활용 사례를 선택했어야 한다는 의견도 13%를 기록했다.

기사에 인용된 리포트의 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기