State of the Generative AI Market
생성형 AI 도입 현황과 투자 전망
생성형 AI(GenAI)가 기업의 디지털 혁신을 가속화하고 있다. ISG의 2024년 생성형 AI 사용 사례 연구에 따르면, 기업들은 2024년 IT 예산의 4.3%를 생성형 AI에 투자하고 있으며, 2025년 말까지 이를 6.5%로 늘릴 계획이다. 더욱이 2025년에는 생성형 AI 관련 지출이 2024년 대비 50% 증가할 것으로 전망된다.
현재 가장 널리 도입되고 있는 사용 사례는 고객 서비스 챗봇(53%)이다. 그 뒤를 이어 HR 지원(41%), 고객 서비스 지원(41%), 오디오/비주얼 콘텐츠 생성(35%), 자동화된 IT 테스팅(33%) 등이 높은 도입률을 보이고 있다. 기업들은 효율성 향상(32%)과 비즈니스 성장(21%)을 생성형 AI 도입의 주요 동기로 꼽았다.
도입 과정의 주요 과제들
그러나 생성형 AI 도입 과정에는 여러 어려움이 존재한다. 기업들이 꼽은 가장 큰 장애물은 AI 전문 인력과 기술의 부족(56%)이었다. 데이터 프라이버시와 보안 문제(39%), 레거시 인프라 및 애플리케이션 문제(39%), 변화 관리(35%), 대규모 언어 모델(LLM)의 비용(33%) 등도 주요 과제로 지목되었다.
또한 파일럿 프로젝트에서 전면 도입으로 확장하는 과정도 쉽지 않은 것으로 나타났다. 현재 43%의 기업이 하나 이상의 부서에서 파일럿/시범 프로젝트를 진행 중이지만, 전면 도입 단계로 이행 중인 기업은 27%에 그쳤다. 전면 생산 단계에 있는 기업은 15%에 불과했다.
AI 거버넌스의 중요성과 과제
생성형 AI의 광범위한 도입으로 인해 AI 거버넌스의 중요성이 더욱 부각되고 있다. 그러나 아직 25% 미만의 기업만이 AI 거버넌스를 5대 우선순위 중 하나로 꼽고 있어, 기업들의 인식 제고가 필요한 상황이다.
AI 거버넌스의 주요 과제 중 하나는 보편적으로 받아들여지는 정의의 부재다. 효과적인 AI 거버넌스란 무엇이며, 어떤 목표를 달성해야 하는지에 대한 합의된 기준이 없는 실정이다. 또한 AI 기술, 윤리, 컴플라이언스, 리스크 관리를 아우르는 전문 인력의 부족도 문제다.
전문가들은 기업들이 윤리적 AI 프레임워크를 수립하고, 데이터 사용에 대한 책임성을 강화하며, AI 사용의 투명성과 설명 가능성을 높여야 한다고 조언한다. 또한 AI가 인간의 행동에 미치는 영향을 이해하고 다양한 이해관계자들의 의견을 수렴하는 것도 중요하다고 강조했다.
생성형 AI 관련 주요 리스크
생성형 AI 도입에는 여러 리스크가 따른다. 주요 리스크로는 환각/부정확성(AI가 그럴듯해 보이지만 사실과 다른 내용을 생성), 편향성, 유해 콘텐츠 생성, 프롬프트 인젝션(악의적인 프롬프트로 AI 행동 조작), 하이재킹, 지적재산권 침해, 개인정보 침해, 규제 준수 문제 등이 있다.
이러한 리스크를 관리하기 위해 기업들은 포괄적인 AI 거버넌스 프로그램을 구축하고, 리스크 평가 및 예방 조치를 철저히 시행해야 한다. 또한 AI 컴플라이언스를 핵심 비즈니스 원칙으로 삼아 소비자와 규제 기관의 신뢰를 구축하는 것이 중요하다.
데이터 플랫폼의 중요성
생성형 AI의 효과적인 활용을 위해서는 고품질의 대규모 데이터가 필수적이다. 이에 따라 데이터 플랫폼의 역할이 더욱 중요해지고 있다. 최근 데이터 플랫폼들은 벡터 검색, 검색 증강 생성(RAG) 기술, 데이터베이스 내 AI 처리 등의 기능을 도입하며 진화하고 있다.
또한 데이터 패브릭과 데이터 메시 같은 접근 방식을 통해 기업 전반의 데이터 생산과 소비에 대한 종합적인 관점을 제공하고 있다. 이는 데이터의 원활한 통합과 거버넌스를 가능케 하여 AI 애플리케이션의 고도화를 지원한다.
향후 전망과 차별화 전략
ISG는 2025년에 고객 커뮤니케이션, 마케팅 리서치/고객 인사이트, 고객 서비스 지원 등의 분야에서 생성형 AI 활용이 더욱 확대될 것으로 예상했다. 특히 전문가 지원 영역에서의 AI 활용이 증가할 것으로 전망된다.
그러나 생성형 AI의 보편화로 인해 기업들은 차별화 전략을 재고해야 할 시점이다. 전문가들은 “알고리즘이나 모델보다는 기업의 고유한 데이터와 비즈니스 프로세스가 차별화의 핵심이 될 것”이라고 전망했다.
따라서 기업들은 데이터 수집과 관리, AI 결과의 해석, 혁신적인 비즈니스 프로세스 개발 등에 주력해야 한다. 또한 AI 기술을 효과적으로 적용할 수 있는 내부 역량을 키우거나 외부 전문가와의 협력을 강화해야 할 것이다.
결론적으로, 생성형 AI는 기업의 혁신과 성장을 위한 강력한 도구가 될 수 있다. 그러나 이를 효과적으로 활용하기 위해서는 기술적 과제뿐만 아니라 거버넌스, 윤리, 리스크 관리 등 다양한 측면에서의 준비와 노력이 필요할 것이다.
기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
