2024년 생성형 AI 도입 급증했지만 기업 AI 프로젝트 성공률은 하락세

인공지능(AI) 도입이 가속화되면서 데이터 관리, 모델 신뢰성, 확장성 등의 과제가 대두되고 있다. 애펜(Appen)이 해리스 폴(Harris Poll)과 함께 미국의 정보기술 의사결정자(ITDM) 509명을 대상으로 실시한 ‘2024년 AI 현황 보고서’는 AI 발전의 핵심 동인으로 생성형 AI의 부상, 기업의 도전 과제, 데이터 품질의 중요성, 그리고 AI 구현의 복잡성을 해결하기 위한 전략적 파트너십 수요 증가 등을 꼽았다.

조사 결과에 따르면 생성형 AI 도입률이 2023년 39%에서 2024년 56%로 17%p 증가했다. 이러한 급격한 성장은 자연어처리(NLP) 기술의 발전과 챗봇 애플리케이션의 보편화, 그리고 진입장벽 감소에 기인한다. 특히 기업들은 생성형 AI를 통해 내부 업무 프로세스의 생산성과 효율성을 향상시키는 데 주력하고 있다.

생성형 AI 활용 현황을 구체적으로 살펴보면, 내부 업무 프로세스의 생산성과 효율성 향상이 53%로 가장 높았고, IT 운영 지원(49%), 연구개발 지원(46%), 마케팅 및 커뮤니케이션(43%), 제조 운영(41%) 순으로 나타났다. 특히 연구개발 분야에서의 활용이 전년 대비 9%p 증가하며 가파른 상승세를 보였다. 또한 제품이나 서비스에 생성형 AI 기능을 통합하거나(41%) 비즈니스 비용 절감(41%)을 위한 용도로도 활발히 활용되고 있다.

AI 경험이 축적되면서 기업들은 프로젝트 선별에 더욱 신중을 기하고 있으며, 이는 전반적인 프로젝트 배포율 감소로 이어졌다. AI 프로젝트의 배포율은 2021년 56.7%에서 2024년 47.4%로, 의미 있는 투자수익률(ROI)을 보인 프로젝트 비율은 2021년 51.9%에서 2024년 47.3%로 각각 하락했다. 이러한 감소세는 AI 모델의 복잡성 증가와 해결하고자 하는 문제의 난이도 상승에 기인한 것으로 분석된다.

성능과 신뢰성 향상을 위해 기업의 86%가 최소 분기별로 머신러닝 모델을 재학습하거나 업데이트하고 있으며, 이는 AI 훈련 과정에서 데이터와 모델 간의 긴밀한 피드백 루프가 형성되어 있음을 보여준다. 특히 90%의 기업이 AI 모델 학습이나 주석 작업을 위해 외부 데이터 제공업체의 도움을 받고 있다는 점이 주목할 만하다.

텍스트, 이미지, 비디오, 오디오, 관심 지점 데이터와 같은 맞춤형 데이터셋이 주요 AI 애플리케이션의 근간이 되고 있으며, 이러한 모델의 효과는 정확하고 다양하며 대표성 있는 데이터에 크게 좌우된다. 응답자의 80%는 인간 참여 머신러닝(Human-in-the-loop Machine Learning)의 중요성을 강조했는데, 이는 AI 시스템을 개선하는 데 있어 인간의 통찰력이 핵심적임을 시사한다.

데이터의 다양성이 AI 데이터에서 가장 중요한 특성으로 꼽혔으며, 그 다음으로 편향성 감소와 데이터 확장성이 중요한 요소로 나타났다. 응답자의 97%가 이러한 요소들이 AI 모델 구축에 필수적이라고 동의했다. 특히 질 높은 인간 참여 훈련과 평가 데이터는 모델을 개선하고, 편향성을 줄이며, 신뢰할 수 있는 규모의 성능을 보장하는 데 필요한 섬세하고 다양하며 정확한 데이터를 제공하는 데 중요한 역할을 한다.

AI 활용 사례가 전문화되면서 양질의 데이터 확보는 더욱 어려워지고 있다. 데이터 소싱, 정제, 레이블링 등 데이터 관리 관련 병목 현상이 전년 대비 10%p 증가했으며, 데이터 가용성 부족 문제도 7%p 증가했다. 이러한 증가세는 생성형 AI 애플리케이션의 확대로 인한 새로운 데이터 요구사항과 맞춤형 데이터 수집 증가 추세와 맥을 같이한다.

특히 우려되는 점은 데이터 주석 작업의 평균 정확도가 2021년 63.5%에서 2024년 54.6%로 약 9%p 하락했다는 것이다. 이는 AI 시스템의 복잡성 증가와 도메인별 전문 지식이 요구되는 데이터 주석 작업의 특성이 반영된 결과로 해석된다. 이러한 도전과제들을 극복하기 위해서는 단기적 성과보다 장기적 가치 창출에 초점을 맞추고, 고품질 데이터 기반의 탄탄한 기반을 구축하는 데 주력해야 한다.

기업들은 이러한 과제들을 해결하기 위해 전략적 파트너십의 중요성을 인식하고 있다. 기업의 85%는 AI 데이터 수명주기 전반을 지원할 수 있는 단일 파트너를 찾고 있으며, 93%는 AI 학습 및 최적화 데이터를 더 효율적으로 관리할 방법을 모색하고 있다. 또한 95%는 성공적인 모델 배포를 위해 적절한 데이터 파트너 선택이 필수적이라고 응답했다.

데이터 주석 솔루션 선택 시 가장 중요하게 고려하는 요소로는 높은 일관성과 정확성이 1위를 차지했으며, 그 뒤를 이어 합리적인 가격과 데이터 출처의 신뢰성이 중요한 요소로 꼽혔다. 특히 데이터 출처에 대한 중요성이 증가한 것은 규제 강화와 책임 있는 AI 개발 원칙이 반영된 결과로 볼 수 있다.

AI의 성공적인 구현을 위해서는 저작권 침해, 허위정보, 편향된 출력과 관련된 위험을 완화하고 AI 시스템의 투명성과 책임성을 개선하기 위한 책임감 있는 데이터 소싱이 더욱 중요해질 것으로 전망된다. 또한 AI 모델의 복잡성이 증가하고 해결해야 할 문제의 난이도가 높아짐에 따라, 전문가가 레이블링한 훈련 데이터와 엄격한 평가 프로세스를 통해 모델의 성능을 실제 요구사항에 맞게 조정하는 것이 더욱 중요해질 것으로 예상된다.

기업들은 맞춤형 인간 생성 데이터를 활용하여 모델의 오류를 줄이고 성능을 개선함으로써, 배포율을 높이고 의미 있는 투자수익을 실현할 수 있을 것이다. 이를 위해서는 단기적 성과에 집중하기보다는 장기적인 가치 창출을 위한 탄탄한 데이터 기반을 구축하는 데 주력해야 할 것이다.

기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기