AI 프로젝트, 80%는 실패한다.

인공지능(AI)은 현재 가장 주목받는 기술이다. 많은 기업과 조직이 AI를 도입해 혁신을 이루려 하지만, 실제로 성공하는 비율은 높지 않다.

미국 랜드연구소(RAND Corporation)가 최근 발표한 보고서에 따르면, AI 프로젝트의 실패율은 80%에 달한다. 이는 일반적인 IT 프로젝트 실패율의 두 배에 해당하는 수치다.

랜드연구소 연구진은 AI 프로젝트 실패의 근본 원인을 파악하기 위해 산업계와 학계의 AI 전문가 65명을 대상으로 심층 인터뷰를 진행해 AI 프로젝트 성공을 위한 핵심 요인을 분석했다.

AI 프로젝트 실패의 가장 큰 원인은 기업 리더십의 잘못된 이해와 의사소통 부족이다. 많은 경영진이 AI의 실제 능력을 과대평가하거나, 기술팀에 명확한 목표를 제시하지 못하는 경우가 많다.

한 인터뷰 참가자는 “경영진은 주간 매출 보고서가 있으니 좋은 데이터를 가지고 있다고 생각하지만, 현재 가진 데이터가 새로운 목적에 맞지 않을 수 있다는 걸 모른다”고 지적했다. AI 모델 학습에 필요한 데이터와 일반적인 비즈니스 보고용 데이터는 다를 수 있다는 것이다.

또 다른 문제는 경영진의 비현실적인 기대치다. AI 기술의 급속한 발전과 화려한 성과들로 인해 많은 경영진들이 AI가 쉽게 모든 것을 해결할 수 있다고 생각한다. 하지만 실제로 조직의 특정 사용 사례에 맞게 AI 모델을 최적화하는 것은 생각보다 훨씬 어려울 수 있다.

성공적인 AI 도입을 위해서는 경영진이 AI의 실제 능력과 한계를 이해하고, 기술팀에 명확한 비즈니스 목표와 성과 지표를 제시해야 한다. 동시에 기술팀은 경영진과 지속적으로 소통하며 프로젝트의 진행 상황과 중간 성과를 공유해야 한다.

연구진은 “비즈니스 리더와 엔지니어 간의 효과적인 상호 작용이 AI 프로젝트의 성공과 실패를 가르는 차이가 될 수 있다”고 강조했다. 서로의 전문 영역을 이해하고 긴밀히 협력하는 것이 중요하다는 것이다.

AI 프로젝트 실패의 두 번째 주요 원인은 데이터 관련 문제다. 많은 조직이 AI 모델 학습에 필요한 양질의 데이터를 확보하지 못하고 있다. 또한 데이터 엔지니어링에 대한 투자 부족으로 인해 데이터 품질 관리와 AI 모델 배포에 어려움을 겪고 있다.

연구진은 “AI의 80%는 데이터 엔지니어링이라는 지저분한 작업”이라며 “좋은 인재들이 이 지루한 작업을 하도록 설득하는 것이 과제”라고 밝혔다. 데이터 엔지니어링은 AI 개발의 기초 작업이지만, 많은 기업에서 그 중요성을 간과하고 있다는 것이다.

한 인터뷰 참가자는 데이터 엔지니어를 “데이터 과학의 배관공”이라고 표현했다. 이는 데이터 엔지니어링이 필수적이지만 종종 과소평가되는 작업임을 잘 보여준다. 데이터 엔지니어는 AI 모델 학습에 적합한 형태로 데이터를 수집, 정제, 변환하는 인프라를 설계하고 유지하는 중요한 역할을 한다.

그러나 많은 조직에서 데이터 엔지니어링은 단순 작업으로 여겨지며, 실제 AI 모델을 훈련시키는 데이터 과학자들이 “진정한 AI 작업”을 하는 것으로 인식된다. 이로 인해 데이터 엔지니어링 팀의 이직률이 높아지고, 조직의 데이터와 인프라에 대한 지식이 유실되는 문제가 발생한다.

성공적인 AI 도입을 위해서는 데이터 품질 관리와 인프라 구축에 충분한 투자가 필요하다. 데이터 파이프라인 구축, 자동화된 데이터 정제 시스템, AI 모델 배포 및 모니터링 시스템 등에 대한 투자는 장기적으로 AI 프로젝트의 성공 가능성을 높일 수 있다.

많은 AI 프로젝트가 실패하는 또 다른 이유는 기술 자체에만 집중하고 실제 문제 해결에는 소홀히 하기 때문이다. 최신 AI 기술을 도입하는 것 자체가 목적이 되어 조직의 실제 니즈를 간과하는 경우가 많다.

연구진은 “성공적인 프로젝트 팀은 사용될 기술보다는 해결해야 할 비즈니스 문제에 명확히 집중한다”고 강조했다. AI는 그 자체가 목적이 아니라 문제 해결을 위한 도구일 뿐이라는 점을 항상 명심해야 한다는 것이다.

개별 엔지니어와 데이터 과학자들도 최신 기술을 사용해보고 싶어 하는 경향이 있다. 이는 새로운 기술에 대한 경험이 취업 시장에서 높이 평가되기 때문이다. 그러나 이런 접근은 종종 실제 최종 사용자의 문제를 해결하는 데 실패하게 만든다.

AI 도입 시에는 ‘이 기술로 무엇을 할 수 있을까?’가 아니라 ‘우리 조직의 어떤 문제를 해결할 수 있을까?’라는 질문에서 시작해야 한다. 기술팀과 현업 부서가 협력하여 AI가 실제로 도움이 될 수 있는 영역을 찾아내는 것이 중요하다.

AI 프로젝트는 일반적인 IT 프로젝트보다 더 많은 시간과 인내가 필요하다. 하지만 많은 조직에서 AI 프로젝트에 대해 비현실적으로 짧은 기간을 설정하거나, 충분한 성과를 내기도 전에 우선순위를 바꾸는 경우가 많다.

한 인터뷰 참가자는 “모델들이 종종 잠재력의 50%만 발휘한 채로 전달된다”고 말했다. 충분한 시간을 들여 개선할 경우 더 좋은 성과를 낼 수 있음에도 불구하고, 조급함 때문에 중도에 포기하는 경우가 많다는 것이다.

많은 경영진들이 AI 프로젝트가 몇 주 안에 완료될 수 있을 것이라 기대한다. 그러나 실제로는 조직의 데이터를 획득하고, 정제하고, 탐색하는 데만도 상당한 시간과 비용이 소요된다. 또한 일부 조직에서는 경영진이 몇 주 또는 몇 개월마다 빠르게 우선순위를 바꾸는데, 이로 인해 진행 중인 프로젝트가 실제 결과를 보여줄 기회도 갖지 못한 채 폐기되는 경우가 있다.

연구진은 AI 프로젝트를 시작할 때 최소 1년의 시간을 투자할 각오가 되어 있어야 한다고 조언한다. 1년 동안의 집중 투자가 불가능하다면 그 프로젝트는 애초에 시작할 가치가 없을 수 있다는 것이다.

마지막으로, 일부 AI 프로젝트는 기술의 현재 한계를 넘어서는 문제를 해결하려다 실패한다. AI는 분명 강력한 도구지만, 모든 복잡한 문제를 자동화할 수 있는 마법 지팡이는 아니다.

한 인터뷰 참가자는 AI 알고리즘이 조직의 내부 프로세스를 자동화하는 데는 적합하지 않을 수 있다고 지적했다. 특히 주관적인 인간의 판단이 필요한 경우에는 더욱 그렇다.

조직의 리더들은 AI가 모든 프로세스를 완전히 자동화하거나 모든 문제를 해결할 수 있는 마법의 도구가 아니라는 점을 인식해야 한다. 어떤 비즈니스 사례는 AI에 더 적합하고 어떤 것은 그렇지 않은지 이해하는 것이 중요하다. 이를 통해 조직은 비용이 많이 들고 실패 가능성이 높은 프로젝트를 피할 수 있다.

AI는 분명 혁신적인 잠재력을 가진 기술이다. 하지만 그 잠재력을 현실화하기 위해서는 신중하고 체계적인 접근이 필요하다. 리더십의 올바른 이해, 데이터와 인프라에 대한 투자, 문제 해결 중심의 접근, 장기적 관점에서의 인내심 있는 추진, 그리고 AI의 한계에 대한 이해가 AI 프로젝트 성공의 핵심 요인이 될 것이다. 이러한 요소들을 고려하여 AI 프로젝트에 접근한다면, 조직은 AI의 진정한 가치를 실현하고 혁신을 이룰 수 있을 것이다.

랜드연구소의 리포트 원문 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기