97%가 중요하다고 답했지만, 실행하는 곳은 44%뿐… AI가 조직 지식 관리의 해결책 될까?

AI로 기업 지식을 강화하는 방법

하버드 비즈니스 리뷰 애널리틱 서비스(Harvard Business Review Analytic Services)가 2024년 5월 발표한 보고서에 따르면, 기업의 조직 지식 관리가 중요한 문제라는 점에는 거의 모든 응답자가 동의했지만, 실제로 이를 효과적으로 실행하는 기업은 절반에도 미치지 못하는 것으로 나타났다.

조사 결과 97%의 응답자가 조직의 지식을 효과적으로 관리하는 것이 중요하다고 답했지만, 이를 제대로 실행하고 있다고 답한 응답자는 44%에 불과했다. 더욱이 AI가 이러한 문제를 해결하는 데 필수적인 도구라고 응답한 비율이 86%에 달했음에도 불구하고, 현재 AI를 활용하고 있는 기업은 단 3%에 불과했다.

조직 내 지식 73%가 파편화… AI가 해결책 될까?

기업이 보유한 방대한 데이터와 정보는 비효율적으로 관리되는 경우가 많아 생산성과 협업을 저해하고 있다. 보고서에 따르면, 응답자의 73%가 조직 내 지식이 파편화되어 사일로화된 것이 가장 큰 문제라고 답했으며, 53%는 필요한 정보를 신속하게 찾기 어렵다고 지적했다. 또한 49%는 기존 조직 지식이 제대로 활용되지 않아 충분한 가치를 창출하지 못하고 있다고 응답했다.

이러한 문제는 기업의 의사결정을 지연시키고 업무의 연속성을 방해하는 요인으로 작용한다. 한 스타트업은 다양한 아이디어를 효과적으로 수집하고 실행하지 못해 경쟁에서 뒤처졌고, 한 글로벌 컨설팅 회사는 과거 프로젝트에서 얻은 교훈을 제대로 기록하지 않아 동일한 실수를 반복했다. 결국 이로 인해 고객 만족도가 저하되는 결과를 낳았다.

AI 기반 위키, 조직의 핵심 정보 허브로 자리 잡다

AI는 기업 내 파편화된 정보를 정리하고, 지식 검색을 보다 쉽게 만드는 역할을 할 수 있다. 대표적인 사례가 Pinecone Systems Inc.의 AI 기반 위키 도입이다. Pinecone은 Notion AI를 활용해 조직 내 정보를 체계적으로 정리하는 시스템을 구축했다. 이 시스템을 통해 직원들은 필요할 때 즉시 신뢰할 수 있는 정보를 검색할 수 있었으며, 결과적으로 팀 간 협업이 원활해지고, 지식 공유 속도가 비약적으로 향상되었다.

또한 AI는 기존 데이터를 분석해 자동으로 중요한 인사이트를 도출하는 역할도 수행한다. 한 글로벌 금융기관은 AI를 활용해 내부 데이터와 외부 시장 데이터를 결합하여 분석한 결과, 기존의 부정거래 탐지 시스템보다 50% 더 높은 정확도로 금융 사기를 예측할 수 있었다. 이러한 사례는 AI가 단순한 문서 검색 도구를 넘어, 의사결정을 지원하는 강력한 도구로 자리 잡을 수 있음을 보여준다.

기업이 AI 도입을 망설이는 이유… 45%가 인재 부족 지적

AI 도입을 망설이는 기업들은 여러 가지 장애물을 고려하고 있다. 가장 큰 이유 중 하나는 기술적 인재 부족으로, 45%의 응답자가 AI를 효과적으로 활용할 수 있는 기술적 인재가 부족하다고 답했다. 또한 43%는 기존 IT 및 데이터 인프라가 AI 통합을 지원할 준비가 되어 있지 않다고 응답했다. AI 모델이 제공하는 정보의 신뢰성과 정확성에 대한 우려도 중요한 문제로 떠올랐다. 응답자의 41%는 AI가 생성한 데이터의 품질과 편향성을 문제 삼아 신뢰 부족을 이유로 AI 도입을 주저하고 있다고 답했다.

특히 금융권에서는 AI의 보안성과 데이터 프라이버시가 중요한 이슈로 떠오르고 있다. IBM의 보고서에 따르면, 2023년 금융권 데이터 유출 사고의 평균 비용이 445만 달러에 달하며, FBI는 비즈니스 이메일 침해로 인한 누적 손실이 500억 달러를 초과했다고 보고했다. 이러한 위험 요소로 인해 AI 도입이 더디게 진행되는 측면도 있다.

AI 도입 기업, 20~40%의 업무 속도 향상 경험

AI를 도입한 기업들은 업무 속도와 생산성 면에서 눈에 띄는 변화를 경험하고 있다. 보고서에 따르면, AI 기반 지식 관리 시스템을 도입한 기업들은 평균적으로 업무 처리 속도가 20~40% 증가했으며, 직원들이 새로운 정보를 습득하는 데 걸리는 시간이 대폭 단축되었다.

기업들은 AI가 조직의 지식을 정리하고, 문서화하며, 직원들이 필요할 때 즉시 정보를 찾을 수 있도록 지원하는 방식으로 활용될 것으로 보고 있다. 또한 AI를 통해 사내에서 생성되는 데이터를 보다 체계적으로 관리할 수 있어, 업무의 연속성을 보장하고, 신입 직원의 온보딩 프로세스를 단축하는 데에도 기여할 수 있다.

월마트는 생성형 AI를 활용해 제품 카탈로그 데이터 8억 5천만 건을 정리했으며, 이는 기존 인력으로는 100배 이상의 시간이 필요한 작업이었다. 전자게임 기업 EA는 100개 이상의 AI 프로젝트를 운영하며, AI를 통해 효율성과 확장성을 극대화하고 있다.

AI, 단순 검색을 넘어 미래 의사결정까지 지원한다

미래에는 AI가 단순히 정보를 제공하는 것에서 나아가, 기업의 전략적 의사결정을 지원하는 역할까지 수행할 것으로 보인다. AI는 기존 데이터를 분석해 최적의 해결책을 제시하고, 특정 프로젝트의 성공 및 실패 사례를 학습해 기업이 최적의 전략을 선택할 수 있도록 돕는다.

예를 들어, AI가 기업의 과거 영업 데이터를 기반으로 가장 높은 성과를 냈던 전략을 분석하고, 이를 실시간으로 영업팀에 추천하는 시스템이 구축될 수 있다. 한 데이터 혁신 기업은 AI 기반 솔루션을 활용해 고객과의 상호작용을 자동으로 요약하고, 이를 바탕으로 맞춤형 대응 전략을 생성함으로써 고객 대응 효율성을 획기적으로 개선했다.

해당 기사에 인용된 리포트 원문은 링크에서 확인 가능하다.

기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.