회사 몰래 AI 쓰는 직원들, 5명 중 1명이 잘못 쓰고 있다

글로벌 소프트웨어 기업 ABBYY가 전 세계 1,200명의 기업 리더를 대상으로 실시한 조사에 따르면, 생성형 AI 도입이 급속히 확산되는 가운데 예상치 못한 도전 과제들이 속속 드러나고 있다. 특히 직원들이 개인적으로 도입한 AI 도구들이 기업 전체로 확산되는 ‘BYOS(Bring Your Own Software)’ 현상과 이로 인한 섀도우 IT 위험이 새로운 화두로 떠올랐다.

98%의 기업이 AI 도입했지만 31%는 모델 훈련에 어려움 겪어

조사 결과 거의 모든 기업(98%)이 어떤 형태로든 AI를 사용하고 있는 것으로 나타났다. 생성형 AI 도입률은 83%로 가장 높았고, 특정 목적 AI(59%), 에이전트 AI(53%)가 뒤를 이었다. 산업별로는 IT 섹터가 생성형 AI 85%, 특정 목적 AI 61%로 AI 도입을 선도하고 있으며, 제조업이 각각 82%, 54%로 그 뒤를 따르고 있다.

하지만 도입률이 높다고 해서 모든 것이 순조로운 것은 아니다. 응답자의 31%는 생성형 AI 모델 훈련이 예상보다 어려웠다고 답했으며, 28%는 기존 비즈니스 프로세스에 통합하는 데 어려움을 겪었다고 응답했다. 또한 26%는 적절한 거버넌스 체계가 부족했다고 밝혔다.

41%의 기업이 직원들의 개인적 사용으로 인해 AI 도입 결정

특히 주목할 만한 점은 글로벌 IT 리더들의 41%가 직원들이 이미 BYOS 방식으로 생성형 AI를 사용하고 있었기 때문에 회사 차원에서 AI를 도입하게 되었다고 답한 것이다. 이는 전통적인 하향식(top-down) 기술 도입 방식과는 정반대의 현상으로, 직원들이 먼저 개인 생산성 향상을 위해 AI 도구를 사용하기 시작한 후 이것이 기업 정책으로 확산된 사례들이 많다는 것을 의미한다.

실제로 조사 대상 기업의 20%는 생성형 AI가 직원들의 개인 생산성 향상 목적으로만 사용되고 있다고 답했는데, 이는 관리 감독 없이 사용되는 ‘섀도우 AI’의 위험성을 보여준다.

기업들의 AI 도입 동기를 살펴보면, 효율성 향상과 고객서비스 개선이 59%로 가장 높았고, 이미 확인된 결과를 더 확대 구현하려는 목적이 51%로 뒤를 이었다. 부서별로는 IT 및 사이버보안 부서가 70%로 가장 높은 AI 활용률을 보였고, 고객서비스(56%), 운영(54%) 부서가 그 뒤를 따랐다.

21%의 기업에서 직원들의 AI 도구 오남용 발생

더욱 우려스러운 것은 응답 기업의 21% 이상이 직원들이 생성형 AI 도구를 잘못 사용하고 있다고 보고한 점이다. 직원들의 AI 오남용 문제는 주로 올바른 사용법에 대한 이해 부족과 과도한 의존에서 비롯되는 것으로 나타났다. 실제로 직원들이 AI에 대해 부정적으로 반응하는 이유 중 38%가 ‘잘못 사용해서 문제가 될까 봐 걱정된다’고 답했으며, 24%는 ‘AI에 너무 많이 의존하고 있다’고 응답했다. 또한 10%는 AI가 부정확한 결과를 생성하는 환각(hallucination) 현상을 경험했다고 밝혔다.

이는 명확한 가이드라인과 감독 체계의 필요성을 강조하는 대목이다. 싱가포르에서는 생성형 AI 모델 훈련이 특히 어려웠다고 답한 기업이 40%에 달했으며, 37%의 기업이 직원들에게 생성형 AI 배포에 필요한 기술이 부족했다고 응답했다.

이러한 문제들을 해결하기 위해 기업들은 다양한 개선 노력을 기울이고 있다. 응답자의 50%가 직원 교육을 강화했다고 답했으며, 43%는 팀 간 AI 활용 노하우 공유를 장려하고 있다고 밝혔다. 또한 35%의 기업이 프로세스 인텔리전스와 문서 AI를 도입했고, 25%는 RAG(Retrieval Augmented Generation) 기술을 활용해 생성형 AI의 성능을 개선하고 있다. 이러한 노력의 결과로 98%의 기업이 생성형 AI 결과에 만족하고 있으며, 89%의 비즈니스 리더가 직원들이 AI에 대해 긍정적으로 반응하고 있다고 답했다.

AI 투자 열기 식어가나? 대부분 기업이 16-20% 수준 증가 계획

흥미롭게도 AI에 대한 투자 열기는 다소 식어가는 모습을 보이고 있다. 대부분의 응답자가 내년에 AI 예산을 16-20% 수준으로만 증가시킬 계획이라고 답했으며, 50% 이상 대폭 증가시키겠다고 답한 기업은 9%에 불과했다. 이는 초기 도입 단계의 열광적인 투자에서 보다 신중하고 전략적인 접근으로 변화하고 있음을 시사한다.

과거 12개월 동안 각국 기업들의 AI 도구 투자 규모를 살펴보면, 싱가포르 기업들이 평균 146만 달러로 가장 많이 투자했고, 영국과 독일, 프랑스 기업들이 약 110만 달러 수준, 호주가 약 90만 달러, 미국이 79만 달러 순이었다.

직원들의 AI 활용 우선순위를 보면 업무 효율성 향상(41%), 프로세스 자동화(40%), 고객 경험 개선(35%) 순으로 나타났다. 또한 기업들이 AI에 바라는 개선 사항으로는 문서 정보 처리 시간 단축(31%), 정확한 결과를 위한 추가 질문 기능(29%)이 최우선 과제로 꼽혔다.

기업 AI 도입의 새로운 패러다임, ‘상향식 혁신’의 시대

이번 ABBYY 조사는 기업 AI 도입 패턴의 근본적 변화를 보여준다. 전통적인 기업 기술 도입이 IT 부서 주도의 하향식 방식이었다면, 생성형 AI는 직원 개인의 생산성 도구로 시작해 조직 전체로 확산되는 상향식 혁신의 전형을 보여주고 있다. 이러한 변화는 생성형 AI의 접근성과 즉시성이라는 고유 특성에서 기인한다. 복잡한 설치나 교육 없이 웹 브라우저만으로 즉시 사용할 수 있는 챗GPT, 클로드 같은 도구들이 직장인들의 일상에 자연스럽게 스며들면서, 기업의 공식적인 승인 절차를 앞서가는 현상이 나타나고 있다.

하지만 이 같은 ‘민주화된 AI 도입’은 양날의 검이다. 한편으로는 혁신의 속도를 가속화하고 직원들의 자발적 참여를 이끌어낸다는 장점이 있지만, 다른 한편으로는 데이터 거버넌스, 보안, 컴플라이언스 측면에서 새로운 위험을 창출한다.

향후 기업들은 직원들의 자발적 AI 활용 열기를 유지하면서도 적절한 통제와 가이드라인을 제공하는 균형점을 찾아야 할 것이다. 이를 위해서는 기존의 경직된 IT 거버넌스 체계를 AI 시대에 맞게 유연하게 재설계하고, 직원 교육과 조직 문화 변화에도 적극 투자해야 한다는 것이 전문가들의 공통된 견해다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q: BYOS(Bring Your Own Software)란 무엇이며 왜 문제가 되나요?

A: BYOS는 직원들이 개인적으로 소프트웨어를 도입해 업무에 사용하는 것을 의미합니다. 특히 생성형 AI의 경우 IT 부서의 승인 없이 개인 생산성 향상을 위해 사용하다가 회사 전체로 확산되는 경우가 많은데, 이때 데이터 보안과 컴플라이언스 위험이 발생할 수 있습니다.

Q: 섀도우 AI가 기업에 미치는 주요 위험은 무엇인가요?

A: 섀도우 AI는 관리감독 없이 사용되는 AI를 의미하며, 주요 위험으로는 데이터 유출, 부정확한 정보 생성, 컴플라이언스 위반, 일관성 없는 결과물 등이 있습니다. 특히 민감한 기업 정보가 외부 AI 서비스로 전송될 위험이 가장 큽니다.

Q: 기업들이 생성형 AI 도입 시 가장 어려워하는 부분은 무엇인가요?

A: 조사에 따르면 가장 큰 어려움은 AI 모델 훈련(31%), 기존 비즈니스 프로세스 통합(28%), 적절한 거버넌스 체계 부족(26%) 순입니다. 이를 해결하기 위해 많은 기업이 직원 교육과 프로세스 인텔리전스, 문서 AI 등 보완 기술을 도입하고

해당 기사에 인용된 리포트 원문은 abbyy에서 확인 가능하다.

리포트 명: Generative AI Disillusionment: Challenges with BYOS, Shadow IT Risks, and the AI Wishlist

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.