전 직원이 AI를 쓰는데 성과는 제자리, 글로벌 기업 60%가 놓친 결정적 한 걸음

AI를 많이 쓸수록 회사 성과가 좋아질 것 같지만, 현실은 정반대다. 보스턴컨설팅그룹(BCG)이 2025년 12월 발표한 보고서 “AI 도입의 역설(The AI Adoption Puzzle)”에 따르면 전 세계 기업의 60%가 막대한 돈을 AI에 투자하고도 이렇다 할 성과를 내지 못하고 있다. AI 도입 성과 격차란 직원들의 AI 사용량은 늘었는데 회사가 만들어내는 실제 가치는 그만큼 늘지 않는 현상을 말한다. 이 격차가 왜 생기는지, 그리고 그 벽을 넘은 소수는 무엇이 달랐는지가 이 보고서의 핵심이다.

AI 사용량은 폭증했지만 가치는 늘지 않은 AI 도입 성과 격차

보스턴컨설팅그룹(BCG)이 발표한 보고서에 따르면 전 세계 기업의 60%가 상당한 투자를 하고도 AI에서 의미 있는 가치를 만들어내지 못하고 있다. 문제의 뿌리는 기업들이 AI를 ‘기술을 얼마나 깔았는가’의 문제로만 보고, 직원들이 실제 업무에 AI를 얼마나 녹여내는가는 놓치고 있다는 데 있다. 대부분의 회사는 로그인 횟수나 사용 시간 같은 겉으로 드러나는 숫자에 매달린다. 하지만 정말 중요한 것은 AI를 얼마나 자주 켰느냐가 아니라, AI가 핵심 업무를 얼마나 바꿔놓았느냐다. 매일 챗봇에 몇 번 질문하는지를 세는 회사와, AI에게 보고서 초안 작성을 통째로 맡기기 시작한 회사는 같은 ‘AI 사용 기업’처럼 보여도 성과에서 전혀 다른 길을 걷는다.

직원들이 거치는 다섯 단계, 진짜 가치는 4단계부터 시작된다

BCG는 직원이 AI를 받아들이는 과정을 다섯 단계로 정리했다. 1단계는 정보 지원으로 AI를 검색엔진처럼 쓰며 이때 AI가 처리하는 업무 비중은 1~5%에 그친다. 2단계 작업 지원은 코드 조각이나 간단한 자료를 만드는 데 AI를 쓰는 단계로 6~10% 수준이다. 3단계 위임은 이메일 작성이나 보고서 정리처럼 명확한 업무를 통째로 AI에 맡기는 단계로, AI 처리 비중이 30%까지 올라간다. 여기까지는 사람이 대부분의 일을 직접 하고 AI가 거드는 구조다.

진짜 변화는 4단계 반자율 협업에서 시작된다. 반자율 협업이란 AI가 사람의 감독 아래 스스로 계획을 세우고 여러 작업을 실행하며, 사람과 대화하듯 결과물을 다듬어가는 단계를 말한다. 이 지점에서 AI가 처리하는 업무 비중은 80%를 넘어서고, BCG는 바로 이 4단계를 “진짜 가치 창출이 시작되는 변곡점”이라고 부른다. 5단계 완전 자율은 AI가 사람 개입 없이 복잡한 업무를 처음부터 끝까지 관리하는 단계로 처리 비중이 95%를 넘지만, 아직은 극히 드물다. 정리하자면 3단계까지는 사람이 시키는 일을 AI가 받아 처리하지만, 4단계부터는 AI가 일의 흐름 자체를 설계하기 시작한다. 그리고 이 한 걸음의 차이가 성과의 갈림길이다.

그림1. AI 도입은 다섯 단계로 나뉜다. 3단계와 4단계 사이 변곡점을 넘어서야 성과가 나기 시작하지만, 대다수는 그 앞에 멈춰 있다. (자료: BCG)

85%는 2단계와 3단계에 머물고, 10%만 변곡점을 넘었다

BCG의 소프트웨어 개발자 설문 결과 직원의 85% 이상이 여전히 AI 도입 2단계와 3단계에 머물러 있고, 진짜 가치가 시작되는 4단계 이상에 도달한 사람은 10%도 되지 않는다. 대부분의 조직이 AI를 도입했다고 말하지만, 실제로는 이메일 초안을 뽑거나 표를 정리하는 수준에서 멈춰 있다는 뜻이다. 여기서 흥미로운 반전이 있다. 사람들은 흔히 AI를 오래 쓰면 자연스럽게 잘 쓰게 된다고 믿지만, 이 여정은 저절로 위로 올라가는 계단이 아니다. AI를 향한 태도, 신뢰 수준, 회사가 사용을 허락하는지 여부, 배울 시간과 여유, 처음 겪은 경험이 모두 사람마다 다른 출발점과 속도를 만든다. 옆자리 동료는 AI에게 프로젝트 절반을 맡기고 있는데 나는 여전히 검색 대용으로만 쓰고 있다면, 나는 대다수가 갇혀 있는 그 2~3단계 구간에 함께 있는 셈이다.

신뢰 부족과 배울 시간 부족, 사람들을 붙잡아두는 두 가지 벽

AI 도입을 가로막는 가장 큰 장벽은 AI 결과를 믿지 못하는 마음과 배울 시간이 없다는 현실이다. BCG가 세 개 회사 엔지니어링 부서 직원 526명을 조사한 결과, 세 회사 모두에서 ‘AI 결과에 대한 불신’이 공통적으로 가장 큰 문제로 꼽혔고 그 뒤를 ‘학습하거나 역량을 키울 시간 부족’이 이었다. 그다음으로 보안과 저작권 우려, 실력 퇴화와 고용 불안에 대한 두려움, 교육 부족이 뒤따랐다. AI가 만든 결과물을 검토하는 일이 오히려 번거롭고 시간을 잡아먹는다고 답한 개발자도 38%에 달했다. 확인하는 데 품이 더 든다면 사람들은 결국 익숙한 옛날 방식으로 돌아가버린다.

이 벽 앞에서 사람들은 다섯 가지 유형으로 갈린다. AI 챔피언은 새 도구를 가장 먼저 써보고 성과를 팀에 퍼뜨리는 선도자다. 이들처럼 AI를 능숙하게 쓰는 사용자의 88%는 AI가 더 큰 가치를 만들어준다고 답했고, 직원의 69%는 동료에게 배우는 것을 AI 실력을 키우는 최고의 방법 중 하나로 꼽았다. 독립 탐험가는 회사가 허락하지 않아도 개인 시간에 몰래 AI를 써보는 유형으로, BCG의 앞선 연구에서는 직원의 54%가 공식 승인 없이도 AI 도구를 쓴다고 답했다. 조직형 수용자는 회사가 명확히 절차를 깔아줘야 움직이는 신중한 다수이고, 수동적 관찰자는 AI를 알지만 불편하거나 못 미더워 익숙한 방식을 고수하는 잠재층이다. 마지막으로 신중한 회의론자는 실력은 뛰어나지만 AI의 신뢰성과 자기 직업에 미칠 영향을 경계하는, 가장 저항이 강한 유형이다. 나는 이 다섯 중 어디에 가까운지 떠올려보면, 우리 조직이 왜 특정 단계에서 멈춰 있는지도 보인다.

리더가 지금 당장 할 수 있는 네 가지, 관건은 사람이다

멈춰 선 조직을 움직이려면 기술이 아니라 사람에 손을 대야 한다. BCG는 리더가 지금 당장 실행할 수 있는 네 가지를 제시한다. 첫째, 얼리어답터를 활용하라. 챔피언과 탐험가를 시범 사업에 참여시키고 이들의 성과를 눈에 띄게 알려 동료 코칭 모델로 확산시키는 것이다. 둘째, 배울 공간을 만들어라. 응답자들은 학습 시간의 25%도 근무 시간 안에 확보하지 못한다고 답했다. C레벨 임원 1,400명 조사에서 62%가 인재와 AI 역량 부족을 가장 큰 걸림돌로 꼽았지만, 실제로 직원 재교육에 의미 있게 나선 곳은 6%에 불과했다.

셋째, 관리자를 증폭기로 삼아라. 일선 관리자는 AI 도입이 현장에 뿌리내릴지를 결정하는 핵심이다. BCG 헨더슨연구소와 컬럼비아 경영대학원 연구에 따르면 직원 중심으로 움직이는 조직은 그렇지 않은 곳보다 AI 성숙 단계에 도달할 가능성이 약 7배 높았고, 직원 중심성 하나가 AI 성숙도 차이의 약 36%를 설명했다. 한 회사에서는 관리자가 팀에게 “AI를 쓰다가 마감을 놓쳐도 괜찮다”고 허락하자 AI 사용이 눈에 띄게 늘었다. 넷째, 회의론자를 신중하게 다뤄라. 이들에게는 추상적인 생산성 약속이 아니라 신뢰하는 동료가 보여주는 실제 개선 사례가 통한다. 반대로 한 선임 엔지니어가 AI 사용에 공개적으로 반대하자 팀 전체의 AI 활용이 곧바로 줄어든 사례도 있었다. 회의론자의 목소리를 무시하면 의심은 조직 전체로 번진다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. 회사가 AI를 도입했다는데 왜 성과가 안 느껴질까요? A. 많은 회사가 직원의 AI 사용 횟수나 시간 같은 숫자에만 집중하기 때문입니다. BCG 보고서는 전 세계 기업의 60%가 투자하고도 성과를 못 내고 있으며, 진짜 가치는 AI에게 업무의 80% 이상을 맡기는 단계에 이르러야 나온다고 설명합니다.

Q. 저는 AI를 검색처럼만 쓰는데, 이게 잘못된 건가요? A. 잘못된 것은 아니지만 초기 단계에 해당합니다. 보고서는 직원의 85% 이상이 이메일 초안이나 자료 정리 수준인 2~3단계에 머물러 있다고 합니다. AI에게 정해진 업무를 통째로 맡기고 결과를 검토하는 방식으로 넘어가면 활용도가 크게 올라갑니다.

Q. AI를 더 잘 쓰려면 개인적으로 무엇부터 해야 하나요? A. 이미 AI를 업무에 잘 녹여낸 동료에게 배우는 것이 효과적입니다. 조사에서 직원의 69%가 동료에게 배우는 것을 AI 실력을 키우는 최고의 방법 중 하나로 꼽았습니다. 작은 업무 하나를 정해 AI에게 맡겨보고 결과를 다듬는 연습을 반복하는 것이 좋은 출발점입니다.

기사에 인용된 리포트 원문은 보스턴컨설팅그룹(BCG)에서 확인할 수 있다.
리포트명: The AI Adoption Puzzle: Why Usage Is Up But Impact Is Not (BCG, 2025년 12월 8일)
이미지 출처: AI 생성 콘텐츠
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.