세일즈포스(Salesforce)가 발표한 보고서에 따르면, 전 세계 기업들이 AI 챗봇 같은 생성형 AI에 막대한 돈을 투자하고 있지만, 정작 사람들의 신뢰는 낮고 데이터 관리는 엉망이며 직원 교육은 거의 이뤄지지 않는 것으로 나타났다. 특히 직원 절반 이상이 회사 허락도 없이 AI 프로그램을 몰래 사용하고 있어 보안 문제가 심각한 상황이다.
2027년까지 AI 투자 매년 70%씩 늘어… 1,400억 달러 규모로 폭증
시장조사 기관 IDC에 따르면, 기업들은 2023년에 AI 챗봇 같은 생성형 AI에 160억 달러(약 23조 원)를 썼다. 2027년에는 이 금액이 1,400억 달러(약 204조 원)로 늘어날 전망이다. 매년 평균 70%씩 투자가 급증하는 셈이다.
왜 이렇게 투자가 늘어날까? 기업 임원들이 불안하기 때문이다. 마케팅 부서의 88%, 영업 부서의 78%, 고객 서비스 부서의 73%가 “우리 회사가 AI를 제대로 못 쓰면 경쟁에서 뒤처질까 봐 두렵다”고 답했다. 과거 인터넷이나 클라우드를 늦게 도입했다가 망한 회사들처럼 되지 않으려는 위기감이 크다.
특히 젊은 층이 AI 사용을 주도하고 있다. Z세대(20대 초중반)의 70%, 밀레니얼 세대(30대)의 63%가 AI 챗봇을 써본 경험이 있다고 답했다. 반면 X세대(40~50대)는 44%, 베이비붐 세대(60대 이상)는 23%만 사용 경험이 있었다. 2023년 말 기준 전체 인구의 절반이 최소 한 번은 AI를 사용해봤으며, 52%는 “사용 횟수가 늘고 있다”고 답했다.
“AI 믿을 수 없다” 74%… 완전히 신뢰하는 사람은 10%뿐
AI가 빠르게 퍼지고 있지만 사람들의 신뢰는 여전히 낮다. 전체 인구의 74%가 “AI가 나쁜 목적으로 사용될까 봐 걱정된다”고 답했고, 63%는 “AI가 특정 집단에 편향된 답변을 할까 봐 우려된다”고 했다. 더 심각한 건 AI를 통해 중요한 결정을 내릴 때 “완전히 믿을 수 있다”고 답한 사람이 단 10%밖에 안 된다는 점이다.
재미있는 건 세대별로 AI에 대한 감정이 다르다는 것이다. Z세대와 밀레니얼 세대는 AI에 대해 ‘궁금함’, ‘희망’, ‘기대감’을 주로 느낀다. 반면 X세대와 베이비붐 세대는 ‘의심’, ‘불안’, ‘두려움’을 더 많이 느꼈다. 특히 베이비붐 세대는 AI가 무서운 기술이라고 생각했다. 전체 인구의 88%가 “AI가 내 삶을 어떻게 바꿀지 잘 모르겠다”고 답했다.
그렇다면 어떻게 해야 사람들이 AI를 신뢰할까? 소비자들은 “AI를 어떻게 쓰는지 투명하게 알려주기”(57%), “AI가 만든 결과를 사람이 다시 확인하기”(52%), “고객이 AI 사용 여부를 직접 선택하게 하기”(49%) 등을 중요하다고 답했다. 또 64%는 “AI가 안전하다고 확신하면 더 자주 쓸 것”이라고 했다.
세일즈포스의 윤리 책임자 폴라 골드만(Paula Goldman)은 “기업 AI가 성공하려면 신뢰가 가장 중요하다”며 “데이터 보안, 개인정보 보호, 안전하고 윤리적인 기준이 필요하다”고 강조했다.
회사 데이터 관리 엉망… 59%는 “통합 계획 없음”, 95%는 “이 문제로 AI 도입 늦어져”
AI가 제대로 작동하려면 좋은 데이터가 필수다. 하지만 많은 회사들이 데이터 관리에 어려움을 겪고 있다. 분석 및 IT 담당자의 86%가 “AI는 좋은 데이터를 넣어야 좋은 결과가 나온다”고 답했고, 87%는 “AI 때문에 데이터 관리가 더 중요해졌다”고 했다.
하지만 현실은 녹록지 않다. 전체 회사의 59%가 “회사 전체 데이터를 통합해서 관리하는 계획이 없다”고 답했다. IT 담당자의 95%는 “데이터가 여기저기 흩어져 있어서 AI 도입이 늦어지고 있다”고 했다. 상황을 더 어렵게 만드는 건 회사 데이터가 매년 23%씩 늘어나고 있고, 이 데이터가 평균 991개의 다른 프로그램에 나눠져 있다는 점이다.
회사에서 AI를 쓰는 직원 중 56%가 “AI한테 물어봐도 원하는 답을 못 얻는다”고 했고, 54%는 “AI가 쓰는 데이터를 믿을 수 없다”고 답했다. 자신이 관리하는 데이터를 완전히 신뢰한다는 응답은 데이터 분석 부서에서도 57%에 불과했다. IT 부서 53%, 마케팅 부서 45%, 영업 부서 42%, 고객 서비스 부서 40% 순이었다.
데이터 관리를 잘하는 회사는 AI 활용도 훨씬 수월했다. 데이터 관리 수준이 높은 회사는 데이터 품질(59%), 기술 시스템(57%), AI 전략(56%)이 우수하다고 평가한 반면, 데이터 관리가 부족한 회사는 각각 30%, 36%, 32%에 그쳤다. 데이터 관리를 잘하는 회사는 그렇지 않은 회사보다 AI에 필요한 좋은 데이터를 가질 확률이 두 배 높았다.
한편, 회사들이 AI 프로그램을 선택할 때는 여러 개를 함께 쓰는 추세다. AI를 쓰는 회사의 80%가 이미 여러 AI 프로그램을 동시에 사용하고 있으며, 69%는 “앞으로 더 다양한 AI를 쓸 것”이라고 답했다. 새로운 방식인 “검색 증강 생성(AI가 회사 자료를 참고해서 더 정확하게 답하는 기술)”은 IT 담당자의 87%가 긍정적으로 평가했다.
고객센터 49%, 영업팀 41% AI 완전 도입… 부서마다 활용법 다양
회사 곳곳에서 AI 도입이 빠르게 진행되고 있다. 고객 서비스 부서의 49%가 AI를 완전히 쓰고 있으며, 30%가 시험 중이다. 서비스 부서의 84%는 내년에 AI 투자를 늘릴 계획이다. 주로 고객 문의 자동 답변, 안내 자료 작성, 고객 데이터 분석에 AI를 활용한다. 걱정되는 점은 보안 위험, 사람의 창의성 감소, AI가 상황을 제대로 이해 못 하는 것 등이었다.
마케팅 부서의 32%가 AI를 완전히 쓰고 있고, 43%가 시험 중이다. 마케터들은 AI 도입을 최우선 과제로 보면서도 가장 어려운 일이라고도 생각한다. 광고 효과 분석, 콘텐츠 제작, 고객 응대 자동화에 주로 쓴다. 걱정되는 건 데이터 유출, 필요한 데이터 부족, 전략이나 활용법 부족 등이었다.
영업 부서의 41%가 AI를 완전히 쓰고 있고, 40%가 시험 중이다. 영업 조직의 79%가 내년에 AI를 도입할 계획이다. 고객 이메일 초안 작성, 판매 예측, 영업 보고서 작성에 주로 활용한다. 걱정되는 건 보안 문제, 직원 교육 부족, 고객이 AI를 믿지 않는 것 등이었다.
온라인 쇼핑몰 부서의 29%가 AI를 완전히 쓰고 있고, 48%가 시험 중이다. 제품 설명 글 작성, 상품 판매 최적화, 판매 채널 전략에 주로 활용한다. 걱정되는 건 명확한 AI 전략 부족, 직원 기술 부족, 보안과 신뢰 문제였다. 세일즈포스 쇼핑몰 서비스에서는 2023년 3분기에 AI가 주문의 17%에 영향을 미쳤다.
IT 부서의 86%는 “AI가 곧 우리 회사에서 중요한 역할을 할 것”이라고 믿지만, 12%만이 “AI 관련 요청을 다 처리할 수 있다”고 답했다. IT 담당자의 62%는 “AI가 내 직업에 어떤 영향을 줄지 걱정된다”고 했다. IT 담당자들은 비즈니스에서 AI 활용법(54%), 회사에 AI 도입하는 방법(50%), AI 업체 선택(48%), 업무에 AI 잘 쓰는 법(48%) 등에 대한 전문성이 부족하다고 평가했다.
직원 55%가 회사 몰래 AI 사용, 69%는 교육 한 번도 안 받아… 보안 구멍 뻥뻥
AI 시대에 맞춰 직원들의 능력을 키우는 게 급한 과제로 떠올랐다. 사무직 직원의 56%가 “AI가 내 일하는 방식을 바꿀 것”이라고 믿으며, 62%는 “AI를 제대로 쓸 능력이 없다”고 생각한다. 41%는 “취직하려고 AI 잘 쓴다고 거짓말할 수도 있다”고 답했다.
하지만 회사들의 대응은 매우 부족하다. 사무직 직원의 67%가 “회사가 AI 교육을 해줄 거라고 기대”하지만, 실제로 교육을 받아본 사람은 31%에 불과했다. 69%는 “AI 교육을 한 번도 받지 못했다”고 답했다. 21%만이 “회사가 AI 사용 규칙을 명확하게 알려줬다”고 답했다.
이런 규칙 부재는 심각한 문제를 낳고 있다. 업무용으로 AI를 쓰는 직원의 55%가 “회사가 허락하지 않은 AI 프로그램을 몰래 사용했다”고 답했고, 40%는 “회사가 명확히 금지한 AI를 써봤다”고 했다. 직원들은 “회사가 승인한 AI 프로그램과 사용 규칙이 가장 중요하다”고 답했지만, 회사가 이를 제공했다는 응답은 21%뿐이었다.
세일즈포스의 인사 담당 선임 이사 로리 미들허스트(Lori Middlehurst)는 “직원들은 허락 여부와 관계없이 어떻게든 AI를 쓸 것”이라며 “회사가 안전한 범위 안에서 직원들이 AI를 자유롭게 실험할 수 있도록 혁신적인 문화를 만드는 게 중요하다”고 말했다.
한편, 시장조사 기관 IDC는 2022년부터 2028년까지 AI로 인해 새로 생기는 일자리가 1,160만 개에 이를 것으로 예상해 AI가 일자리를 빼앗을 것이라는 우려를 일부 해소했다.
FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)
Q1. 생성형 AI가 뭔가요? 왜 회사들이 이렇게 많은 돈을 쓰나요?
A. 생성형 AI는 챗GPT처럼 질문하면 답변을 만들어주거나, 글이나 그림을 자동으로 만들어주는 AI 기술입니다. 2022년 챗GPT가 나온 후 폭발적으로 성장했습니다. 회사들은 직원들의 반복적인 일을 자동화하고 일 처리 속도를 높이려고 2027년까지 매년 70%씩 투자를 늘릴 계획입니다. 주로 고객 문의 자동 답변, 홍보 글 작성, 데이터 분석 등에 활용합니다.
Q2. AI를 안전하게 쓰려면 회사가 뭘 준비해야 하나요?
A. 가장 중요한 건 데이터를 잘 관리하는 것입니다. 전체 회사의 59%가 회사 전체 데이터를 하나로 묶어서 관리하는 계획이 없어서 AI 도입에 어려움을 겪고 있습니다. 또 직원들에게 명확한 사용 규칙과 교육을 제공해야 합니다. 데이터 보안과 개인정보 보호 시스템도 갖춰야 합니다. 현재 직원 절반 이상이 회사 허락 없이 AI를 몰래 쓰고 있어서 체계적인 규칙 만들기가 급합니다.
Q3. AI가 제 일자리를 빼앗나요?
A. IDC 전망에 따르면 AI는 2022년부터 2028년까지 오히려 1,160만 개의 새 일자리를 만들 것으로 예상됩니다. 다만 일하는 방식은 바뀔 것입니다. 사무직 직원의 56%가 AI로 인해 일하는 방식이 달라질 거라고 예상하며, 80%는 AI가 일 처리 속도를 높였다고 답했습니다. 단순 반복 작업은 자동화되고 더 전략적이고 창의적인 일에 집중할 수 있게 될 전망입니다.
기사에 인용된 리포트 원문은 세일즈포스에서 확인 가능하다.
리포트명: CRM을 위한 AI 트렌드 리포트
이미지 출처: CRM을 위한 AI 트렌드 리포트
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.
