Behind the AI Hype
최근 생성형 AI에 대한 과도한 기대와 회의적인 시각이 교차하고 있는 가운데, 실제 기업들의 비즈니스 프로세스에서 생성형 AI가 어떻게 활용되고 있는지에 대한 관심이 높아지고 있다. 워카토(Workato)가 유저에비던스(UserEvidence)를 통해 실시한 1,000명 이상의 북미 기업 리더들을 대상으로 한 설문조사 결과, 생성형 AI가 기업의 비즈니스 프로세스에 실질적인 변화를 가져오고 있는 것으로 나타났다.
AI 도입, 경쟁사 압박이 주요 동인
조사 결과에 따르면, 기업들이 생성형 AI를 도입하는 주요 이유로 ‘경쟁사의 압박’이 가장 큰 요인으로 꼽혔다. 응답자의 71%가 비즈니스 프로세스에 생성형 AI를 도입해야 한다는 압박을 느끼고 있다고 답했으며, 이러한 압박의 주요 원인으로 경쟁사, 외부 전문가, 분석가, 내부 동료, 이사회 등을 언급했다.
특히 부서별로 AI 도입에 대한 압박감에 차이가 있었는데, IT, 재무, 인사 부서가 상대적으로 더 큰 압박을 받고 있는 것으로 나타났다. 반면 영업, 마케팅, 운영 부서는 상대적으로 압박이 덜한 것으로 조사됐다.
인플렉션AI(Inflection AI)의 테드 셸튼(Ted Shelton) COO는 “인간 수준의 지능을 저렴한 비용으로 24시간 365일 이용할 수 있게 되면 우리가 하는 모든 일이 어떻게 바뀔까요? 그리고 다음 단계는 우리의 경쟁자들이 무엇을 할 수 있는지를 생각해보는 것입니다. 그때 진짜 불이 붙게 됩니다.”라고 말했다.
AI 활용 방식과 성과
기업들은 다양한 방식으로 생성형 AI를 비즈니스 프로세스에 적용하고 있다. 조사 결과, 현재 가장 많이 사용되는 방식은 기반 대규모 언어 모델(foundational LLM)로 68%의 기업이 이를 활용하고 있다고 응답했다. 그러나 향후 전략으로는 API 기반 방식이 48%로 가장 선호되는 것으로 나타났다.
부서별로는 IT, 고객 서비스, 운영, 영업 및 마케팅 부서에서 생성형 AI 도입이 가장 활발한 것으로 조사됐다. 그러나 AI 구현의 성숙도 면에서는 아직 초기 단계인 것으로 보인다. 응답자의 23%만이 AI가 비즈니스 프로세스에 완전히 구현되었다고 답했다.
성과 면에서는 89%의 응답자가 생성형 AI를 비즈니스 프로세스에 도입한 후 측정 가능한 결과를 얻었다고 답했다. 주요 성과로는 효율성 증가(62%), 비용 절감(43%), 비즈니스 민첩성 향상(43%), 의사결정 개선(40%), 혁신 주기 단축(31%) 등이 꼽혔다.
특히 AI 구현의 성숙도가 높을수록 더 나은 성과를 얻는 것으로 나타났다. AI를 완전히 구현한 기업들은 실험 단계에 있는 기업들에 비해 민첩성 향상, 의사결정 개선, 혁신 속도 증가 등에서 2배 가까이 높은 성과를 보였다.
엔비디아(NVIDIA)의 AI 및 ML 담당 VP인 라마 아키라주(Rama Akkiraju)는 “HR, 영업, 생산성, 공급망 등에서 수십 가지의 사용 사례를 상상할 수 있습니다. LLM은 효율성과 생산성에 큰 차이를 만들 수 있습니다.”라고 말했다.
AI 거버넌스와 인간의 역할
생성형 AI의 도입이 확대되면서 AI 거버넌스의 중요성도 함께 부각되고 있다. 응답자의 90% 이상이 비즈니스 프로세스에서 AI 거버넌스가 중요하다고 답했으며, 신뢰 향상을 위한 요소로 ‘강력한 거버넌스’를 가장 중요하게 꼽았다.
AI 관련 주요 우려사항으로는 데이터 보안(63%), 개인정보 보호(58%), 환각(hallucination, 48%) 등이 언급되었다. 특히 HR, 재무, IT 운영 부서에서 보안과 개인정보 보호에 대한 우려가 더 높았고, 영업 및 마케팅 부서는 환각에 대한 우려가 상대적으로 높았다.
이에 따라 기업들은 데이터 프라이버시 및 보호(75%), 윤리적 가이드라인 및 관행(59%), 접근 제어(53%) 등을 AI 거버넌스의 우선순위로 두고 있다.
한편, AI의 자율성과 인간의 감독 사이의 균형도 중요한 이슈로 떠올랐다. 응답자의 95%가 자율 AI 에이전트 작업에 대한 인간의 감독과 승인이 중요하다고 답했다. 그러나 동시에 60% 가까운 응답자들이 AI가 자율적으로 고객에게 콘텐츠를 보내거나 의사결정을 하는 것에 대해 편안함을 느낀다고 답했다.
커민스(Cummins Inc.)의 얼 뉴섬(Earl Newsome) CIO는 “AI에는 몇 가지 과제가 있습니다. 잘못될 수 있고, 환각을 일으킬 수 있으며, 저작권 있는 자료를 사용할 수 있고, 편향될 수 있습니다. 해결책은 인간을 루프에 넣는 것입니다. 협업 AI를 생각하고 AI와 함께 번영하려면 인간이 루프에 있어야 합니다. 그러면 인간이 도구에 대한 책임을 지게 됩니다.”라고 말했다.
AI 에이전트와 비즈니스 프로세스의 미래
맥킨지(McKinsey)는 최근 “생성형 AI의 다음 프론티어는 에이전트”라는 제목의 기사에서 “우리는 지식 기반의 생성형 AI 도구에서 복잡한 다단계 워크플로우를 실행할 수 있는 생성형 AI 기반 ‘에이전트’로 진화하고 있다”고 전망했다.
설문 조사 결과, 대부분의 기업 리더들이 AI 에이전트가 자신을 대신해 업무를 수행하는 것에 대해 긍정적인 태도를 보였다. 특히 IT와 재무 부서 리더들이 이 아이디어에 더 편안함을 느끼는 것으로 나타났다.
AI 에이전트에 대한 기대 효과로는 생산성 향상과 효율성 증대가 가장 높게 나타났다. TBC Corporation의 대릴 마라즈(Darryl Maraj) CIO는 “우리는 자동화와 AI를 인간을 대체하는 것이 아니라 증강 도구로 생각합니다.”라고 말했다.
전문가들은 AI 에이전트가 직원들에게 초인적인 업무 능력을 부여하여 인지 노동 생산성을 5-10배 향상시킬 수 있을 것으로 전망하고 있다. 이는 AI 에이전트를 도입한 기업과 그렇지 않은 기업 간의 ‘에이전트 격차’를 만들어낼 수 있음을 시사한다.
결론적으로, 생성형 AI와 AI 에이전트는 기업의 비즈니스 프로세스에 큰 변화를 가져올 것으로 예상된다. 기업들은 AI 활용 전략, LLM 접근 방식, 인간의 개입 정도, 거버넌스 등 다양한 측면을 고려하여 AI 혁신의 이점을 최대화하고 리스크를 관리해야 할 것이다.
시장의 회의적인 시각에도 불구하고, 기업들은 경쟁에서 뒤처지지 않기 위해 AI 도입을 가속화하고 있다. 앞으로 다가올 AI 에이전트 경제에서 뒤처지지 않기 위해서는 기업 리더들의 전략적인 판단과 실행이 더욱 중요해질 것으로 보인다.
워카토의 리포트는 링크에서 확인할 수 있다.
본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
