CEO가 직접 챙기는 기업일수록 AI 성과 78% 높아… 맥킨지 보고서 분석

The state of AI: How organizations are rewiring to capture value

CEO 주도 AI 거버넌스 조직, 생성형 AI 성과 최대 – 응답자 28%가 CEO 직접 감독

맥킨지(McKinsey)의 AI 현황 조사에 따르면, 조직들이 생성형 AI에서 실질적인 가치를 창출하기 위한 구조와 프로세스를 구축하기 시작했다. 설문조사 결과, CEO가 AI 거버넌스를 직접 감독하는 것이 기업의 실질적인 수익 증대와 가장 밀접한 상관관계가 있는 것으로 나타났다. 특히 대기업에서는 CEO의 감독이 생성형 AI를 통한 EBIT(이자 및 세전 이익) 증가에 가장 큰 영향을 미치는 요소였다.

AI를 사용하는 조직의 응답자 중 28%는 CEO가 AI 거버넌스를 감독하고 있다고 답했으며, 17%는 이사회가 감독한다고 응답했다. 흥미로운 점은 대부분의 경우 AI 거버넌스가 공동 소유 형태를 띠고 있다는 것이다. 응답자들은 평균적으로 두 명의 리더가 AI 거버넌스를 담당하고 있다고 보고했다.

워크플로우 재설계한 기업 21%, 생성형 AI 수익 증대 효과 최대

맥킨지 조사에 따르면, 25개 특성 중 워크플로우 재설계가 생성형 AI의 EBIT 영향력에 가장 큰 효과를 미치는 것으로 나타났다. 생성형 AI를 사용하는 조직의 응답자 중 21%는 그들의 조직이 최소한 일부 워크플로우를 근본적으로 재설계했다고 밝혔다.

기업들은 AI 배포의 핵심 요소들을 어떻게 구조화할지에 대해 전략적 선택을 하고 있다. 위험 및 컴플라이언스, 데이터 거버넌스와 같은 필수 요소들은 주로 우수성 센터와 같은 완전히 중앙화된 모델을 사용하고 있다. 반면, 기술 인재와 AI 솔루션 채택에 있어서는 일부 리소스는 중앙에서 관리하고 일부는 사업부나 기능 조직에 분산시키는 하이브리드 또는 부분적 중앙화 모델을 더 많이 사용하고 있다.

생성형 AI 결과물 검증, 27%는 모든 콘텐츠 검토 vs 30%는 20% 이하만 검토

조직들은 생성형 AI 결과물의 품질을 감독하기 위해 직원들을 활용하고 있지만, 그 감독의 정도는 크게 다양하다. 생성형 AI를 사용하는 조직의 응답자 중 27%는 직원들이 사용 전에 모든 생성형 AI 콘텐츠를 검토한다고 응답했다. 예를 들어, 고객이 챗봇 응답을 보기 전이나 AI 생성 이미지가 마케팅 자료에 사용되기 전에 검토가 이루어진다. 비슷한 비율(30%)은 생성형 AI 생성 콘텐츠의 20% 이하만 사용 전에 확인된다고 답했다. 업종별로는 비즈니스, 법률 및 기타 전문 서비스 분야의 응답자들이 다른 업종보다 모든 결과물을 검토한다고 답할 가능성이 훨씬 더 높았다.

생성형 AI 위험 관리, 부정확성·사이버보안·지적재산권 침해 대응 강화

많은 조직들이 생성형 AI 관련 위험을 완화하기 위한 노력을 강화하고 있다. 응답자들은 2024년 초보다 부정확성, 사이버 보안 및 지적 재산권 침해와 관련된 위험을 적극적으로 관리하고 있다고 답할 가능성이 더 높았다. 이는 응답자들이 가장 흔하게 조직에 부정적인 결과를 초래했다고 말하는 생성형 AI 관련 위험 세 가지와 일치한다.

대기업의 응답자들은 다른 조직보다 더 많은 위험을 완화하고 있다고 보고했다. 그들은 사이버 보안 및 개인정보 보호 위험을 관리하고 있다고 말할 가능성이 훨씬 더 높았지만, AI 결과물의 정확성이나 설명 가능성과 관련된 위험을 해결하고 있다고 말할 가능성은 더 높지 않았다.

KPI 추적하는 기업, 생성형 AI 가치창출 1위…하지만 도입률은 20% 미만

대부분의 응답자들은 아직 생성형 AI 사용으로 인한 조직 전체의 실질적인 효과를 보지 못하고 있다. 또한 새로운 기술을 배포할 때 가치를 창출하는 데 도움이 된다고 알려진 채택 및 확장 관행을 아직 구현하지 않고 있다. 맥킨지는 생성형 AI에 대한 12가지 채택 및 확장 관련 관행에 대해 물었고, 각각이 EBIT에 긍정적인 상관관계가 있음을 발견했다. 가장 큰 영향을 미치는 것은 잘 정의된 KPI(핵심성과지표)를 추적하는 것이었으며, 대기업에서는 생성형 AI 채택을 추진하기 위한 명확한 로드맵 수립도 가장 큰 영향을 미치는 요소 중 하나였다.

전반적으로 기업들은 이러한 관행을 구현하는 초기 단계에 있다. 지금까지 응답자의 3분의 1 미만이 12가지 채택 및 확장 관행의 대부분을 조직이 따르고 있다고 보고했으며, 5명 중 1명 미만이 생성형 AI 솔루션에 대한 KPI를 추적하고 있다고 말했다. 대기업의 응답자들은 이러한 관행 중 최소한 일부를 사용하고 있다고 보고할 가능성이 더 높았다.

AI 데이터 과학자 수요 계속 증가…응답자 50%가 데이터 과학자 더 필요할 것

이 조사는 또한 AI 관련 채용 상태와 AI가 인력에 미치는 다른 영향을 살펴보았다. AI를 사용하는 조직에서 일하는 응답자들은 2024년 초 조사와 마찬가지로 지난 12개월 동안 AI 관련 역할에 개인을 고용했다고 말할 가능성이 있었다. 올해는 다른 점은 데이터 시각화 및 디자인 전문가인데, 응답자들은 이전 조사보다 이러한 역할을 고용했다고 보고할 가능성이 크게 낮았다.

또한 응답자의 13%는 그들의 조직이 AI 컴플라이언스 전문가를 고용했으며, 6%는 AI 윤리 전문가를 고용했다고 보고했다. 대기업의 응답자들은 더 작은 조직의 동료들보다 광범위한 AI 관련 역할을 고용했다고 보고할 가능성이 더 높았으며, AI 데이터 과학자, 머신러닝 엔지니어 및 데이터 엔지니어 고용에서 가장 큰 격차가 나타났다.

응답자들은 계속해서 이러한 역할을 대체로 채우기 어렵다고 보고했지만, 과거 2년보다 많은 역할이 “어렵다” 또는 “매우 어렵다”고 묘사하는 응답자의 비율은 감소했다. 한 가지 예외는 AI 데이터 과학자로, 내년에도 계속해서 수요가 높을 것으로 예상된다. AI를 사용하는 조직의 응답자 중 절반은 그들의 고용주가 현재보다 더 많은 데이터 과학자를 필요로 할 것이라고 말했다.

기업의 78%가 AI 도입, 생성형 AI 사용률 71%로 급증…3개 이상 부서에서 활용

2024년에는 AI 사용이 증가했다. 최신 조사에서 응답자의 78%가 조직이 최소 하나의 비즈니스 기능에서 AI를 사용하고 있다고 답했는데, 이는 2024년 초 72%와 1년 전 55%에서 증가한 수치다. 응답자들은 IT, 마케팅 및 영업 기능에서 가장 자주 기술을 사용한다고 보고했으며, 고객 서비스 운영이 그 뒤를 이었다.

조직들은 또한 이전 AI 현황 조사보다 더 많은 비즈니스 기능에서 AI를 사용하고 있다. 처음으로 대부분의 설문 응답자가 두 개 이상의 비즈니스 기능에서 AI 사용을 보고했다. 조직들은 평균적으로 세 개의 비즈니스 기능에서 AI를 사용하고 있다고 응답했다.

생성형 AI 사용도 2024년 초 이후 비슷한 증가세를 보였다. 응답자의 71%가 그들의 조직이 최소 하나의 비즈니스 기능에서 정기적으로 생성형 AI를 사용하고 있다고 답했으며, 이는 2024년 초 65%에서 증가한 수치다.

응답자의 63%는 그들의 조직이 텍스트 출력을 만들기 위해 생성형 AI를 사용하고 있다고 보고했지만, 조직들은 다른 모달리티와도 실험하고 있다. 응답자의 3분의 1 이상이 조직이 이미지를 생성하고 있다고 말했으며, 4분의 1 이상이 컴퓨터 코드를 만들기 위해 생성형 AI를 사용하고 있다고 보고했다.

FAQ

Q. 생성형 AI 도입 시 CEO의 역할이 왜 중요한가요?

A. 맥킨지 조사에 따르면 CEO가 AI 거버넌스를 직접 감독할 때 기업의 실질적인 수익 증대 효과가 가장 크게 나타납니다. AI 구현에는 전사적인 변화 관리와 자원 동원이 필요하기 때문에 최고 경영진의 의지와 리더십이 필수적입니다. IT나 디지털 부서에만 위임하는 경우 성공 가능성이 낮아집니다.

Q. 기업이 생성형 AI에서 실질적인 가치를 얻으려면 어떤 전략이 필요한가요?

A. 워크플로우 재설계가 생성형 AI의 가치 창출에 가장 큰 영향을 미칩니다. 또한 명확한 KPI 설정과 추적, 잘 정의된 로드맵 수립, 전담팀 구성, 내부 소통 강화, 직원 교육 등이 중요합니다. 단순히 기술을 도입하는 것보다 비즈니스 모델과 프로세스를 근본적으로 변화시키는 접근이 더 효과적입니다.

Q. 생성형 AI가 일자리에 미치는 영향은 어떠한가요?

A. 맥킨지 조사에 따르면 응답자의 다수(38%)는 향후 3년간 생성형 AI가 조직의 인력 규모에 큰 영향을 미치지 않을 것으로 예상합니다. 그러나 고객 서비스 운영, 공급망 관리 등의 분야에서는 인력 감소가, IT와 제품 개발 분야에서는 인력 증가가 예상됩니다. 또한 AI 데이터 과학자와 같은 특정 기술 인력에 대한 수요는 계속 증가할 전망입니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: 맥킨지

기사는 클로드와 챗GPT를 활용해 작성되었습니다. 

관련 콘텐츠 더보기