Now decides next: Moving from potential to performance
딜로이트(Deloitte)가 발표한 ‘2024년 3분기 기업의 생성형 AI 현황’ 보고서에 따르면, 생성형 AI(Generative AI)의 기업 도입이 빠르게 확대되고 있지만 실질적인 가치 창출과 확장성 확보는 여전히 과제인 것으로 나타났다. 이 보고서는 기업들의 생성형 AI 도입 현황과 주요 과제들을 상세히 분석했다.
응답기업 67% 생성형 AI 투자 확대
조사 결과, 기업들은 생성형 AI를 통해 다양한 이점을 경험하고 있는 것으로 나타났다. 응답 기업의 67%가 생성형 AI에서 강력한 가치를 확인했다며 투자를 확대하고 있다고 답했다. 기업들이 얻은 가장 중요한 이점으로는 효율성과 생산성 향상(34%), 혁신 증대(12%), 제품 및 서비스 개선(10%), 비용 절감(9%), 고객 관계 강화(9%) 등이 꼽혔다. 이는 생성형 AI의 활용 범위가 단순한 효율성 개선을 넘어 다양한 영역으로 확대되고 있음을 보여준다.
그러나 생성형 AI의 가치에 대한 긍정적 평가에도 불구하고, 대다수 기업은 파일럿 프로젝트를 전면 도입으로 확대하는 데 어려움을 겪고 있다. 응답 기업의 68%가 생성형 AI 실험의 30% 이하만을 실제 운영 환경으로 옮겼다고 답했다. 이는 생성형 AI의 전면 도입을 위해서는 전략, 프로세스, 인재, 데이터, 기술 등 여러 요소의 통합적 접근이 필요함을 시사한다.
데이터 관리의 중요성 더욱 커져
특히 데이터 관리의 중요성이 더욱 부각되고 있다. 조사 대상 기업의 75%가 생성형 AI로 인해 데이터 수명 주기 관리에 대한 기술 투자를 늘렸다고 응답했다. 주요 데이터 관련 우려사항으로는 모델에서의 민감 데이터 사용(58%), 데이터 프라이버시 문제(58%), 데이터 보안 문제(57%) 등이 꼽혔다. 이에 따라 기업들은 데이터 보안 강화(54%), 데이터 품질 관행 개선(48%), 데이터 거버넌스 프레임워크 업데이트(45%) 등의 조치를 취하고 있다.
금융 서비스 기업의 최고 운영 책임자 겸 전략 책임자는 “데이터 품질이 핵심이다. 어떤 데이터가 좋은 데이터인지, 그 데이터가 어디에 보관되어 있는지, 어떻게 보안되고 있는지, 어떻게 허용 가능한지 등 모든 것이 생성형 AI를 확장 가능하게 만드는 데 중요하다”고 강조했다.
리스크 관리와 규제 대비의 필요성
리스크 관리와 규제 대비도 생성형 AI 도입의 주요 과제로 지적됐다. 기업들은 규제 준수에 대한 우려(36%), 리스크 관리의 어려움(30%), 거버넌스 모델 부재(29%) 등을 주요 장애요인으로 꼽았다. 이는 기술적 구현 과제나 전략 부재보다 더 큰 문제로 인식되고 있다. 이에 대응하기 위해 기업들은 생성형 AI 도구 사용을 위한 거버넌스 프레임워크 수립(51%), 규제 요구사항 모니터링 및 준수 보장(49%), 내부 감사 및 테스트 실시(43%) 등의 조치를 취하고 있다.
전문 서비스 기업의 최고 분석 책임자는 “과거에는 다소 분산된 접근 방식을 취했지만, 오늘날에는 최소한 모든 것이 개인정보 보호와 컴플라이언스를 거쳐야 한다. 우리는 리스크를 관리하는 체계적인 방법을 가지고 있다. 이는 새롭고 도전적인 과제”라고 말했다.
가치 측정을 위한 프로세스 구축해야
가치 측정의 어려움도 주요 과제로 지적됐다. 많은 기업들이 생성형 AI 이니셔티브의 정확한 영향을 정의하고 측정하는 데 어려움을 겪고 있으며, 응답 기업의 41%가 이 문제를 겪고 있다고 답했다. 현재 기업들은 생성형 AI 성과 평가를 위한 특정 KPI 사용(48%), 투자 평가 프레임워크 구축(38%), 직원 생산성 변화 추적(38%) 등의 방법을 활용하고 있다. 그러나 CFO에게 정기적으로 보고서를 제출하는 기업은 16%에 그쳤다.
기술 산업의 데이터 과학 및 AI 디렉터는 “비용이 제약 조건이 될 때 합리화가 이루어질 것이다. 그때 더 강력한 사용 사례를 가진 팀이 지출하고 ROI를 창출할 수 있을 것”이라고 전망했다.
생성형 AI의 성공적인 도입을 위해서는 여러 과제를 해결해야 한다. 첫째, 데이터 관리 강화가 필요하다. 데이터 품질 개선, 보안 강화, 거버넌스 체계 구축 등을 통해 생성형 AI 모델의 성능과 신뢰성을 높여야 한다. 둘째, 리스크 관리 및 규제 대비가 중요하다. 거버넌스 프레임워크 수립, 규제 모니터링 체계 구축 등을 통해 생성형 AI 사용에 따른 리스크를 최소화해야 한다.
셋째, 체계적인 가치 측정이 필요하다. 재무적, 비재무적 성과를 포괄하는 측정 체계를 개발하여 생성형 AI 투자의 효과를 정확히 파악하고 지속적인 개선을 이끌어내야 한다. 넷째, 인재 육성 및 조직 문화 변화가 요구된다. AI 리터러시 향상, 협업 문화 조성 등을 통해 조직 전체가 생성형 AI를 효과적으로 활용할 수 있는 환경을 만들어야 한다.
마지막으로, 전략적 접근이 중요하다. 단기적 효율성 개선을 넘어 장기적 혁신을 추구하는 방향으로 생성형 AI 전략을 수립해야 한다. 이를 통해 기업은 생성형 AI를 단순한 도구가 아닌 경쟁력의 원천으로 활용할 수 있을 것이다.
결론적으로, 생성형 AI는 기업에 다양한 이점을 제공하고 있지만, 그 잠재력을 최대한 활용하기 위해서는 여러 과제를 해결해야 한다. 기업들은 생성형 AI를 단순히 효율성 향상 도구로 활용하는 데 그치지 않고, 혁신과 새로운 비즈니스 기회 창출을 위한 전략적 자산으로 활용하는 방안을 모색해야 할 것이다.
이를 위해 기술 도입뿐만 아니라 조직 문화, 프로세스, 인재 육성 등 종합적인 접근이 필요할 것으로 보인다. 생성형 AI의 성공적인 도입과 확산은 기업의 디지털 혁신과 경쟁력 강화에 중요한 역할을 할 것으로 예상된다. 앞으로 기업들이 이러한 과제들을 어떻게 극복하고 생성형 AI의 잠재력을 실현해 나갈지 주목된다.
딜로이트의 리포트 원문은 링크에서 확인할 수 있다.
본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
