“인간의 대체가 아닌 증강” SAP 수석 AI 책임자가 밝히는 기업 AI 혁명의 실체

SAP는 AI 솔루션이 비즈니스에 실질적인 영향을 미치고 신뢰할 수 있도록 ‘3R’ 프레임워크를 따르고 있다. SAP의 AI 총괄 월터 선(Walter Sun) 박사는 이 프레임워크의 세 가지 핵심 요소를 강조했다. 첫째, 적합성(Relevant)이다. AI는 비즈니스 요구에 맞게 조정되어야 한다. SAP는 산업별 특성을 AI 모델에 반영한다. 예를 들어, 미국의 공급망 기업과 영국의 공급망 기업은 서로 다른 요구사항을 가질 수 있으며, SAP의 AI는 이에 따라 적응한다. 둘째, 신뢰성(Reliable)이다. AI는 정확하고 사실에 기반한 결과를 제공해야 한다. SAP는 그라운딩 기법(검증 가능한 출처에 모델 출력을 연결)과 출처 확인을 사용하여 AI 생성 정보를 검증하고, 환각을 최소화하며 정확성을 극대화한다. 셋째, 책임성(Responsible)이다. AI는 윤리적이고, 설명 가능하며, 규제를 준수해야 한다. 투명성이 SAP 접근 방식의 핵심으로, 사용자가 AI 기반 결정의 논리를 이해할 수 있도록 한다.

SAP는 AI를 세 가지 주요 영역에 통합하고 있다. 첫째, 네이티브 AI 통합이다. AI는 SuccessFactors와 같은 SAP 애플리케이션에 내장되어 사용자가 자연어로 직무 설명을 생성할 수 있게 한다. 둘째, 줄(Joule) AI 코파일럿이다. 줄은 SAP의 디지털 어시스턴트로, 사용자가 SAP 애플리케이션 전반에서 업무를 원활하게 수행할 수 있게 한다. 셋째, 비즈니스 기술 플랫폼(BTP)이다. SAP의 생성형 AI(Gen AI) 허브는 30개 이상의 대규모 언어 모델(LLM)에 접근할 수 있게 하여 기업이 AI 애플리케이션을 구축하고 커스터마이즈할 수 있도록 지원한다.

줄은 SAP의 디지털 코파일럿으로, 비즈니스 애플리케이션 전반에서 자연어 상호작용을 촉진하도록 설계되었다. 이는 사용자와 다양한 AI 에이전트 사이의 가교 역할을 하며, 효율적으로 업무를 조율한다. 예를 들어, 사용자가 출장을 예약하고자 할 때 줄은 다음과 같은 작업을 수행할 수 있다: 사용자와 동료의 일정을 확인하여 모든 관련 당사자가 가능한 시간을 찾고, SAP의 여행 플랫폼과 협력하여 항공편과 호텔을 예약하며, CRM(고객 관계 관리) 시스템과 연결하여 관련 이해관계자에게 알리고 회의를 기록한다.

줄은 SAP 생태계에 깊이 통합되어 있어 다른 AI 에이전트와 차별화된다. 줄은 금융, 공급망, HR, 고객 관계 등 여러 SAP 애플리케이션 간에 상호작용할 수 있어 통합된 AI 기반 경험을 제공한다. 독립형 AI 에이전트와 달리, 줄은 다양한 기업 기능을 연결하여 조직이 부서 간 프로세스를 간소화할 수 있도록 한다.

기업이 AI를 도입하는 주요 동기는 효율성을 높이고 가치를 창출하는 것이다. 조직은 더 짧은 시간에 더 많은 것을 달성하고, 의사결정을 향상시키며, 반복적인 작업을 자동화하기를 원한다. AI 기술(AI 에이전트 포함)은 기업이 이러한 목표를 달성하는 데 도움이 되는 강력한 도구를 제공한다.

또 다른 중요한 요소는 고객 수요다. 최종 소비자와 기업 고객은 원활하고 지능적인 상호작용을 기대한다. AI는 고객 서비스를 향상시키고, 사용자 경험을 개인화하며, 전반적인 비즈니스 효율성을 개선할 수 있다.

하지만 AI 도입은 단순한 자동화를 넘어선다. 이는 경쟁력 유지에 관한 것이다. 역사적으로, 모든 주요 기술적 변화는 승자와 낙오자를 만들어냈다. PC의 장점을 일찍 인식한 조직은 타자기에 머물렀던 조직보다 우위를 점했다. 마찬가지로, 인터넷이 등장했을 때 온라인 연결성을 받아들인 기업은 그렇지 않은 기업보다 더 효율적이었다.

AI는 또 다른 패러다임 전환을 대표한다. 기업들은 경쟁력을 유지하기 위해 AI를 운영에 통합해야 함을 인식하고 있다. 그들은 보안 및 개인 정보 보호와 관련된 위험을 최소화하면서 AI의 잠재력을 탐색하고자 한다.

많은 조직들이 AI를 탐색하고자 하지만 아직 초기 단계에 있으며 신중하게 진행하고 있다. 가장 큰 우려 중 하나는 보안과 개인 정보 보호에 관한 것이다. 조직은 데이터를 보호하면서 AI를 활용하기를 원한다. 또한 AI 모델이 결정을 내리는 방식에 대한 투명성을 원하는데, 이는 시스템에 대한 신뢰를 구축하는 핵심이다. 신뢰는 주요 장애물이다. 기업은 AI 시스템에 자율성을 부여하기 전에 신뢰를 구축해야 한다. 신뢰를 구축하는 한 가지 방법은 “읽기 전용” AI 구현을 통해서다. 여기서 AI는 권장 사항을 제공하지만 최종 결정은 인간이 내린다. 시간이 지남에 따라 AI가 일관되게 신뢰할 수 있는 결과를 제공하면 기업은 더 많은 작업을 자동화하는 데 더 편안함을 느끼게 된다.

데이터 품질은 또 다른 도전 과제다. AI 모델은 고품질의 구조화된 데이터에 의존한다. 품질이 낮은 데이터는 부정확한 AI 출력으로 이어진다. 조직은 AI 효과를 극대화하기 위해 데이터 관리 및 거버넌스에 투자해야 한다.

AI 모델의 편향성도 우려 사항이다. AI는 역사적 데이터에서 학습하는데, 이 데이터에는 편향이 포함될 수 있다. 기업은 AI 의사결정의 공정성과 정확성을 보장하기 위해 트레이닝 데이터를 신중하게 선별하고 편향 완화 기술을 적용해야 한다.

멀티 에이전트 AI 시스템은 서로 다른 AI 에이전트가 협력하여 복잡한 워크플로우를 실행할 수 있게 한다. 분쟁 관리가 좋은 예시다. 고객이 불완전한 배송에 대해 불만을 제기할 때, 금융, 공급망, 고객 서비스 등 여러 부서가 조율해야 한다. 전통적으로 이 과정은 며칠 또는 몇 주가 걸릴 수 있다.

AI 기반 멀티 에이전트 시스템을 사용하면 워크플로우가 간소화된다. 대화형 AI 에이전트가 고객과 상호작용하고 분쟁을 기록하며, 공급망 AI 에이전트는 배송 기록을 검색하여 배송 세부 정보를 확인하고, 금융 AI 에이전트는 송장을 교차 확인하여 결제 및 환불 자격을 확인한다. 그리고 CRM AI 에이전트는 회사 정책에 기반하여 해결 이메일을 작성한다.

한때 광범위한 인간 조율이 필요했던 일이 이제는 몇 분 안에 이루어진다. AI 에이전트는 서로 통신하고, 관련 데이터를 수집하며, 인간 감독자의 최종 승인과 함께 고객에게 완전한 해결책을 제시한다. 이는 효율성과 고객 만족도를 크게 향상시킨다.