Multi-agent AI – 21st century automation revolution
자동화 혁명의 새로운 물결, 에이전트형 AI의 등장
자동화는 수세기 동안 경제 변혁의 근간이 되는 기술이었다. 18세기 후반과 19세기 영국의 산업혁명, 제2차 세계대전 이후 미국의 경제 호황, 1960년대부터 시작된 한국의 산업화까지 모두 생산성, 효율성, 수익성을 높이기 위해 자동화를 활용했으며, 결과적으로 경제와 사회의 급진적 변화를 이끌었다.
캡제미니가 공개한 리포트에 따르면, 21세기에 들어서는 에이전트형 AI(Agentic AI)의 확산과 함께 새로운 자동화의 물결이 경제 전반에 나타나고 있다. 인공지능 에이전트는 환경과 상호작용하고 데이터를 수집해 사전에 정의된 목표를 자율적으로 수행하는 소프트웨어 프로그램이다. 로봇 프로세스 자동화(RPA)와 머신러닝(ML) 기술에서 진화한 AI 에이전트는 변화하는 환경에서 인식하고, 추론하며, 행동해 목표를 달성한다. 목표 달성 방법은 주로 에이전트 스스로 결정하게 된다.
AI 에이전트는 사용자와 상호작용하고 자율적이고 효율적으로 작업을 수행하기 위해 다양한 첨단 기술을 활용한다. 대규모 언어 모델(LLM)은 종종 AI 에이전트와 사용자 간의 주요 인터페이스 역할을 한다. LLM은 주로 텍스트와 같은 방대한 데이터셋으로 훈련된 기초 모델의 일종으로, 패턴을 인식함으로써 지식을 인코딩하여 AI 에이전트가 추론하고, 의사결정을 내리며, 소통할 수 있게 한다. 에이전트는 자연어 처리(NLP)를 사용해 인간과 유사한 텍스트나 음성 응답을 이해하고 생성할 수 있어, 인간-AI 상호작용이 더 자연스럽고 효율적으로 이루어진다.
자율성과 적응력을 갖춘 AI 에이전트, 6가지 핵심 특성으로 차별화
생성형 AI가 대중적 현상으로 자리 잡은 이후 기업들은 자사 버전을 만들기 위해 서둘러 왔다. 이러한 AI는 법률, 인사, 기술 분야에서 특히 문서의 고급 검색, 분석, 상호작용에 활용되고 있다. 이전 시스템보다 개선되었지만, 여기서 멈춘다면 그 잠재력을 과소평가하는 것이다. LLM은 점진적으로 개선되고 있다. 2년 전에는 검색 증강 생성(RAG)을 사용한 LLM이 요약을 생성했지만, 현재의 LLM은 향상된 검색 방법을 사용해 더 정교한 출력물을 생성할 수 있다.
독립형 LLM을 사용하는 것과 다중 에이전트 시스템을 활용하는 것의 근본적인 차이점은 후자의 경우 개별 에이전트가 특정 작업에 특화되어 생성되고 서로 협력할 수 있다는 점이다. 이들은 단순히 언어 처리에 국한되지 않으며, 웹 검색, API, 전용 데이터베이스와 같은 외부 도구와 통합하여 더 복잡한 작업을 수행할 수 있다.
에이전트형 AI가 가져오는 구체적, 무형적 가치
왜 기업들이 에이전트형 AI 경로를 택해야 할까? 간단히 말해, 조만간 가능한 모든 비즈니스 기능에 도입될 것이기 때문이다. 캡제미니 연구 보고서에 따르면, 조직의 82%가 2027년까지 AI 에이전트를 통합할 계획이다.
에이전트형 AI로 전환하는 데는 비용 절감 외에도 더 많은 이유가 있다. 영국 고객 만족도 조사에 따르면, 고성능 조직의 특징은 “사람과 기술의 적절한 균형으로 속도, 효율성, 개인적 케어를 결합하는 것”이다. 즉, 이상적인 소매 고객 서비스 경험은 인간의 공감과 기술적 효율성의 조합이다. 따라서 기업은 경쟁사보다 앞서 고객에게 제공하는 서비스를 개선하고 차별화하기 위해 에이전트형 AI를 활용할 수 있다. 예를 들어, 특정 고객층에 맞는 커뮤니케이션 채널과 스타일을 추가할 수 있다.
기업들은 고객 및 IT 지원 서비스를 재조직하여 AI 에이전트를 하이브리드 모델로 활용함으로써 품질 표준을 높이고 있다. 예를 들어, AI 에이전트는 과거 고객 상호작용 데이터를 기반으로 고객 문의에 대한 응답을 자동으로 작성할 수 있다.
더 야심 찬 사례로, 에이전트가 클라이언트 문제를 담당할 수 있다. 이전에는 고객이 제품 환불을 요청하기 위해 챗봇에 연락했을 때 비표준적인 요청이라면 챗봇이 인간 고객 서비스 담당자에게 문제를 확대했다. 그러나 이제 AI 에이전트는 구매 증명이나 제품 사진과 같은 추가 정보를 고객에게 요청하고, 문의를 분석하여 가능한 해결책을 제시할 수 있다. 상황이 예외를 정당화한다면 표준 절차를 무시하는 결정을 단독으로 내릴 수 있으며, 인간의 개입 없이 문제를 해결할 가능성이 높다.
자율성과 적응력, 6가지 핵심 특성으로 무장한 차세대 AI 기술
AI 에이전트 시스템은 전반적인 생산성, 서비스 품질, 고객 만족도 및 충성도를 높인다. 이를 위해서는 에이전트와 에이전트 간, 에이전트와 인간 간 교류를 프레임워크, 규칙, 위험, 프로토콜에 따라 설계하는 것이 중요하다.
이전 기술과 달리 AI 에이전트는 자율성을 갖추어 스스로 결정을 내리고 행동하며, 특정 목표 달성을 위해 작업을 수행하는 목표 지향적 특성을 보인다. 또한 관련 데이터를 활용해 맥락을 인식하며 의사결정을 하고, 데이터나 상호작용이 변함에 따라 행동과 응답을 조정하는 적응성을 갖추고 있다. 사용자 프롬프트 없이도 독립적으로 행동을 시작하는 선제성과 인간 언어를 해석하고 응답하는 언어 인식 능력도 갖추고 있다.
AI 에이전트를 구축하기 위해서는 먼저 에이전트의 역할을 명확히 정의하고, 활용할 데이터를 식별하며 그 위치를 파악해야 한다. 또한 에이전트가 수행할 작업이나 목표를 명확히 정의하고, 가드레일을 통해 에이전트의 행동 경계를 설정해야 한다.
다중 에이전트 시스템에서는 각 에이전트가 분산화된 구조 내에서 다른 에이전트와 협력하면서 자체적인 전문 역할을 갖는다. 이들은 공동으로 더 복잡한 작업을 해결할 수 있다. 예를 들어, 보험 청구 처리에서 한 에이전트가 문서를 확인하고, 다른 에이전트가 정책 기준을 평가하며, 세 번째 에이전트가 지불을 처리하여 공동으로 작업을 완료한다.
AI 에이전트는 고객 서비스에서 맞춤형 응대를 제공하고, 사용자 행동 패턴에 기반한 콘텐츠 추천을 수행한다. 또한 시스템이나 프로세스를 실시간으로 모니터링하며, 효율적인 재고 관리를 통해 과잉재고나 재고 부족 문제를 예방한다. 빅데이터를 분석하여 미래 트렌드를 예측하는 예측 분석 기능과 이상 패턴을 감지하는 사기 감지 능력도 갖추고 있다. 복잡한 일정과 작업을 관리하고, 제조 환경에서 여러 기계와 프로세스를 조율하는 역할도 수행한다.
조직의 80%가 분산 저장하는 데이터, AI 에이전트를 위한 산소와 같은 자원
다중 에이전트 프로세스의 시각적 표현은 전통적인 조직 프로세스 다이어그램과 매우 유사할 수 있다. 조직이 에이전트 시스템으로 전환함에 따라 비즈니스 전문가는 AI 전문가와 긴밀히 협력하여 이러한 프로세스를 효과적으로 설계하고 간소화해야 한다. 그러나 기존 시스템에 AI 에이전트를 통합하는 것은 주의 깊게 관리하지 않으면 복잡하고 운영을 방해하며 불안정하게 만들 수 있다.
실제 활동을 정확하게 반영하는 아키텍처를 구축하려면 먼저 비즈니스 운영에 대한 디지털 설명과 정의를 만들어야 한다. 그런 다음 명확하게 정의된 작업을 필요에 따라 AI 에이전트에 매핑할 수 있다. 이 접근 방식은 비즈니스에 미리 정의된 아키텍처와 사람들에게 원형을 부과하는 전통적인 방법과 대조된다.
에이전트 중심 기업에서 에이전트 상호작용을 모델링하는 것은 내부 및 외부 당사자 간의 커뮤니케이션과 거래를 시각화하는 것을 포함한다. 이는 전통적인 비즈니스 프로세스 모델링과 유사하게 기본 동기를 이해하는 것을 포함한다. 조직은 가치 사슬뿐만 아니라 전체 가치 네트워크를 정확하게 표현하기 위해 이러한 모든 상호작용을 매핑해야 한다.
데이터 단편화가 AI 에이전트의 효과적인 작업을 방해하므로 전체 에이전트 아키텍처의 기반으로서 데이터를 최적화해야 한다. 주목할 만한 점은 조직의 80%가 데이터의 50% 이상을 하이브리드 및 멀티 클라우드 인프라에 분산 저장하고 있어 통합, 가용성 및 관리가 복잡해진다는 것이다. 이는 AI 에이전트 배포와 효과에 직접적인 영향을 미칠 수 있다.
에이전트 사용을 위한 데이터 최적화는 여러 단계의 통합적 접근이 필요하다. 첫째로 데이터의 정확성, 일관성, 완전성 등 데이터 품질을 종합적으로 평가해야 한다. 둘째, 데이터의 접근성과 보안을 균형 있게 관리할 수 있는 거버넌스 체계를 구축해야 한다. 셋째, AI 에이전트가 의사결정에 필요한 고품질 데이터를 실시간으로 접근할 수 있는 데이터 파이프라인을 구축해야 한다. 넷째, 데이터 흐름과 품질을 지속적으로 모니터링하며, 마지막으로 피드백 루프를 통해 데이터 시스템을 계속 개선해 나가야 한다.
신용대현금 프로세스의 57개 마이크로 작업, 단계적 혁신으로 AI 자동화로 진화
금융 및 회계 디지털 운영과 같은 신용 대 현금 프로세스에 프레임워크를 적용하면 6개의 하위 프로세스, 12개의 매크로 작업, 57개의 마이크로 작업으로 세분화할 수 있다. 이러한 세분화는 자동화 과정의 첫 단계로, 프로세스의 복잡성을 이해하고 효율적인 자동화 전략을 수립하는 데 필수적이다.
먼저 더 간단한 자동화 옵션을 평가하지 않고 바로 에이전트형 AI로 뛰어드는 것은 문제를 찾기 위한 해결책을 만드는 것과 같다. 정의된 안정적인 입력과 처리가 있는 작업에 대해서는 RPA와 스크립트만으로도 자동화를 달성할 수 있다. 에이전트형 AI는 변수 입력과 다양한 유형의 처리가 있는 작업에 대한 고급 차세대 자동화인 하이퍼 자동화를 달성하기 위해 특별히 채택되어야 한다.
에이전트형 AI로의 진화 과정은 세 가지 주요 단계로 구성된다.
첫째, 프로세스 매핑 단계에서는 자동화를 위한 준비 작업으로 비즈니스 프로세스를 하위 프로세스, 매크로 작업, 마이크로 작업으로 체계적으로 분류한다. 이 과정에서 각 작업의 특성과 자동화 가능성을 평가한다.
둘째, 기존 아키텍처를 자동화 구성 요소로 변환하는 단계에서는 작업의 특성에 따라 적절한 자동화 기술을 적용한다. 정의되고 안정적인 입력이 있는 작업에는 RPA나 스크립트를 활용하고, 변수 입력 및 다양한 유형의 처리가 필요한 복잡한 작업에는 에이전트형 AI를 도입한다.
마지막으로, 완전 자동화가 어려운 작업들에 대해서는 생성형 AI로 구동되는 AI 어시스턴트를 도입하여 인간 작업자의 생산성과 효율성을 높이는 방식으로 보완한다.
자율적 의사결정이 가능한 AI, 네 가지 중요 시점에서 인간의 승인이 필요
앞서 언급했듯이, 다중 에이전트 시스템을 비에이전트형 생성 AI 시스템과 구별하는 것은 특수 역할, 분산 의사결정, 자율 조정 및 협업을 위한 기능이다. 그 복잡성이 높아 특정 거버넌스 전략이 필요하다.
다중 에이전트 시스템에서 에이전트는 독립적으로 행동할 “신뢰”를 받으면서도 모니터링되며, 인간의 감독은 선택적으로 사용된다. AI 에이전트는 명확하게 정의된 거버넌스 프레임워크가 필요한데, 특히 네 가지 중요한 시점에서 인간의 승인이 요구된다.
첫째, 에이전트의 초기 구성 단계에서는 목표와 역할 설정에 인간의 지침이 필요하다.
둘째, 워크플로우 내 핵심 의사결정 시점에서는 중요한 결정에 대한 검증이 필요하다.
셋째, 에이전트가 개인정보나 민감한 기업 데이터와 같은 민감한 데이터와 상호작용하기 전에는 데이터 접근에 대한 승인이 필요하다.
마지막으로, 다른 에이전트나 인간 직원과 협업하는 작업에서는 원활한 통합을 위한 조정이 필요하다.
인간의 개입은 AI 에이전트의 의사결정이 편향되거나, 부정확하거나, 회사 윤리를 위반할 경우의 안전장치이다. 이러한 “부적절한 행동”은 클라이언트 및 직원 신뢰를 손상시키고, 브랜드 평판에 부정적인 영향을 미치거나, 법적 위반을 초래할 수 있다.
바이어스, 공정성, 운영 성능에 대한 준수 및 실패 테스트가 필수적이다. 목표는 실패 지점을 확립하고 가드레일의 경계를 정의하는 것이다. 결과는 에이전트가 규정을 준수함을 입증하고 실패 시 비상 계획의 기초가 되어야 한다.
AI 에이전트의 자율성으로 인해 오류를 추적하고 근본 원인을 파악하는 것이 더 복잡해진다. 결함이 발생하면 일반적인 IT 형태의 고장이 아니다. 각 작업 인스턴스의 복잡성, 정교함, 고유성으로 인해 문제 재현이 더 어렵다. 효과적인 모니터링과 오류 추적을 위해서는 수행된 작업, 취한 조치, 평가 지표, 에이전트의 내부 상태를 체계적으로 기록해야 한다.
이러한 사항은 개념 증명 단계에서 정의 및 테스트되고 에이전트의 전체 수명 주기 동안 필요에 따라 업데이트된다. 에이전트형 AI 시스템을 효과적으로 관리하기 위해서는 인간 직원을 채용하고 온보딩하는 것과 유사하게 각 에이전트를 특정 역할에 맞게 세심하게 구성해야 한다.
또한 EU의 GDPR이나 AI 법과 같은 관련 법률 및 규제를 준수하는지 철저히 검증하는 과정이 필요하다. 인간-에이전트 간 원활한 소통과 효율적인 업무 수행을 위한 협업 체계를 설계하고, 직원들이 새로운 AI 기술을 수용하고 활용할 수 있도록 체계적인 교육 프로그램을 통해 변화 관리를 주도해야 한다.
이미 한발 앞선 산업 및 분야
전 세계 경제에 에이전트형 AI가 등장함에 따라 조직들은 생산성과 비용 절감 측면에서 프로세스의 적합성과 잠재적 이익을 검토할 것이다. 다음 산업 및 분야들은 이미 에이전트형 AI 여정을 시작했으며, 도입 전문성이 확산됨에 따라 더 많은 분야가 참여할 것이다.
소비자 산업에서는 노인과 병약자를 감독하고, 잃어버린 물건을 찾으며, 가정 보안을 감시하는 데 사용되는 AI 기반 대화형 홈 어시스턴트 기기가 활용되고 있다. 제조업에서는 공장 성능과 안전 규정 준수 향상을 위한 스마트 카메라 기반 프로세스 모니터링 시스템이 도입되고 있다. 생명과학 분야에서는 약물 메커니즘, 질병 진행 및 임상 결과에서 실행 가능한 통찰력을 추출하는 신약 발견 지원 시스템과 임상 시험 설계 개선 및 중간 조정을 위한 실시간 데이터 모니터링 체계가 구축되고 있다.
금융 서비스 부문에서는 의심스러운 거래를 식별하고 적절한 대응을 시작하는 사기 감지 에이전트와 개인화된 투자 전략을 만들고 클라이언트 포트폴리오를 동적으로 모니터링하는 금융 계획 및 투자 관리 서비스가 활용되고 있다. 소매 및 공급망 영역에서는 매장 내 선반과 창고를 모니터링하고 재고 유지 단위(SKU) 코드를 사용하여 자동으로 재고 보충을 트리거하는 AI 기반 에이전트가 도입되고 있다.
FAQ
Q. 다중 에이전트 AI와 일반 생성형 AI의 차이점은 무엇인가요?
A: 다중 에이전트 AI는 각 에이전트가 특정 작업에 특화되어 서로 협력할 수 있는 시스템입니다. 일반 생성형 AI와 달리 언어 처리에만 국한되지 않고, 외부 도구와 통합하여 더 복잡한 작업을 자율적으로 수행할 수 있습니다. 또한 분산 의사결정, 자율 조정 및 협업 기능이 특징입니다.
Q. 기업이 에이전트형 AI를 도입해야 하는 주요 이유는 무엇인가요?
A: 비용 절감 외에도 전반적인 생산성, 서비스 품질, 고객 만족도 및 충성도를 높일 수 있기 때문입니다. 특히 변수 입력과 다양한 유형의 처리가 필요한 복잡한 작업에서 하이퍼 자동화를 달성할 수 있습니다. 카프제미니 연구에 따르면 조직의 82%가 2027년까지 AI 에이전트를 통합할 계획이라는 점도 주목할 만합니다.
Q. 에이전트형 AI 시스템을 안전하게 운영하기 위한 주요 고려사항은 무엇인가요?
A: 명확한 거버넌스 프레임워크, 가드레일 설정, 인간의 적절한 감독이 필요합니다. 바이어스, 공정성, 운영 성능에 대한 준수 및 실패 테스트가 필수적이며, 에이전트 활동의 체계적인 로깅과 모니터링도 중요합니다. 또한 초기 구성, 중요한 의사결정 시점, 민감한 데이터 처리 전에 인간의 승인이 필요한 시점을 명확히 정의해야 합니다.
해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.
이미지 출처: 캡제미니
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
