“문제만 말하면 알아서 해결” 에이전틱 AI가 바꾸는 인간과 기술의 관계

Business, meet agentic AI

챗봇에서 다중 에이전트까지, 50년간의 진화 여정

에이전틱 AI(Agentic AI)의 역사는 50년 전으로 거슬러 올라간다. 캡제미니(Capgemini)의 AI 퓨처스 랩(AI Futures Lab)이 발표한 연구 보고서에 따르면, 초기 웹사이트 도움말 도구와 같은 단순한 챗봇에서 시작된 기술이 오늘날 다중 에이전트 시스템으로 발전했다. 이 여정은 자동화(Automation)와 통합(Integration)이라는 두 축을 중심으로 진행되었다.

초기 챗봇은 제한된 독립성과 통합 능력만을 보여주었지만, 통합 기능이 향상되면서 코파일럿(Co-pilot) 시스템이 등장했다. 이러한 고급 도구들은 여러 시스템의 데이터에 접근하고 해석할 수 있었지만, 대부분 조언만 제공할 뿐 독립적으로 행동할 수는 없었다. 이후 오토파일럿(Autopilot) 시스템이 나타나면서 특정 작업을 독립적으로 수행할 수 있게 되었고, 오늘날에는 높은 수준의 독립성과 통합 능력을 모두 갖춘 다중 에이전트 AI 시스템이 등장했다.

온도조절기부터 스파이까지, 자율성-권한-행위성으로 보는 에이전트 세계

진정한 에이전트가 되기 위한 핵심은 행동 능력이다. AI 시스템이 아무리 정교한 분석과 추천을 제공하더라도, 스스로 행동을 실행할 수 없다면 이는 어시스턴트나 코파일럿일 뿐 에이전트가 아니다. 에이전트는 자율성(Autonomy), 권한(Authority), 행위성(Agency)이라는 세 가지 핵심 속성으로 정의된다.

자율성은 외부 지시 없이 독립적으로 결정을 내릴 수 있는 정도를 나타낸다. 자율적 시스템은 상황을 평가하고 옵션을 생성하며 인간의 개입 없이 행동을 선택한다. 행위성은 그러한 결정을 환경에 영향을 미치는 구체적인 행동으로 실행할 수 있는 능력을 의미한다. 권한은 에이전트가 취할 수 있는 행동의 범위와 한계를 정의한다.

흥미롭게도 인간 사회의 다양한 전문 에이전트들이 이러한 개념을 잘 보여준다. 부동산 중개인은 부동산 마케팅에 높은 자율성을 가지지만 최종 가격 협상과 계약 조건에서는 제한된 행위성을 보인다. 반면 보험 에이전트는 전문 지식과 보험 상품의 복잡성으로 인해 더 큰 행위성과 자율성을 갖는다.

챗GPT는 진짜 에이전트가 아니다… LLM의 실제 역할과 한계

대규모 언어 모델(LLM)과 에이전트를 동일시하는 것은 일반적인 오해다. 많은 시스템이 에이전트로 마케팅되고 있지만, 실제로는 진정한 에이전틱 능력이 없는 LLM에 불과한 경우가 많다. 정교한 언어 처리 및 생성 능력을 가지고 있음에도 불구하고, 이러한 시스템들은 행위성, 즉 행동을 취할 수 있는 능력이 부족하다.

진정한 에이전트 아키텍처에서 LLM이 사용될 때, 그 역할은 사람들이 생각하는 것과 다르다. 지식/이해 레이어로 기능한다고 여겨지는 경우가 많지만, LLM은 일반적으로 해석 레이어로서 기능한다. 멀티모달리티와 자연어 처리와 같은 능력에서 뛰어나지만, 전문화된 비LLM 지식 시스템과 비교했을 때 포괄적인 추상화와 세계 모델링에는 제한이 있다.

LLM이 에이전틱 시스템을 더 인기 있게 만든 이유는 에이전시 자체를 변화시켜서가 아니라 해석 능력의 극적인 개선을 통해서다. 자연어는 목표, 제약 조건, 선호도에 대해 인공 시스템과 소통할 수 있는 범용 인터페이스를 제공하며, 맞춤형 통합 프로토콜 없이도 에이전트들이 서로 소통할 수 있게 해준다.

온도조절기에서 배우는 교훈 – 세계 모델과 클립 최대화 실험의 위험성

효과적인 에이전시는 맥락적 이해를 필요로 한다. 에이전트는 AI 용어로 “세계(worlds)”라고 알려진 특정 환경 내에서 작동한다. 이러한 세계는 에이전트가 인지하고 영향을 미칠 수 있는 모든 것을 나타낸다. 에이전트의 이 환경에 대한 내부 표현, 즉 세계 모델이 적절한 결정을 내리고 효과적인 행동을 취할 수 있는 능력을 결정한다.

간단한 세계 모델을 가진 온도조절기는 온도 값만 인식한다. 반면 더 풍부한 세계 모델을 가진 고급 온도조절기는 거주 패턴, 열역학 모델, 날씨 예보, 유틸리티 가격 역학, 사용자 선호도를 통합할 수 있다. 이러한 향상된 맥락적 이해는 예상 거주나 유틸리티 요금 변화를 기반으로 온도를 선제적으로 조정하는 등 겉보기에 지능적인 행동을 가능하게 한다.

부적절한 세계 모델은 필연적으로 차선의 성과를 낳는다. 고객 기록, 선호도, 상황에 대한 맥락적 이해가 부족한 고객 서비스 에이전트는 언어 능력이나 사용 가능한 행동과 관계없이 불만족스러운 경험을 제공할 것이다. 세계 모델은 지능적 의사결정을 위한 맥락적 기반을 제공한다.

FAQ

Q: 에이전틱 AI와 일반적인 AI 시스템의 가장 큰 차이점은 무엇인가요?

A: 가장 큰 차이점은 행동 능력입니다. 일반적인 AI 시스템이 분석이나 추천만 제공한다면, 에이전틱 AI는 스스로 결정을 내리고 실제 행동을 실행할 수 있습니다. 즉, 문제 해결 방법을 정의하는 것이 아니라 문제만 제시하면 되는 혁신적인 기술입니다.

Q: 에이전틱 AI 도입 시 기업이 가장 주의해야 할 점은 무엇인가요?

A: 목적 정렬(Purpose Alignment)이 가장 중요합니다. 에이전트가 의도된 목적에서 벗어날 때 정렬 문제가 발생하며, 이는 불명확한 목적 정의, 부정확한 세계 모델, 예상치 못한 행동 등으로 인해 나타날 수 있습니다. 강력한 거버넌스 구조와 위험 관리 체계가 필수적입니다.

Q: 대규모 언어 모델(LLM)을 사용하지 않고도 에이전틱 AI를 구현할 수 있나요?

A: 네, 가능합니다. 에이전트가 되기 위해 AI 구성 요소가 반드시 필요한 것은 아닙니다. 간단한 온도조절기부터 자동차의 운전 보조 시스템, 복잡한 산업 제어 시스템까지 많은 비AI 시스템들이 에이전트로 기능합니다. 특정 요구사항에 따라 더 단순한 페이로드가 더 확장 가능한 에이전틱 기술 배포를 가능하게 할 수 있습니다.

해당 기사에서 인용한 보고서는 링크에서 확인할 수 있다.

이미지 출처: 캡제미니

기사는 클로드와 챗GPT를 활용해 작성되었습니다.