기업의 63%가 ‘중요하다’고 말하는 2025년 AI 에이전트 시장 4대 핵심 트렌드

What’s next for AI agents? 4 trends to watch in 2025

언급량 4배 증가, 투자 3배 확대…급성장하는 AI 에이전트 시장

생성형 AI 기술을 기반으로 한 AI 에이전트가 산업계의 핵심 화두로 떠올랐다. AI 에이전트는 최소한의 개입만으로 사용자를 대신해 영업 전망부터 규정 준수 의사결정까지 복잡한 업무를 수행할 수 있는 LLM 기반 시스템이다. 스타트업, 벤처 투자, 기술 트렌드에 관한 심층 데이터와 분석을 제공하는 미국 기반의 시장 정보 플랫폼 CB인사이츠(CBInsights)가 공개한 보고서에 따흐면, 기업 실적 발표에서 AI 에이전트에 대한 언급은 2024년 4분기에 전 분기 대비 4배 증가했으며, 이번 분기에는 다시 두 배로 증가할 것으로 예상된다.

AI 에이전트의 인프라와 애플리케이션을 위한 시장에서 주목할 점은 이 분야 기업 중 절반 이상이 2023년 이후 설립되었다는 점이다. 이와 함께 이 분야의 스타트업에 대한 투자는 2024년에 거의 3배 증가했다. 이러한 현상은 AI 에이전트의 중요성이 급격히 커지고 있음을 보여준다.

빅테크의 지배력 강화: 오픈AI 주간 사용자 4억명, 모델 비용 12개월마다 10배 감소

2025년 AI 에이전트 시장에서 첫 번째 주목할 트렌드는 빅테크와 주요 LLM 개발 기업들이 범용 AI 에이전트 분야를 주도하게 될 것이라는 점이다. 기술 대기업들의 AI 개발 속도와 역량은 2025년에 AI 에이전트를 더 나은 성능, 더 저렴한 비용, 더 광범위한 보급으로 이끌 것이다. 모델 비용은 12개월마다 약 10배씩 감소하고 있으며, 오픈소스와 클로즈드소스 모델 간의 성능 차이도 좁아지고 있다. 이 상황은 LLM 위에 구축된 애플리케이션인 에이전트에게 유리한 환경을 조성하고 있다. 예를 들어, 2024년의 음성 AI 모델 발전과 오픈AI의 실시간 API 출시는 다양한 사용 사례에서 음성 애플리케이션의 성장을 촉진했다.

기업 전략팀의 40%가 위험 관리를 생성형 AI 공급업체 선정의 주요 기준으로 꼽고 있다. 위험 회피 성향이 강한 기업들은 특히 이미 협업 중인 빅테크와 클라우드 제공업체를 선호할 가능성이 높다. 또한 오픈AI의 챗GPT는 4억 명의 주간 사용자를 보유하고 있어 2025년 1월에 출시한 오퍼레이터(Operator)와 같은 자체 에이전트를 배포하는 데 큰 이점을 가지고 있다.

과열되는 수평적 시장, 살아남는 전략은 고객 데이터 활용과 산업 전문화

기업 시장에서 AI 에이전트 스타트업들은 기업의 데이터를 보다 광범위하게 활용하여 더 강력한 솔루션을 구축하고, 산업 전문화를 통해 자신들의 플랫폼을 차별화할 것이다. 현재 민간 AI 에이전트 시장의 절반 가량이 고객 지원이나 코딩과 같은 수평적 애플리케이션과 직무 기능을 대상으로 하고 있다. 자금과 거래도 시장의 이 부문에 집중되어 있다.

가장 혼잡한 시장은 기업 수 기준으로 고객 지원, 소프트웨어 개발, 영업, 일반 기업 워크플로우(IT, 재무, 운영과 같은 여러 기능에 걸쳐 프로세스를 자동화하기 위해 맞춤화할 수 있는 사전 구축된 에이전트 포함) 분야다. 이러한 영역에서 차별화에 실패하는 기업들은 2025년에 경쟁력을 잃을 것이다.

성장을 지속하기 위해 기업들은 기본적인 AI 기능을 넘어 더 깊은 워크플로우, 통합, 팀 협업 도구를 개발해야 한다. 이러한 기능은 제품을 더 고착화시키고 빠르게 따라오는 경쟁자들에 대한 진입 장벽을 높인다. 예를 들어, 매출과 모자이크 스타트업 건전성 점수를 기준으로 주목할 만한 견인력을 가진 기업들은 고객 데이터를 활용하여 경쟁 우위를 구축하고 있다.

체계화되는 인프라 생태계: 데이터 큐레이션부터 웹 검색까지, 성장하는 지원 기술들

AI 에이전트를 구축, 배포, 관리하는 기업들을 위한 현재 시장은 여전히 대부분 분산되어 있다. 기반 모델과 함께 프로덕션 단계의 AI 에이전트를 만들기 위해서는 여러 도구와 프레임워크를 통합해야 한다. 에이전트 개발의 다양한 측면을 간소화하기 위해 새로운 범주들이 형성되고 있다. 여기에는 데이터 큐레이션, 웹 검색 및 도구 사용, 평가 및 관찰 가능성이 포함된다. 데이터 큐레이션을 위해 라마인덱스(LlamaIndex)와 언스트럭쳐드(Unstructured)와 같은 솔루션은 기업들이 비구조화된 데이터를 에이전트가 상호작용하는 동안 사용할 수 있는 AI 준비 데이터셋으로 전환할 수 있게 해준다.

또한 완전한 스택 솔루션을 찾는 조직들은 포괄적인 AI 에이전트 개발 플랫폼의 부상을 주도하고 있다. 일부 업체들은 노코드 또는 로우코드 솔루션을 제공하여 심층 AI 전문 지식이 없는 팀도 AI 에이전트를 구축하고 배포할 수 있게 함으로써 에이전트 개발을 민주화하고 있다.

기업 도입의 현주소: 63% 관심 표명, 그러나 신뢰성·보안(47%)과 구현(41%) 장벽 여전

기업 세계는 AI 기반의 ‘디지털 워커’ 물결을 맞이할 준비를 하고 있다. CB인사이츠가 2024년 12월에 설문조사한 조직의 63%가 향후 12개월 동안 AI 에이전트에 “많은 중요성을 부여”하고 있으며, 모든 조직이 최소한 이를 실험하고 있다. 향후 1년 동안 더 많은 구현이 이루어질 것으로 예상된다. 기존 엔터프라이즈 소프트웨어 기업들도 자사 제품과 내부 사용에 AI 에이전트를 통합하여 시장 검증을 더욱 강화하고 있다. 예를 들어, 트윌리오(Twilio)는 최근 실적 발표에서 AI 에이전트를 활용하여 고객 지원 문의를 해결하고 영업 개발 담당자(SDR) 이전에 인바운드 리드를 검증한 사례를 강조했다.

그러나 많은 조직들은 에이전트 배포에 걸림돌을 겪고 있으며, 다음과 같은 우려를 제기하고 있다.

첫째, 신뢰성과 보안(응답자의 47%)으로, 기업들은 데이터 프라이버시 문제를 해결하고 특히 고객 대면 사용 사례에서 에이전트 출력의 일관된 정확성을 보장해야 한다.

둘째, 구현(41%)으로, 조직들은 에이전트를 레거시 시스템 및 데이터 소스와 통합하는 데 기술적 장애물에 직면한다.

셋째, 인재(35%)로, 기업들은 배포를 위한 기술 전문성과 채택을 추진하기 위한 변화 관리 역량이 모두 필요하다.

이와 함께 성공적인 에이전트 배포는 견고한 데이터 인프라에 의존한다. 내부 기관 지식과 외부 시장 인텔리전스를 모두 포함하는 지식 기반을 효과적으로 관리할 수 있는 조직들이 AI 에이전트에서 가치를 창출하는 데 가장 유리한 위치에 있게 될 것이다.

FAQ

Q.AI 에이전트란 무엇이며 기존 AI와 어떻게 다른가요?

A: AI 에이전트는 최소한의 개입만으로 사용자를 대신해 복잡한 업무를 수행할 수 있는 LLM 기반 시스템입니다. 기존의 채팅봇이나 단순 AI 도구와 달리, AI 에이전트는 영업 전망부터 규정 준수 의사결정까지 더 복잡하고 다단계적인 작업을 자율적으로 수행할 수 있습니다.

Q.기업이 AI 에이전트 도입 시 가장 큰 장애물은 무엇인가요?

A: 기업들이 AI 에이전트 도입 시 직면하는 주요 장애물은 신뢰성 및 보안 문제(47%), 레거시 시스템과의 통합 등 구현 문제(41%), 그리고 배포와 변화 관리를 위한 전문 인력 부족(35%)입니다. 이러한 문제를 해결하기 위해 많은 기업들이 인간 개입 감독 방식과 견고한 데이터 인프라 관리에 투자하고 있습니다.

Q.중소기업도 AI 에이전트를 활용할 수 있나요?

A: 네, 여러 AI 에이전트 개발 플랫폼이 노코드나 로우코드 솔루션을 제공하면서 심층 AI 전문 지식이 없는 팀도 AI 에이전트를 구축하고 배포할 수 있게 되었습니다. 이러한 민주화된 접근 방식으로 중소기업도 AI 에이전트 기술을 활용하여 경쟁력을 강화할 수 있습니다. 또한 모델 비용이 12개월마다 약 10배씩 감소하고 있어 경제적 진입 장벽도 낮아지고 있습니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: CBInsights

기사는 클로드와 챗GPT를 활용해 작성되었습니다.