당신을 위한 AI 비서가 온다… 대화하는 AI에서 ‘일하는 AI’로의 진화 로드맵

AI, 어떻게 진화할 것인가?

AI의 3단계 진화: 70%의 기업이 도입한 LLM에서 에이전틱 AI까지

인공지능 발전 속도는 기대치를 뛰어넘고 있다. 현재 대형언어모델(LLM)은 이미 비즈니스 환경에 깊이 뿌리를 내렸으며, 최대 70%의 기업이 LLM 활용 방안을 적극적으로 탐구하거나 이미 적극 활용하고 있다. 하지만 선도적인 기업들은 이미 AI의 ‘다음 단계’를 고민하고 있다. 대형 AI 기업이 구축한 범용 모델에 의존하는 대신, 기업들은 각자의 비즈니스 규모와 성격에 맞는 소형언어모델(SLM)을 도입하려는 움직임을 보이고 있다.

딜로이트가 발표한 리포트에 따르면, 향후 몇 년 안에 더 다양하고 전문화된 소형언어모델의 도입은 기업 내 AI 활용의 목표를 근본적으로 변화시킬 전망이다. AI는 단순히 지식 습득을 보조하는 역할에서 업무의 ‘실행을 보조’하는 방향으로 전환될 가능성이 크다. 이 새로운 시대를 일컫는 ‘에이전틱 AI'(Agentic AI)는 우리가 일하고 생활하는 방식을 근본적으로 바꿀 잠재력을 가지고 있다.

이사회 회의에서 재무 보고서를 전달하거나 보조금 신청서를 작성하는 특정 작업을 수행하는 AI 에이전트는 곧 현실이 될 것이다. 다가올 미래에는 “그 일을 위한 프로그램이나 앱이 있다”는 표현이 “그 일을 위한 AI 에이전트가 있다”라는 말로 바뀔 가능성이 높다.

AI 도입의 현실적 장벽: 기업의 33%만이 운영단계 도달, 데이터 문제가 최대 걸림돌

대형언어모델은 흥미롭지만, 이를 효과적으로 활용하려면 많은 기초 작업이 필요하다. 많은 기업은 자체적으로 모델을 구축하기보다 앤트로픽(Anthropic)이나 오픈AI(OpenAI)와 같은 회사와 협력하거나, 하이퍼스케일러를 통해 AI 모델에 접근하고 있다. 가트너에 따르면, AI 서버는 하이퍼스케일러 전체 서버 지출의 약 60%를 차지할 전망이다.

딜로이트, Fivetran, Vanson Bourne의 최근 조사에 따르면, 대부분의 기업에서 수행한 생성형 AI 실험 중 33% 이하만이 실제 운영 단계에 도달했다. 이는 기업이 AI 프로그램을 실행하는 데 필요한 데이터를 수집하거나 정제하는 데 어려움을 겪기 때문이다.

딜로이트의 2024년 3분기 기업의 생성형 AI 사용 현황 보고서에 따르면, 설문조사에 응답한 기업의 75%가 생성형 AI로 인해 데이터 생애 주기 관리(Data Life-Cycle Management)에 대한 투자를 늘렸다. 데이터는 LLM의 기반이 되며, 잘못된 데이터 입력은 저품질의 아웃풋으로 이어질 수 있다.

기업들이 직면한 데이터 관련 문제로는 AI 파일럿 프로젝트의 확장, 민감한 데이터에 대한 불명확한 규제, 외부 데이터 사용에 관한 문제 등이 있다. 이로 인해 조사 대상 기업의 55%는 데이터 관련 문제로 인해 특정 AI 사용 사례를 피하고 있으며, 동일한 비율의 기업이 데이터 보안을 강화하기 위해 노력 중이다.

목적별 AI 모델의 등장: 75%의 기업이 특화된 소형언어모델 선택하는 이유

LLM은 광범위한 사용 사례를 다룰 수 있지만, 그 범위가 무한한 것은 아니다. LLM은 방대한 자원을 필요로 하고 주로 텍스트를 다루며, 인간의 지능을 보조하도록 설계되었을 뿐 개별적인 작업을 직접 수행하도록 설계된 것은 아니다. 소형언어모델은 일반적인 질문에 답하는 대신, 고도로 정제된 데이터 세트를 통해 특정 문제를 해결하도록 기업이 직접 학습시킬 수 있다. 예를 들어, 기업이 재고 정보를 기반으로 SLM을 학습시키면 직원들은 방대한 데이터를 수작업으로 분석하는 대신 빠르게 인사이트를 얻을 수 있다.

SLM의 중요한 이점은 디바이스 상에서 실행 가능하며 소형 언어로 정제된 데이터 세트를 통해 기업이 특정 문제를 해결하도록 자체적으로 학습시킬 수 있다는 점이다. 마이크로소프트와 미스트랄(Mistral) 같은 기업은 이러한 SLM을 더 적은 매개변수를 사용하여 개발 중이다. 최근 데이터브릭스(Databricks) 보고서에 따르면 기업의 75% 이상이 소형 언어 오픈 소스 모델을 선택하여 목적에 맞게 활용 방법을 조정하고 있다.

에이전틱 AI가 바꿀 미래: 워크로드 90% 감소 가능한 사이버 보안부터 고객 지원까지

에이전틱 AI는 향후 10년 동안 우리의 작업 방식에 변화를 가져올 수 있는 잠재력을 가지고 있다. 에이전틱 AI 모델은 LLM의 질문 및 답변 기능을 넘어 실제 세계에서 개별 작업을 수행한다. 예를 들어, 여행 선호도에 기반해 항공편을 예약하거나, 데이터베이스에 접근해 필요한 작업을 수행하는 자동화된 고객 지원이 가능하다. 빅테크 기업들과 스타트업들은 소프트웨어 개발, 세일즈, 마케팅, 규제 컴플라이언스 등 기능을 일부 자동화하기 위한 초기 단계 에이전틱 AI 솔루션을 개발 중이다. 에이전틱 AI는 다음과 같은 분야에서 활용될 수 있다:

고객 지원: 고객 서비스 업무의 일부를 효과적으로 자동화하면 인력의 스트레스는 줄고 기업은 더 많은 고객에게 서비스를 제공할 수 있다. 에이전틱 AI는 현재의 고객 지원 챗봇보다 더욱 복잡한 고객 요청에 대응할 수 있으며, 자율적으로 문제를 해결할 수 있다.
사이버 보안: 사이버 보안은 전문가 부족난이 심각한 분야로, 현재 전 세계적으로 400만 명의 인력이 부족한 실정이다. 에이전틱 사이버 보안 시스템이 개발되면 자동화를 통해 사람 전문가의 효율성이 한층 개선되며, 워크로드를 최대 90% 줄일 수 있다.
규제 컴플라이언스: 금융서비스와 의료 부문의 기업들은 주기적으로 규제 컴플라이언스 리뷰를 수행해야 한다. 에이전틱 AI 솔루션은 기업들의 규제에 대한 이해와 컴플라이언스를 지원해, 생성형 AI 도입을 가속화하는 데 도움이 될 수 있다.
에이전트 구축 및 조율: 구글의 버텍스(Vertex)나 랭체인(LangChain) 같은 도구를 활용하면 기업들은 자체 에이전트와 멀티 에이전트 시스템을 구축할 수 있다. 예를 들어, 스타트업 패러다임(Paradigm)은 다수의 에이전틱 AI가 협업해 다양한 출처에서 데이터를 수집해 정형화하는 ‘스마트 스프레드시트’를 출시했다.

AI 에이전트 시대의 다섯 가지 핵심 과제: 기존 일자리는 사라질까?

향후 10년 동안 AI는 인간 보조보다는 실행에 초점을 맞출 전망이다. 미래의 직원은 AI 에이전트에게 단순한 언어로 작업을 요청할 수 있을 것이다. 대형 프로젝트의 일부 업무는 AI 에이전트에게 맡기고 AI와 인간이 협력을 통해 프로젝트 전체를 효율적으로 수행하게 될 것이다.

AI의 미래 발전과 관련하여 다음과 같은 중요한 과제들이 있다:

AI 간 커뮤니케이션: 에이전트들은 인간 언어보다 더 효율적으로 서로 소통할 수 있는 방식을 개발할 가능성이 크다. 향상된 AI 간 커뮤니케이션으로 인해, 많은 사람들이 전부 AI 전문가가 되지 않아도 AI를 활용할 수 있게 된다.
직업 대체와 창출: 프롬프트 엔지니어와 같은 일부 직업이 변화하겠지만, 이러한 전문가들의 AI 기술은 여전히 중요하며, 이들은 AI 에이전트와 함께 작업하고 관리하며 훈련하는 데 집중하게 될 것이다.
개인정보 보호 및 보안: 시스템 접근 권한을 가진 에이전트의 확산은 사이버 보안에 대한 광범위한 우려를 불러일으킬 가능성이 있다. AI 에이전트를 최대한 활용하기 위해 위험과 신뢰를 다루는 새로운 패러다임이 필요하다.
에너지와 자원: AI의 에너지 소비는 점점 더 큰 문제로 부상하고 있다. 미래의 AI 개발은 성능과 지속가능성 간의 균형을 맞춰야 하며, 액체 신경망과 같은 효율적인 기술이 중요해질 것이다.
미래를 위한 리더십: AI의 변혁적 잠재력을 최대한 활용하기 위해서는 AI를 단지 기존 방식을 더 빠르게 실행하는 도구로만 사용하는 것이 아니라, ‘다음 단계의 관행’을 창조하는 방향으로 나아가도록 도전해야 한다.

FAQ

Q1: 소형언어모델(SLM)과 대형언어모델(LLM)의 주요 차이점은 무엇인가요?

A1: 소형언어모델(SLM)은 대형언어모델(LLM)과 달리 특정 업무나 영역에 맞춰 최적화된 모델입니다. SLM은 더 적은 매개변수를 사용하며, 기업 데이터로 특화 학습이 가능하고, 디바이스 상에서 직접 실행될 수 있습니다. 반면 LLM은 범용적인 용도로 더 방대한 데이터를 학습했으며, 더 많은 컴퓨팅 자원을 필요로 합니다.

Q2: 에이전틱 AI(Agentic AI)란 정확히 무엇이며 어떤 점에서 혁신적인가요?

A2: 에이전틱 AI는 단순히 질문에 답변하는 것을 넘어, 실제 작업을 자율적으로 수행하는 인공지능입니다. 데이터베이스 접근, 항공편 예약, 재무 보고서 생성 등 특정 업무를 자동으로 완료할 수 있으며, 인간의 최소한의 개입만으로 복잡한 작업 흐름을 실행할 수 있는 점이 혁신적입니다. 이는 기존의 AI가 정보 제공에 중점을 둔 것과 달리, 업무 실행에 초점을 맞추고 있습니다.

Q3: 기업들이 AI 기술을 도입할 때 가장 큰 장애물은 무엇인가요?

A3: 기업들이 AI 기술을 도입할 때 가장 큰 장애물은 데이터 관련 문제입니다. 데이터 품질, 데이터 정제, 민감한 데이터에 대한 규제 문제, 데이터 보안 등이 주요 과제로 꼽힙니다. 많은 기업들이 AI 파일럿 프로젝트를 실제 운영 단계로 확장하는 데 어려움을 겪고 있으며, 설문조사에 따르면 생성형 AI 실험 중 33% 이하만이 실제 운영 단계에 도달했습니다. 또한 AI 인력 부족과 규제 컴플라이언스 문제도 중요한 장애물로 작용하고 있습니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

기사는 클로드와 챗GPT를 활용해 작성되었습니다.