‘감정 AI’, 비즈니스 소프트웨어의 차세대 트렌드로 부상… 문제점도 지적돼

인공지능(AI)이 기업 전반에 도입되면서 예상치 못한 트렌드가 등장했다. 기업들이 AI 봇에 인간의 감정을 이해시키려는 시도다.

피치북(PitchBook)의 최신 ‘엔터프라이즈 SaaS 신흥 기술 연구’ 보고서에 따르면, 이른바 ‘감정 AI’가 부상하고 있다.

기업들이 AI 비서를 임원과 직원에게 배치하고, AI 챗봇을 영업 및 고객 서비스 최전선에 투입하면서 이 기술의 필요성이 대두됐다. AI가 “그게 무슨 뜻이죠?”라는 질문에 담긴 분노와 혼란을 구분할 수 있어야 한다는 것이다.

감정 AI는 소셜 미디어 등의 텍스트 기반 상호작용에서 인간의 감정을 분석하는 ‘감성 분석’의 발전된 형태로 볼 수 있다. 감정 AI는 시각, 청각 등 다양한 센서 입력을 머신러닝과 심리학과 결합해 상호작용 중 인간의 감정을 탐지하려 한다.

주요 AI 클라우드 제공업체들은 이미 개발자들에게 감정 AI 기능을 제공하고 있다. 마이크로소프트 애저(Microsoft Azure)의 인지 서비스 ‘이모션 API(Emotion API)’와 아마존웹서비스(AWS)의 ‘레코그니션(Rekognition)’ 서비스가 대표적이다.

피치북의 데릭 에르난데스 수석 애널리스트는 “AI 비서와 완전 자동화된 인간-기계 상호작용이 확산되면서 감정 AI가 더 인간다운 해석과 반응을 가능케 할 것”이라고 전망했다.

에르난데스는 테크크런치(TechCrunch)와의 인터뷰에서 “카메라와 마이크가 감정 AI 하드웨어의 핵심”이라며 “이들은 노트북, 휴대폰, 또는 물리적 공간에 개별 배치될 수 있다. 웨어러블 기기도 감정 AI의 또 다른 활용 경로가 될 것”이라고 설명했다.

유니포어(Uniphore), 모프캐스트(MorphCast), 보이센스(Voicesense) 등 다수의 스타트업이 이 분야에 뛰어들었다. 유니포어는 총 6억1000만 달러의 투자금을 유치했으며, 2022년에는 NEA가 주도한 4억 달러 규모의 투자를 받았다.

하지만 감정 AI에 대한 우려도 제기된다. 2019년 한 연구팀은 메타 분석을 통해 인간의 감정을 얼굴 움직임만으로는 판단할 수 없다는 결론을 내렸다. 이는 AI에게 인간의 감정 읽기 방식을 모방하도록 가르치는 접근법에 의문을 제기한다.

유럽연합(EU)의 AI법안과 같은 규제도 이 기술의 발전을 저해할 수 있다. EU AI법안은 교육 분야 등에서 컴퓨터 비전 기반 감정 탐지 시스템 사용을 금지하고 있다.

결국 AI 봇이 고객 서비스, 영업, 인사 등의 업무를 수행하기 위해서는 감정 이해 능력이 필요할 것이다. 그러나 이러한 능력이 부족하다면 AI 봇의 업무 수행 능력에도 한계가 있을 수 있다. 앞으로 우리가 마주할 사무실 생활은 2023년 시리(Siri) 수준의 AI 봇들로 가득할지도 모른다. 이는 회의 중 참석자들의 감정을 실시간으로 추측하는 관리용 봇과 비교해 어느 쪽이 더 나쁜지 판단하기 어려울 정도다.

테크크런치의 기사 원문은 링크에서 확인할 수 있다.