AI 열풍 속 ‘허위 광고’ 주의보…”AI 워싱” 주의

최근 인공지능(AI) 기술이 급속도로 발전하면서 많은 기업들이 AI를 활용한다고 홍보하고 있다. 하지만 실제로는 AI 기술을 사용하지 않으면서 AI를 활용한다고 과장하는 ‘AI 워싱(AI Washing)’ 사례가 늘어나고 있어 주의가 필요하다.

KB경영연구소는 지난 8월 ‘너도나도 AI 말로만 AI 외치는 ‘AI워싱’주의보’ 보고서를 통해 AI워싱 사례에 대한 문제를 제기했다. AI 워싱은 환경 친화적이지 않은 기업이 친환경적인 것처럼 홍보하는 ‘그린워싱(Greenwashing)’과 유사한 개념으로, AI에 대한 정의가 광범위하고 느슨하게 사용되고 있다는 점도 AI 워싱의 등장 배경 중 하나다.

기업들이 AI 워싱을 하는 이유는 크게 두 가지다. 첫째, 투자 유치에 유리하다. 《포브스(Forbes)》에 따르면 투자 유치 시 AI를 언급한 스타트업이 그렇지 않은 경우보다 15~50% 더 많은 자금을 확보할 수 있다고 한다. 영국과 핀란드에 본사를 둔 신기술 투자회사 오픈오션(OpenOcean)의 조사 결과, 2022년에는 기술 스타트업의 10%만이 투자 유치 시 AI를 사용한다고 언급했지만, 2023년에는 이 비율이 4분의 1 이상으로 증가했고 올해는 3분의 1 이상으로 증가할 것으로 예상된다.

둘째, 시장 경쟁력 확보에 도움이 된다. 예를 들어, 가전제품 제조업체가 자사 제품에 AI 기술이 적용되었다고 주장하면, 소비자들은 그 제품이 더 스마트하고 혁신적이라고 생각해 구매 의사가 높아진다. 기업들은 AI 기술을 사용하여 기술적 우월성을 강조하고 시장에서 리더로 자리매김하려 하지만, 실제로는 인터넷을 통해 작동하는 것을 AI 시스템을 구축했다고 홍보하거나 상담 챗봇을 추가하는 정도에 그치는 경우가 많다.

AI 워싱은 흔한 마케팅 방법 중 하나로 보일 수 있지만, 여러 가지 부작용을 낳을 수 있다.

첫째, 적절한 자원 배분을 저해한다. 혁신적인 기술을 보유하고 있다고 포장하는 기업에 소비자와 투자자의 이목과 투자가 집중될 수 있다. AI 워싱 기업에 투자 재원이 몰릴 경우 실제 혁신 기술을 보유한 기업이나 프로젝트에는 원활한 자금 공급이 어려워질 수 있다.

둘째, 소비자 신뢰를 저하시킨다. AI 워싱을 마케팅 수단으로 사용하는 기업이 증가하여 대부분의 기업이 AI에 대해 언급한다면 소비자는 AI의 성능에 의문을 갖게 될 것이고, 실제 사용을 통해 부정적 경험이 누적될 경우 AI 기술 자체에 대한 신뢰도가 저하될 수 있다. 이는 결과적으로 AI 제품과 서비스의 구매 기피로 이어져 진정한 AI 기술을 제공하는 기업에도 부정적 영향을 미칠 수 있다.

셋째, 기업의 자원 낭비를 초래할 수 있다. AI 워싱 기업의 과장된 주장을 의식하여 정상적인 기업마저 현실성이 떨어지는 목표를 설정하고 추진해 나갈 경우 프로젝트의 실패로 인한 손실뿐 아니라 선택과 집중의 실패로 인해 혁신이 지체되는 등의 부정적 결과를 초래할 수 있다. 기업이 의미 있는 AI 역량을 개발하는 대신 피상적인 개선에 투자를 남발할 경우 기술의 진전을 늦출 수 있으며, 진정 가치 있는 AI 솔루션을 모색하는 기업의 의사 결정을 복잡하게 만들어 디지털 전환 노력을 방해하고 혁신을 저해하며 성과를 악화시킬 수 있다.

대표적인 AI 워싱 사례로는 아마존고(Amazon Go)의 ‘저스트 워크 아웃(Just Walk Out)’ 시스템이 있다. 아마존고는 매장 내 개별 제품에 센서나 칩을 부착하지 않고, 천장에 달린 센서가 실시간으로 고객과 제품을 추적하는 딥러닝 기술을 적용했다고 밝혔다. 하지만 실제로는 시스템의 상당 부분이 1천여 명의 인도 지사 직원이 각 매장 카메라를 통해 수동으로 체크하는 방식으로 운영된다는 사실이 드러나면서 AI 워싱 논란이 제기됐다.

채용 스타트업 준코(Joonko)는 AI를 기반으로 기업에 적합한 지원자를 추천한다고 허위 정보를 유포해 2,100만 달러의 투자금을 유치했다가 미국 증권거래위원회(SEC)와 법무부로부터 기소됐다. 준코의 CEO이자 창업자인 일릿 라즈(llit Raz)는 AI를 사용하여 기업이 다양성, 형평성, 포용성이 존중되는 인력 조직을 구축할 수 있도록 다양한 지원자를 선발하는 데 도움을 준다고 주장했다. 또한 투자 유치 시 준코가 《포천(Fortune)》 500대 기업을 포함하여 100개 이상의 고객사를 보유하고 있으며, 100만 달러 이상의 수익을 올렸을 뿐 아니라 10만 명 이상의 활성 구직자와 협력하고 있다는 등 경영 성과에 대해서도 허위 정보를 제공했다.

투자자문사 델피아(Delphia)와 글로벌프레딕션스(Global Predictions)도 AI 사용 범위에 대해 허위 진술을 한 혐의로 SEC로부터 각각 22만 5천 달러와 17만 5천 달러의 벌금을 부과받았다. 델피아는 AI를 활용하여 어떤 기업과 트렌드가 크게 성장할 것인지 예측하여 고객이 선제적으로 투자할 수 있도록 정보를 제공했다고 주장했지만, SEC는 델피아가 실제로는 AI 및 머신러닝 기술을 갖추지 않았다고 판단했다. 글로벌프레딕션스는 홈페이지, 소셜미디어, 이메일에서 자신들이 최초의 AI 금융 자문사로 전문가 수준의 AI 기반 예측을 제공한다고 주장했지만, 이에 대한 근거를 제시하지 못했고 실제로도 AI 기술을 사용하지 않은 것으로 드러났다.

이 외에도 오토메이터스 AI(Automators AI)는 AI 기술을 활용해 온라인 스토어의 판매량을 자동으로 증가시킬 수 있다는 허위 정보를 유포하여 투자를 유치한 혐의로 연방거래위원회(FTC)에 의해 기소됐다. P&G의 구강 관리 브랜드 오랄비(Oral-B)는 고가의 전동칫솔을 판매하면서 AI가 치아 위치와 밝기 등을 파악해 이가 잘 닦였는지 확인할 수 있다고 광고했지만, 《워싱턴포스트》는 “이 칫솔에 AI 기능이 정확히 어떻게 적용되는지 물었지만 회사는 대답하지 못했다”고 보도했다. 코카콜라도 3000년대를 상상하며 만들었다고 홍보한 코카콜라 Y3000을 AI와 공동으로 제품을 개발했다고 밝혔지만, AI가 개발 과정에서 어떻게 관여했는지에 대해서는 설명하지 않아 AI 워싱 논란을 빚었다.

AI 기술이 지속적으로 발전함에 따라 AI 워싱에 대한 규제와 소비자 보호의 중요성이 더욱 강조될 것이며, 이를 막기 위해서는 정부, 기업, 소비자 모두의 노력이 필요하다.

먼저 정부는 AI 워싱에 대한 규제를 강화해야 한다. 미국 SEC와 법무부, FTC는 이미 AI 워싱 기업들을 대상으로 기소하거나 거액의 벌금을 부과하는 등의 조치를 취하고 있다. SEC는 지난해 말 JP모건체이스 등 대형 금융사의 AI 사용 실태에 대한 전수조사에 착수했으며, FTC는 기업들에게 AI 제품의 기능을 과장하고 있지 않은지, AI 제품이 비AI 제품보다 더 나은 것처럼 홍보하고 있지 않은지 등을 스스로 점검할 것을 권고했다. 영국 광고표준위원회(ASA)도 AI 워싱에 대한 규칙과 법률을 제정했다.

기업은 실제 사용한 AI 기술과 일치하는 투명한 정보를 제공해야 한다. AI 기술을 홍보할 때 허위 주장을 피하고 관련 정보를 투명하게 제공함으로써 소비자와 투자자에게 신뢰를 얻어야 한다. 또한 기업 내부의 각 부서가 협력하여 AI 기술 사용에 대한 정확한 정보를 공유해야 하며, AI 기술이 실제로 어떻게 사용되는지에 대한 상세한 기록을 남기고 정기적으로 업데이트를 해야 한다. 아울러 정부나 기업은 소비자가 AI 기술에 대한 이해도를 높이고 AI와 관련된 과장된 주장에 현혹되지 않도록 소비자 대상 교육 프로그램을 운영할 필요가 있다.

소비자 역시 기업의 AI 활용 주장에 대해 비판적인 태도를 가져야 한다. 사용된 AI 모델이나 알고리즘과 같은 기술적인 부분에 대한 구체적 언급이 있는지 확인하고, 기업이 관련 데이터와 알고리즘 유형에 대한 투명성을 유지하는지 점검할 필요가 있다. 또한 AI 작동 방식에 대한 투명한 설명을 요구하고, 기업이 책임감 있게 정확한 정보를 제공하도록 유도해야 한다. AI 시스템의 데이터 출처나 알고리즘 작동 방식, 정확성을 높이기 위해 어떤 조치를 취했는지 등에 대한 설명을 요구하는 것도 좋은 방법이다.

AI 기술의 발전과 함께 AI 워싱에 대한 규제와 소비자 보호의 중요성은 더욱 커질 전망이다. 기업들은 단순히 AI라는 키워드를 마케팅에 활용하는 것이 아니라, 실제로 AI 기술을 효과적으로 활용하고 이를 투명하게 공개함으로써 진정한 혁신과 경쟁력 향상을 추구해야 할 것이다. 정부, 기업, 소비자가 각자의 역할을 다할 때 AI 기술의 건전한 발전과 활용이 가능해질 것이다.

AI 기술이 더욱 발전하고 보편화됨에 따라 AI 워싱의 양상도 변화할 것으로 예상된다. 기업들이 더 교묘한 방식으로 AI 워싱을 시도할 수 있기 때문에, 이를 식별하고 대응하는 것이 더욱 중요해질 것이다.

예를 들어, 일부 기업들은 단순한 규칙 기반 시스템을 사용하면서도 이를 ‘AI’로 포장할 수 있다. 또는 AI 모델을 사용하긴 하지만 그 성능이나 적용 범위가 광고하는 것만큼 뛰어나지 않을 수 있다. 이러한 경우, 기술적인 세부사항을 정확히 파악하기 어려운 일반 소비자들은 AI 워싱을 식별하는 데 더 큰 어려움을 겪을 수 있다.

따라서 AI 워싱에 대한 감시와 규제는 더욱 정교해져야 할 것이다. 정부 기관, 학계, 산업계 전문가들이 협력하여 AI 워싱을 식별하고 평가할 수 있는 객관적인 기준을 마련해야 한다. 또한 AI 기술의 투명성과 설명 가능성을 높이는 연구와 개발도 지속되어야 할 것이다.

KB금융연구소의 연구보고서는 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기