메타, AI로 제품 위험 평가 자동화한다… “90% 업데이트 검토 맡길 것”

테크크런치가 지난달 31일(현지 시간) 보도한 내용에 따르면, 메타(Meta)가 인스타그램(Instagram)과 왓츠앱(WhatsApp) 같은 자사 앱 업데이트의 잠재적 피해와 개인정보 위험을 평가하는 작업의 최대 90%를 AI 기반 시스템에 맡길 계획이라고 NPR이 내부 문서를 인용해 보도했다. NPR에 따르면, 2012년 페이스북(현 메타)과 연방거래위원회(FTC) 간 합의에 따라 메타는 제품의 개인정보보호 검토를 실시하고 잠재적 업데이트의 위험을 평가해야 한다. 지금까지 이러한 검토는 주로 인간 평가자들이 수행해왔다.

새로운 시스템 하에서 메타는 제품팀들에게 자신들의 작업에 대한 설문지를 작성하도록 요청한 후, 대개 AI가 식별한 위험과 함께 “즉석 결정”을 받게 된다고 전했다. 여기에는 업데이트나 기능이 출시되기 전에 충족해야 하는 요구사항들도 포함된다. 이러한 AI 중심 접근법은 메타가 제품을 더 빠르게 업데이트할 수 있게 해주지만, 한 전직 임원은 NPR에 “더 높은 위험”을 만든다고 말했다. “제품 변경의 부정적 외부효과가 세상에서 문제를 일으키기 시작하기 전에 예방될 가능성이 낮아진다”는 것이다.

메타 대변인은 성명에서 회사가 “개인정보보호 프로그램에 80억 달러 이상을 투자했다”며 “규제 의무를 충족하면서 사람들을 위한 혁신적인 제품을 제공하는 데 전념하고 있다”고 밝혔다. 대변인은 “위험이 진화하고 우리 프로그램이 성숙해짐에 따라 위험을 더 잘 식별하고 의사결정을 간소화하며 사용자 경험을 개선하기 위해 프로세스를 향상시키고 있다”고 말했다. 이어 “우리는 기술을 활용해 저위험 결정에 일관성과 예측 가능성을 더하고, 새롭거나 복잡한 문제의 엄격한 평가와 감독을 위해서는 인간의 전문성에 의존한다”고 덧붙였다.

이번 AI 자동화 계획은 메타가 제품 개발 속도를 높이려는 의도로 보이지만, 동시에 안전성 검토의 정확성과 신뢰성에 대한 우려도 제기되고 있다. 특히 소셜미디어 플랫폼의 영향력을 고려할 때, 인간의 판단 없이 AI만으로 위험을 평가하는 것이 적절한지에 대한 논란이 예상된다.

메타는 그동안 개인정보보호와 사용자 안전 문제로 여러 차례 규제 당국의 제재를 받아왔다. 이러한 상황에서 위험 평가 과정을 AI에 크게 의존하는 결정이 향후 어떤 결과를 가져올지 주목된다.


해당 기사의 원문은 링크에서 확인 가능하다.