Translating the Artificial: Universal Design for Communicating Uses, Harms and Policies for Generative AI Tools
AI 시장의 급속한 성장과 소비자 이해도의 불균형
생성형 AI 시장이 급속도로 성장하면서 AI 기술의 투명성과 소비자 이해도 향상이 시급한 과제로 대두되고 있다. 뉴아메리카(New America)가 최근 발표한 보고서에 따르면, 2024년 말까지 2억 9,820만 달러 규모에 이를 것으로 예상되는 생성형 AI 시장은 2030년까지 18억 달러 규모로 성장할 전망이다. 하지만 이러한 성장세와는 대조적으로, AI 기술의 작동 방식과 데이터 정책에 대한 소비자들의 이해도는 여전히 낮은 수준에 머물러 있다.
특히 연구진의 조사에 따르면 설문 응답자의 91%가 데이터 및 개인정보보호 정책을 제대로 읽지 않는다고 답했으며, 이는 18-34세 연령대에서 97%에 달했다. 이러한 현상은 AI 기술이 일상생활에 깊이 침투하고 있음에도 불구하고, 소비자들이 이를 제대로 이해하고 활용하지 못하고 있음을 보여준다.
FDA 영양성분표에서 영감을 얻은 SAUL 시스템
이러한 문제를 해결하기 위해 개발된 ‘SAUL(Simplified Algorithms for User Learning)’ 라벨링 시스템은 1969년 백악관 식품영양건강회의 이후 도입된 FDA 영양성분표를 모델로 삼았다. SAUL은 소프트웨어 제품의 동적 특성을 고려하여 업데이트와 기능 변경에 따라 유동적으로 정보를 제공할 수 있도록 설계되었으며, 일반 정보, 안전한 사용을 위한 정보, 경고 사항 등 세 가지 주요 섹션으로 구성된다.
SAUL의 일반 정보 섹션에서는 AI 도구의 분류(생성형 사전학습 변환기 또는 생성적 적대 신경망), 현재 사용 상태, 버전 정보, 만료일과 같은 기본적인 정보를 제공한다. 안전한 사용을 위한 정보 섹션에서는 개인 데이터 삭제 권한, 권장 사용 연령, 도구 사용 방법에 대한 설명을 포함한다. 마지막으로 경고 사항 섹션에서는 기계학습 목적의 개인 데이터 학습 여부, 허위정보 위험, 편향성 존재 여부, 데이터 유출 가능성, 데이터 브로커 관여 여부 등을 표시한다.
소비자 중심의 직관적 설계와 연구 결과
이 시스템은 8-9학년 수준의 평이한 언어를 사용하고, 시민공학 및 기술공학에서 차용한 친숙한 아이콘을 활용해 소비자들의 이해를 돕는다. 특히 FDA 영양성분표를 모델로 삼은 것은 연구진이 실시한 인터뷰에서 응답자의 95%가 영양성분표를 정기적으로 참고한다고 답한 결과를 반영한 것이다.
연구진이 2024년 초 3개월간 진행한 소비자 인터뷰 결과는 이러한 시스템의 필요성을 잘 보여준다. 응답자의 33%가 소프트웨어 도구 가입 시 개인의 자율성이 제한된다고 느끼며, 93%가 개인정보보호 정책을 이해하지 못하고 읽지 않는다고 답했다. 특히 예술가와 교육자들의 경우 100%가 자신들의 작업이 AI 모델 학습에 무단으로 사용될 수 있다는 우려를 표명했으며, 전체 응답자의 96%가 “소비자로서 보호받지 못한다”고 느끼는 것으로 나타났다.
SAUL 시스템의 정책적 도입 방안
보고서는 SAUL의 성공적인 도입을 위한 구체적인 정책 방안을 세 가지 축으로 제시했다. 첫째, 연구 과정의 감독이다. 백악관 과학기술정책실(OSTP)이 데이터 라벨 연구 과정을 감독하고, 국방고등연구계획국(DARPA)과 국립표준기술연구소(NIST)의 US AI 안전위원회가 연구를 주도하는 방안이 제안되었다.
둘째, 공공 참여 위원회 구성이다. 일반 대중, 시민사회단체, NGO가 참여하는 위원회를 구성하여 개발부터 배포, 참여, 피드백에 이르는 4단계 순환적 정책 과정을 도입할 것을 권고했다. 이는 소비자의 의견을 지속적으로 반영하고 시스템을 개선하기 위한 것이다.
셋째, 소비자 교육 및 권리 보장 강화다. 교육부와 OSTP가 협력하여 K-12 학생을 대상으로 하는 AI 교육 기준을 개발하고, AI 분야의 소비자 권리 옹호 활동을 강화하는 방안이 제시되었다.
향후 전망과 과제
SAUL은 AI 기술에 대한 정보 접근성을 민주화하고, 소비자 주도의 기술 환경을 조성하는데 기여할 것으로 기대된다. FDA의 영양성분표가 식품 선택의 투명성을 높였듯이, SAUL 역시 AI 기술의 투명성과 소비자 이해도를 높이는 새로운 표준이 될 것으로 전망된다.
다만 모든 소비자가 동의하는 통일된 원칙을 수립하는 것은 불가능하다는 점에서, SAUL의 도입은 지속적인 피드백과 개선이 필요한 과정이 될 것이다. 그럼에도 이번 연구는 소비자들이 생성형 AI 도구와 같은 신기술의 데이터 정책에 대해 접근 가능한 정보를 원한다는 점을 분명히 보여주며, 이는 AI 기술의 발전과 함께 반드시 해결해야 할 과제임을 시사한다.
기사에 인용된 리포트는 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
