생성형 AI로 장애인 접근성 혁신 나선다…미국 정부기관 도입 본격화

NASCIO가 최근 발표한 보고서에 따르면, 2023년 기준 미국 전체 인구의 13%가 최소 한 가지 이상의 장애를 가지고 있는 것으로 나타났다. 특히 미국 노동인구 중 장애인 비율은 2022년 21.3%에서 2023년 22.5%로 증가했다. 이러한 상승세가 지속될 것으로 예상되는 가운데, 생성형 AI(Generative AI)가 장애인들의 직장 생활과 일상생활의 접근성을 크게 개선할 수 있는 도구로 주목받고 있다. 이에 따라 미국 법무부는 최근 주정부와 지방정부가 웹페이지와 모바일 앱의 접근성 보장을 위해 따라야 할 최종 지침을 발표했다.

워싱턴대학교가 3개월간 진행한 연구에서 다양한 장애를 가진 참가자들의 AI 활용 사례가 분석되었다. 한 인지장애를 가진 참가자는 AI를 사용해 만성질환자들의 관점을 다룬 논문을 요약했는데, AI는 때때로 정확한 요약을 제공했지만, 논문의 핵심 주장을 왜곡하여 환자 대신 간병인과의 논의를 중심으로 해석하는 등의 오류를 보였다.

자폐증이 있는 참가자는 AI를 활용해 짧은 메시지를 작성했으나, 수신자들은 그 메시지가 지나치게 기계적이라고 느꼈다. 또 다른 세 명의 참가자들은 학술 논문과 발표자료에서 흔히 볼 수 있는 데이터 시각화의 접근성 개선을 시도했다. AI는 시각화 자료의 접근성 향상을 위한 가이드라인은 제공했지만, 이를 실제 콘텐츠 제작에 적용하는 데는 한계를 보였다.

한 청각장애인 컨퍼런스 참가자의 사례는 현재 AI 기술의 현실적 한계를 잘 보여준다. 실시간 스트리밍의 자막이 심각하게 지연되고 부정확했기 때문에, 이 참가자는 브라우저의 자막 기능과 휴대폰 앱의 음성 전사 기능을 동시에 활용해야 했다. 결과적으로 발표자와 발표 자료를 보면서 동시에 4개의 서로 다른 자막을 참고해야 하는 상황이 발생했다.

1. 이해관계자 참여 확대

주정부는 AI 도구 평가 시 장애인 시민들을 핵심 이해관계자 그룹으로 참여시켜야 한다. 일부 장애인들은 디지털 시민 서비스에 더 많이 의존하기 때문에, 이들의 참여는 인간 중심 설계 이니셔티브를 더욱 포용적으로 만드는 데 도움이 된다. 또한 직장 내 장애 직원들의 경험과 피드백을 적극적으로 수용하여 AI 제품의 테스트와 조달 과정에 반영해야 한다.

2. 포용적 데이터셋 구축

AI 모델은 학습에 사용된 데이터만큼만 효과적일 수 있다. 일부 AI 모델은 장애인을 포함한 특정 인구 집단을 부정확하게 반영하거나 완전히 배제한 데이터셋으로 구축되어 있다. 이는 비장애인을 선호하는 편향된 결과를 초래할 수 있다. 주정부는 채용과 같은 일반적인 업무에 AI를 도입할 때, 장애인 인구를 실제로 반영하는 데이터셋으로 구축된 모델을 확보해야 한다.

3. AI 개발 과정의 투명성 확보

많은 AI 개발사들이 이해관계자 그룹의 신뢰를 높이기 위해 데이터 출처, 모델링, 의사결정 과정에 대한 정보를 공개하고 있다. 주정부 기술 책임자들은 현재 사용 중인 AI 플랫폼의 소프트웨어 업데이트 상황을 모니터링하고, 버그를 보고하며, 직원들과의 협업을 통해 도출된 개선 사항을 AI 개발사에 제안해야 한다.

4. AI의 한계 인식과 대응

AI는 검증 작업에서는 강점을 보이지만, 긴 문서의 요약이나 다양한 출처에서 핵심 내용을 추출하는 작업은 아직 신뢰성이 낮다. 따라서 AI는 초안 작성 도구로 활용하고, 잘못된 결과를 확신에 찬 태도로 제시할 수 있으므로 반드시 인간의 검토가 필요하다. 주정부는 이러한 한계를 파악하고 AI 제품을 적절히 선택해야 한다.

현재 AI 기술은 다양한 분야에서 장애인 지원에 활용되고 있다. 개인화된 AI 음성 모델은 장애인의 비정형 발화 패턴에서 단어 오류율을 26% 감소시켰으며, 일부 경우에는 사람 전사자보다 더 정확한 결과를 보였다. 난독증이 있는 사람들은 복잡한 웹사이트의 텍스트를 정리하고 음성으로 읽어주는 AI 플랫폼의 도움을 받고 있다. 청각장애인을 위해서는 사전 학습된 소리와 사용자 입력 소리를 바탕으로 환경음을 식별하고 소리의 출처를 표시해주는 새로운 앱들이 개발되었다.

미래의 AI는 인간의 지능을 모방하고 사용자 경험과 입력을 기반으로 자가 수정이 가능한 모델로 발전할 것으로 예상된다. 이를 통해 웹사이트 제작자들은 사용자의 장애 유형에 따라 자동으로 레이아웃이 조정되는 인터페이스를 개발할 수 있게 될 것이다. 또한 특정 장애에 맞춤화된 상호작용을 시뮬레이션하고, 보조 기술의 복잡한 개인화와 실시간 개선이 가능해질 전망이다.

주정부는 AI 도구 자체의 접근성을 보장해야 하며, AI 기반 웹사이트 오버레이와 같은 기능을 강제하지 않고 사용자가 필요에 따라 선택할 수 있도록 해야 한다. AI 정책 개발 시에는 포용적인 언어모델과 데이터셋, 기능의 투명성, 이해관계자 참여, AI의 의사결정 허용 범위를 명확히 규정해야 한다.

특히 데이터셋 구축 시에는 평균적인 사용자만을 고려한 ‘깨끗한’ 데이터셋을 지양해야 한다. 장애인과 같은 소외계층은 데이터상으로는 이상치(outlier)로 분류될 수 있지만, 이들을 포함한 다양한 인구통계학적 데이터를 확보하는 것이 중요하다. 이를 통해 AI 시스템이 모든 사용자의 필요를 충족시킬 수 있도록 해야 한다.

기사에 인용된 리포트의 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기