영국, 인공지능 기반 ‘살인 예측’ 도구 개발 논란

가디언(The Guardian)의 보도에 따르면, 영국 정부가 개인 데이터와 알고리즘을 활용해 잠재적 살인범을 식별하는 ‘살인 예측’ 프로그램을 개발 중인 것으로 확인됐다.

이 프로그램은 원래 “살인 예측 프로젝트(homicide prediction project)”라는 이름으로 진행되었으나, 현재는 “리스크 평가 개선을 위한 데이터 공유(sharing data to improve risk assessment)”로 명칭이 변경됐다. 영국 법무부(Ministry of Justice)는 이 프로젝트를 통해 심각한 폭력 범죄를 저지를 위험이 가장 높은 사람들을 사전에 식별하여 공공 안전을 강화하겠다는 목표를 갖고 있다.

국가권력 감시 비영리단체인 스테이트워치(Statewatch)가 정보자유법 요청을 통해 이 프로젝트의 존재를 밝혀냈다. 연구진은 알고리즘을 사용해 보호관찰소와 그레이터 맨체스터 경찰의 기존 데이터를 분석하고 있다. 이 과정에서 이름, 생년월일, 성별, 인종 등의 개인정보와 함께 정신 건강, 중독, 자살 경향, 자해 관련 데이터도 분석 대상에 포함된 것으로 알려졌다.

스테이트워치는 범죄 전과가 없는 사람들의 데이터와 가정 폭력 피해자 정보도 이 프로젝트에 활용된다고 주장했으나, 정부 관계자들은 최소 한 번 이상의 범죄 전과가 있는 사람들의 데이터만 사용한다고 반박했다.

스테이트워치의 소피아 라이얼 연구원은 “범죄 예측 알고리즘은 본질적으로 결함이 있으며, 이 시스템은 소수 민족과 저소득층에 대한 구조적 차별을 강화할 것”이라고 비판했다.

법무부 대변인은 “이 프로젝트는 연구 목적으로만 수행되고 있으며, 보호관찰 중인 사람들의 폭력 범죄 위험성을 더 잘 이해하기 위해 설계됐다”고 밝혔다. 관계자들은 현재 사용 중인 위험 평가 도구에 경찰 및 구금 데이터와 같은 새로운 데이터 소스를 추가하면 위험 평가가 개선될지 확인하는 단계라고 덧붙였다.

해당 기사 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗gpt를 활용해 작성되었습니다.