워싱턴 대학, “인간, AI 훈련하는데 더 공정한 척” 연구 결과 발표

워싱턴 대학, 인공지능 훈련 시 인간의 행동 변화에 관한 새로운 연구 결과

이미지 출처: 미드저니 생성

워싱턴 대학교 세인트루이스 연구에서 AI를 훈련하고 있다고 들은 참가자들이 더 공정하고 정의롭게 보이기 위해 행동한다는 이색적인 연구 결과를 내놓다.

지난 6일 미국국립과학원(PNAS)에 게재된 ‘AI 학습이 인간의 의사결정에 미치는 영향’(The consequences of AI training on human decision-making)에 따르면 협상 게임에서 인공지능을 훈련하고 있다고 들은 참가자들이 더 공정하고 정의롭게 보이기 위해 자신의 행동을 적극적으로 조정했다는 것이다. 이는 실제 AI 개발자들에게 중요한 시사점을 제공할 수 있다.

연구는 각각 약 200-300명의 참가자를 대상으로 한 5개의 실험으로 구성되었다. 참가자들은 “최후통첩 게임”이라는 도전 과제를 수행했는데, 이는 다른 인간 플레이어나 컴퓨터와 소액의 현금 지급(1달러에서 6달러)을 협상해야 하는 게임이다. 실험에 참여한 일부 그룹에는 그들의 결정이 AI에게 게임 방법을 가르치는 데 사용될 것이라고 알려주었다.

AI를 훈련하고 있다고 생각한 참가자들은 공정한 몫의 지급을 추구할 가능성이 일관되게 더 높게 나타났으며, 이는 그러한 공정성을 지키기 위해 몇 달러의 손해를 감수하더라도 마찬가지였다. 흥미롭게도, 이러한 행동 변화는 그들의 결정이 더 이상 AI 훈련에 사용되지 않는다고 알려진 후에도 지속되었는데, 이는 기술을 형성하는 경험이 의사결정에 지속적인 영향을 미쳤음을 시사한다.

연구의 공동 저자이자 컴퓨터 과학자인 호 교수는 “많은 AI 훈련이 인간의 결정에 기반을 두고 있다”며 “AI 훈련 중 인간의 편견이 고려되지 않으면, 결과적으로 AI도 편견을 가지게 될 것”이라고 말했다. 그는 “지난 몇 년 동안 우리는 이러한 종류의 AI 훈련과 배치 사이의 불일치로 인해 많은 문제가 발생하는 것을 보았다”고 덧붙였다.

주 저자인 트레이먼은 현재 AI를 훈련하는 사람들의 동기와 전략을 더 잘 이해하기 위한 후속 실험을 진행 중이다. 그는 “컴퓨터 과학의 심리학적 측면을 고려하는 것이 매우 중요하다”고 강조했다.

자세한 연구논문은 미국국립과학원에서 확인할 수 있다.

위 기사는 Claude 3.5 Sonnet을 활용해 작성되었습니다. 

관련 콘텐츠 더보기