미국 캔자스 연방법원이 챗GPT 가 만들어낸 가짜 판례를 법정에 제출한 변호사 5명에게 총 1만 2,000달러(한화 약 1,700만 원)의 벌금을 부과했다. AI가 생성한 허위 자료를 검증 없이 사용한 대가다.
4일 (현지 시각) 로이터 보도에 따르면, 줄리 로빈슨(Julie Robinson) 판사는 특허 침해 소송에서 존재하지 않는 인용문과 판례를 제출한 변호사들을 제재했다. 이들은 특허 보유 회사 렉소스 미디어 IP(Lexos Media IP)를 대리해 인터넷 쇼핑몰 오버스톡닷컴(Overstock.com)을 상대로 한 소송에 참여했다.
가장 무거운 처벌을 받은 건 실제로 챗GPT를 사용한 샌디프 세스(Sandeep Seth) 변호사로 5,000달러(한호 약 730만 원)를 물었다. 세스는 “개인적으로 힘든 상황에서 챗GPT를 썼는데 결과물을 확인하지 않았다”고 인정했다. 나머지 변호사들도 서명한 문서를 제대로 검토하지 않은 책임으로 1,000~3,000달러씩 벌금형을 받았다.
로빈슨 판사는 “법정에 문서를 제출하는 변호사라면 당연히 검증되지 않은 생성형 AI의 위험성을 알아야 한다”며 “이미 널리 알려진 문제인데도 확인 없이 서류에 서명한 건 윤리적 의무를 저버린 것”이라고 지적했다.
AI가 실제로 존재하지 않는 정보를 사실처럼 만들어내는 ‘환각’ 현상 때문에 미국 전역에서 비슷한 사례가 급증하고 있다. 판사는 “최근 몇 년간 변호사들이 검증 없이 생성형 AI를 믿고 사용하면서 생긴 문제 판례가 엄청나게 쌓였다”고 꼬집었다.
세스는 이메일을 통해 “정말 부끄러운 교훈을 얻었다”며 “로펌들은 실수를 막을 수 있는 철저한 규정 없이는 절대 AI를 사용해선 안 된다”고 말했다. 판사는 세스에게 주 변호사 징계위원회에 이번 판결문을 제출하고, 소속 로펌의 재발 방지 대책을 증명하라고 명령했다.
뷰더 조 앤 카펜터 (Buether Joe & Carpenter, LLC) 소속 케네스 쿨라(Kenneth Kula)와 크리스토퍼 조(Christopher Joe) 변호사는 각각 3,000달러, 피셔 패터슨 세일러 앤 스미스(Fisher, Patterson, Sayler & Smith)의 데이비드 쿠퍼(David Cooper) 변호사는 1,000달러를 부과받았다. 이들은 논평 요청에 답하지 않았다.
해당 기사의 원문은 로이터에서 확인 가능하다.
이미지 출처: 이디오그램 생성
