일리노이, 미국 첫 프런티어 AI 안전감사법 서명…파국적 위협 사전 공개한다

미국 일리노이주가 7월 6일 대형 프런티어 AI 모델에 제3자 안전 감사를 의무화하는 법을 확정했다. J.B. 프리츠커(J.B. Pritzker) 주지사가 시카고에서 ‘AI 안전 조치법(SB 315)’에 서명했다. 대형 프런티어 AI를 외부 기관이 감사하도록 강제하는 미국 첫 주법이다. 프런티어 AI는 성능 최전선에 있는 초대형 AI 모델을 가리킨다. 제3자 감사는 개발사가 아니라 외부 독립 기관이 안전성을 검증하는 방식이다.

법은 프런티어 AI 기업에 두 가지를 요구한다. 먼저 자사 모델의 파국적 위험에 대응하는 계획을 공개하고 해마다 갱신해야 한다. 여기에 안전 문제에 대한 독립적 제3자 감사를 매년 받아야 한다. 주 차원의 AI 법에 제3자 감사를 못 박은 것은 이번이 처음이다. 기업은 중대한 안전 사고를 신고하고, 내부 사용 위험 평가 요약을 정기적으로 제출해야 한다. 감사 결과의 접근·보고·보관·공개 방식도 법에 규정됐다.

적용 대상은 연 매출 5억 달러(약 7,750억 원) 이상인 프런티어 개발사다. 법을 대표 발의한 메리 에들리-앨런(Mary Edly-Allen) 상원의원은 파국적 위험 대응과 투명성 강화를 목표로 내세웠다. 여기서 파국적 위험은 무기 개발 악용이나 핵심 인프라 마비처럼 대규모 피해로 이어질 수 있는 사고를 가리킨다.

앤트로픽과 오픈AI가 이 법을 공개적으로 지지했다. 일리노이주 하원은 SB 315를 110대 0으로 통과시켰다. 프런티어 AI 안전 감독이 주 차원에서 정치적 이견 없는 사안이 됐다는 뜻이다. 법안은 상·하원을 초당적으로 통과했고, 발효 시점은 2027년 1월 1일이다.

일리노이 투명성 연합은 이 법을 미국에서 보호 강도가 가장 높은 AI 안전법으로 평가했다. 캘리포니아는 지난 7월 1일 주 기관·시·카운티에 클로드를 절반 가격에 공급하는 계약을 맺었다. 주 정부들이 프런티어 AI를 다루는 방식이 도입 지원과 안전 감사 양쪽으로 갈라지고 있다.

이 법은 연방 차원의 자율 표준 논의와 나란히 나왔다. 백악관은 오픈AI·앤트로픽·구글과 프런티어 모델 출시 기준을 두고 협의 중이며, 자율 표준 발표가 이번 주로 예상된다. 주 정부가 먼저 강제력 있는 감사 의무를 도입하면서, AI 안전 규제가 연방과 주 양쪽에서 함께 짜이게 됐다.

자세한 내용은 NBC News에서 확인할 수 있다.

이미지 출처: 이디오그램 생성