뉴욕주, AI 재해 방지법 통과… “AI 안전 사고 보고 안 하면, 최대 409억 처벌”

뉴욕주 의회가 오픈AI(OpenAI), 구글(Google), 앤트로픽(Anthropic) 등 거대 AI 기업들의 최첨단 AI 모델로 인한 재해를 방지하는 법안을 통과시켰다고 테크크런치(TechCrunch)가 13일(현지 시간) 보도했다. ‘RAISE Act’로 불리는 이 법안은 100명 이상의 사상자나 10억 달러 이상의 손해를 초래하는 재해를 예방하는 것을 목표로 한다. 법제화될 경우 미국 최초로 최첨단 AI 연구소들에 대한 법적 투명성 기준을 확립하게 된다.

법안의 핵심 내용은 1억 달러 이상의 컴퓨팅 자원을 사용해 훈련된 AI 모델을 보유한 기업들이 포괄적인 안전 및 보안 보고서를 발표하도록 하는 것이다. 또한 우려스러운 AI 모델 행동이나 악의적 행위자의 AI 모델 탈취 등 안전 사고 발생 시 이를 의무적으로 보고해야 한다. 기업들이 이러한 기준을 충족하지 못할 경우 뉴욕주 검찰총장이 최대 3천만 달러의 민사 처벌을 부과할 수 있다.

이 법안은 현재 캐시 호컬(Kathy Hochul) 뉴욕주 지사의 승인을 기다리고 있으며, 지사는 법안에 서명하거나 거부권을 행사할 수 있다. 실리콘밸리는 이 법안에 강력히 반발하고 있다. 안드리센 호로위츠(Andreessen Horowitz)의 제너럴 파트너 안제이 미드하(Anjney Midha)는 “또 다른 바보 같은 주 차원의 AI 법안”이라며 비판했다.

앤트로픽의 공동 창립자 잭 클라크(Jack Clark)는 법안이 너무 광범위하여 소규모 기업들에게 위험을 제시할 수 있다고 우려를 표했다. 하지만 법안 발의자인 앤드류 구나르데스(Andrew Gounardes) 상원의원은 소규모 기업들에게 적용되지 않도록 설계했다고 반박했다. 일각에서는 AI 기업들이 뉴욕주에서 서비스를 철수할 가능성을 제기하고 있지만, 뉴욕이 미국에서 세 번째로 큰 GDP를 가진 주라는 점에서 현실적으로 어려울 것이라는 분석이 나온다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: 이디오그램 생성