출처: 미드저니 생성 이미지
유럽연합(EU)이 세계 최초로 인공지능(AI) 규제를 위한 포괄적인 법안을 최종 승인했다고 밝혔다. ‘AI 법(A.I. Act)’으로 불리는 이 법은 AI 기술의 잠재적 이점을 활용하면서도 일자리 자동화, 온라인 허위 정보 확산, 국가 안보 위협과 같은 잠재적 위험을 방지하기 위한 전 세계 최초의 종합적인 시도 중 하나로 평가된다. 아직 몇 가지 최종 승인을 거쳐야 하지만, 정치적 합의는 주요 윤곽이 확정되었음을 시사한다.
이 법안은 기업과 정부의 AI 사용으로 인해 발생할 수 있는 위험에 초점을 맞추고 있다. 법 집행과 수도, 에너지와 같은 중요 서비스 운영에 AI를 사용할 경우 엄격한 규제를 받게 된다. 또한, AI 기술을 활용할 때 발생할 수 있는 위험 정도를 네 단계로 나눠 차등 적용 된다. 부정적인 결과를 초래할 위험이 높을수록 더 엄격한 규제가 적용되는 것이다.이 법안에 따르면 챗GPT와 같은 대규모 범용 AI 시스템 개발업체들은 새로운 투명성 요구 사항을 준수해야 한다. 또한 챗봇과 딥페이크 이미지 생성 소프트웨어는 AI에 의해 생성된 것임을 명확히 표시해야 한다.
경찰과 정부의 안면인식 소프트웨어 사용은 안전과 국가 안보 관련 예외를 제외하고는 제한된다. 규정을 위반한 기업은 전 세계 매출의 최대 7%에 달하는 벌금을 부과 받을 수 있다.
이 법안은 AI 사용에 대해 ‘위험 기반 접근법’을 채택했다. 개인과 사회에 가장 큰 잠재적 위험을 초래할 수 있는 AI 도구를 만드는 기업들은 위험 평가 증거, 시스템 훈련에 사용된 데이터 내역, 인종 편견 등의 해를 끼치지 않는다는 보장을 규제 기관에 제공해야 한다. 또한 이러한 시스템의 생성과 배포 과정에서 인간의 감독이 필요하다.
인터넷에서 무차별적으로 이미지를 수집하여 안면인식 데이터베이스를 만드는 것과 같은 일부 관행은 전면 금지된다.
이 법안은 구글, 메타, 마이크로소프트, 오픈AI와 같은 주요 AI 개발업체뿐만 아니라 교육, 의료, 금융 등 다양한 분야에서 AI 기술을 사용할 것으로 예상되는 다른 기업들에게도 영향을 미칠 것으로 보인다.
8월 2일 발효를 기점으로 이날 발효를 기점으로 원천 기술 금지 규정은 6개월 뒤부터, 범용AI에 대한 의무 규정은 12개월 뒤부터 적용된다. 전면 시행은 2026년 8월부터다.
EU AI법에 대한 자세한 내용은 EU Artificial Intelligence Act 공식 홈페이지에서 확인 가능하다.
관련 콘텐츠 더보기
