오픈AI '프런티어 거버넌스 프레임워크' 공개…"5,000만 명 사상자·1조 원 피해까지 리스크 정의"

이 기사, AI에게 물어보기

오픈AI(OpenAI)가 5월 28일 ‘프런티어 거버넌스 프레임워크(Frontier Governance Framework)’를 공식 공개했다. 자체 안전·보안 관행을 캘리포니아 ‘Transparency in Frontier AI Act(TFAIA)’와 EU AI Act 부속 ‘Code of Practice for General Purpose AI’ 두 가지 규제 체계에 어떻게 매핑하는지 정리한 문서다. 오픈AI는 “앞으로 발표할 모든 투명성 공시의 기준점이 될 것”이라고 설명했다.

프레임워크가 정의한 ‘시스템 리스크’의 임계점이 눈길을 끈다. 단일 사건에서 50명 이상 사망 또는 약 1조 4,000억 원(10억 달러)에 달하는 재산 피해를 일으킬 수 있는 시나리오부터 시스템 리스크로 분류된다. 오픈AI는 모델이 이런 시나리오에 기여할 가능성을 사전 평가하고, 평가 결과가 임계점을 넘으면 출시 자체를 보류하는 절차를 자체 문서에 명시했다.

거버넌스 체계도 두 갈래로 갈라진다. EU 측 의무는 OpenAI 아일랜드 법인이, 미국 TFAIA 의무는 OpenAI OpCo LLC가 담당한다. 사고 대응은 별도로 ‘AI Safety Incident Response Plan(AIRP)’을 마련해 트리아지·조사·외부 보고 절차를 표준화했다. AI 사고가 발생할 경우 캘리포니아 검찰총장실과 EU AI 사무소에 일정 시한 안에 보고하는 의무가 그 안에 들어 있다.

이번 발표는 오픈AI 단독 프레임워크지만 사실상 업계 표준을 먼저 깔겠다는 신호로 볼 수 있다. 캘리포니아 TFAIA는 9월 발효 예정이고, EU GPAI Code는 8월부터 효력을 갖기 시작한다. 오픈AI가 먼저 공개해 두면 앤트로픽·구글 딥마인드·xAI 같은 프런티어 랩이 동일한 양식의 공시를 내야 한다는 압력이 자연스럽게 생긴다.

한국 정책 입장에서도 참고할 부분이 많다는 평가가 나온다. 한국 정부는 ‘AI 기본법’ 시행령을 7월까지 마무리하는 작업을 진행 중이다. 시스템 리스크 정의, 사고 보고 의무, 보안 사고 대응 절차 같은 항목은 오픈AI의 프레임워크가 일종의 ‘AI 안전 보고서 양식’으로 굳어질 가능성이 있다. 국내 LLM 사업자(네이버·카카오·LG·KT)도 자체 프레임워크 공개 일정을 앞당겨야 할 만하다.

자세한 내용은 OpenAI Frontier Governance Framework에서 확인할 수 있다.

이미지 출처: 이디오그램 생성