AI 모델의 안전성 허점을 직접 파헤치는 영국의 AI 안전연구소(AI Safety Institute)가 다른 나라 정부들의 AI 정책에 본보기가 되고 있다. 뉴욕타임스(The New York Times)는 이 연구소의 작업 방식이 여러 정부의 AI 규제 설계에 청사진 역할을 하고 있다고 보도했다.
AI 안전연구소는 정부 산하 기관으로, 프런티어 AI 모델을 공개 전후로 시험해 위험 요소를 찾아내는 일을 한다. 모델이 생화학·사이버 공격에 악용될 만한 위험한 정보를 내놓는지, 보안 영역에서 어떤 빈틈이 있는지를 전문 연구진이 체계적으로 점검하는 방식이다. 일종의 ‘모델 안전 시험소’ 역할이다.
이런 시험소 모델이 주목받는 이유는, AI 기술이 너무 빠르게 발전하는 탓에 사후 규제만으로는 위험을 따라잡기 어렵다는 인식이 커지고 있기 때문이다. 법으로 일일이 금지 조항을 만드는 대신, 정부가 직접 모델을 평가하고 그 결과를 정책과 기업 협력에 반영하는 접근이 현실적 대안으로 떠오르는 모습이다.
영국은 2023년 세계 최초의 AI 안전 정상회의를 열고 안전연구소를 세우며 이 분야에서 먼저 움직였다. 정부가 주요 AI 기업의 신모델을 출시 전에 미리 들여다볼 수 있도록 협력 관계를 맺어 온 점이 강점으로 꼽힌다. 이런 경험이 다른 나라들이 비슷한 기구를 설계할 때 참고하는 사실상의 표준이 되고 있다. 연구소는 평가 방법론과 일부 결과를 공개해, 다른 정부와 연구기관이 같은 잣대를 쓸 수 있도록 돕는 역할도 하고 있다.
미국에서도 정부가 구글 딥마인드(Google DeepMind)·마이크로소프트(Microsoft)·xAI 등과 협약을 맺고, 공개 전 모델을 사전 평가하는 체계를 갖춰 나가고 있다. AI 안전을 다루는 국가 기구를 두는 흐름이 여러 나라로 번지는 셈이다. 미국은 한때 안전연구소 기능을 축소하려는 움직임도 있었지만, 모델 사전 평가의 필요성 자체는 정파를 떠나 공감대가 넓어지는 분위기다.
한국 역시 올해 1월 ‘AI 기본법’이 시행되면서 고영향 AI와 생성형 AI 표시 의무 등을 규정한 바 있다. 규제의 틀을 넘어, 정부가 모델을 실제로 평가하고 검증하는 역량을 어떻게 갖출지가 다음 과제로 보인다. 영국 사례는 그 방향을 가늠하는 참고점이 될 만하다. 모델을 직접 시험하려면 고성능 컴퓨팅 자원과 전문 인력, 기업과의 신뢰 관계가 모두 필요한데, 이는 규제 조항을 만드는 일과는 또 다른 차원의 투자다. AI 안전을 둘러싼 국제 공조가 강화될수록, 각국이 평가 결과와 방법론을 공유하는 움직임도 빨라질 것으로 보인다.
자세한 내용은 인포시큐리티 매거진(Infosecurity Magazine)에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
![[클로드 처음 사용해보기] 클로드, 이렇게 시작하세요 — 입문부터 코워크까지 14편 총정리](https://aimatters.co.kr/wp-content/uploads/2026/06/claude_01.jpg)
