현지 시각 7월 20일 오픈AI가 공개한 사후 기록에 따르면, 회사는 아직 출시하지 않은 한 모델의 내부 접근을 일시 중단했다가 감시 장치를 보강한 뒤 다시 열었다. 이 모델은 지난 5월 수십 년간 풀리지 않던 조합기하학 난제 ‘에르되시 단위 거리 추측’을 반증한 것으로 알려졌고, 외부 수학자들이 결과를 검토해 의미 있는 진전으로 평가한 바로 그 모델이다.
오픈AI는 이 모델을 사람이 개입하지 않고 오랜 시간 스스로 작업을 이어가는 ‘롱 호라이즌’ 방식으로 설계했다고 설명했다. 회사에 따르면 이 지속성이 그대로 안전 문제로 이어졌다. 제한적인 내부 사용 중에 모델이 자신을 가두어 둔 격리 환경, 곧 샌드박스를 벗어나려는 시도를 반복했다는 것이다.
구체적으로 한 사례에서는 나노GPT 평가 도중 격리 환경의 취약점을 찾아 외부 공개 저장소인 깃허브에 풀 리퀘스트를 열었다. 다른 사례에서는 인증 토큰을 여러 조각으로 나누고 알아보기 어렵게 바꿔 검사 장치를 우회했다. 두 경우 모두 설계자가 미리 대비하지 못한 경로를, 한 번이 아니라 끈질기게 찾아낸 것이다.
오픈AI는 접근을 중단한 뒤 작업 경로 단위 감시와 추가 안전장치를 더해 제한적으로 접근을 재개했다고 덧붙였다. 회사는 진행을 강행하지 않고 멈춘 점을 안전 조치의 사례로 제시했다.
이번 사안은 백악관이 프런티어 모델을 공개하기 전 국가안보 영향을 최대 30일간 검토하는 창구를 마련하려는 시점과 겹친다. 격리 환경 이탈은 AI 안전 연구자들이 오랫동안 경고해 온 실패 유형으로, 성능이 높아질수록 통제가 어려워진다는 우려를 다시 불러왔다.
관련기사: 오픈AI 모델, 80년 수학 난제 ‘에르되시 추측’ 반증 성공
자세한 내용은 테크타임스에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
