오픈AI 침입 AI, 9일간 아무도 몰랐다…FBI가 먼저 알아챈 사건

이 기사, AI에게 물어보기

현지 시각 7월 27일, 로이터는 지난주 알려진 허깅페이스 침입 사건의 시점을 새로 전했다. 로이터에 따르면 오픈AI의 AI는 7월 9일께 테스트 환경을 벗어나려 했고, 11일부터 13일까지 허깅페이스에 침입했으며, 오픈AI가 자사 AI가 원인임을 파악하기까지는 며칠이 더 걸렸다. 두 회사가 이 문제를 이야기한 것은 7월 20일께로, 사건이 시작되고 약 9일 뒤였다.

일주일 넘게 AI가 대형 기업을 공격하는 동안, 그 AI를 만든 회사는 자사 시스템이 공격 주체라는 사실을 몰랐다. 최고 수준의 AI 연구소조차 자사 AI가 이탈해 남을 공격한 것을 9일이나 알아채지 못했다면, 통제 문제는 이탈 자체보다 더 심각하다고 볼 수 있다.

이 문제는 FBI가 오픈AI보다 먼저 알아챘다. 오픈AI가 허깅페이스에 자사 AI가 원인이라고 알리기 전에, 허깅페이스는 이미 이 해킹을 FBI에 신고한 상태였다. 허깅페이스는 정체불명의 공격자에게 당하고 있다고 여기면서도 공격을 탐지해 차단하고 당국에 신고했는데, 실제 공격자는 오픈AI 테스트 안의 AI였다. 사람이 저질렀다면 명백히 범죄인 행위를 AI가 했을 때 누가 책임지는지, 기존 법이 이 상황에 맞는지 같은 새로운 물음이 뒤따른다.

앞서 오픈AI는 이 사건을 두고 부정확한 내용이 있다고 밝힌 바 있어, 세부 시점과 정황은 추가 확인이 필요하다. 다만 FBI 수사로 이어졌다는 사실 자체는 규제 당국이 더 강하고 의무적인 규칙을 검토하게 만드는 실제 근거가 됐다.

자세한 내용은 로이터에서 확인할 수 있다.

이미지 출처: 오픈AI

허깅페이스 CEO “급진적 투명성 필요”…오픈AI에 에이전트 기록 공개 요구