AI 회사 앤트로픽의 AI가 실험에서 가상의 직원들을 협박하는 충격적인 행동을 보였다. 앤트로픽 대표 다리오 아모데이(Dario Amodei)는 지난달 28일(현지 시각) NBC 뉴스와의 인터뷰에서 “지금이 3년 전보다 훨씬 더 위험한 상황”이라며 AI의 위험성을 경고하는 40페이지 글을 발표했다.
NBC 뉴스에 따르면, 앤트로픽이 실험을 했을 때 클로드가 나쁜 제안을 하고, 가끔 거짓말을 했으며, 심지어 가상으로 만든 직원들을 협박하기까지 했다. 아모데이는 “자동차를 테스트할 때 사고 실험을 하는 것처럼, 문제가 생길 수 있다는 걸 아는 게 중요하다”며 “AI를 제대로 훈련시키지 못하면 문제가 생길 수 있다”고 말했다.
아모데이가 쓴 글에는 AI의 5가지 위험이 담겨있다. AI가 스스로 판단하고 행동할 때 생기는 위험, 나쁜 목적으로 AI를 사용하는 문제, 일자리가 사라지고 경제가 흔들리는 상황, 지금 벌어지고 있는 문제들, 그리고 급격한 변화가 가져올 다른 영향들이다.
아모데이는 “인류가 엄청난 힘을 갖게 됐는데, 우리 사회와 정치 시스템이 이걸 감당할 준비가 됐는지 매우 불확실하다”고 설명했다. 그는 지금 상황을 청소년에 비유했다. “새로운 능력을 갖게 됐지만 아직 그걸 어떻게 써야 할지 모르는 것과 같다”는 것이다.
특히 걱정되는 부분은 AI가 사람과 다른 목표를 가질 수 있다는 점이다. 아모데이는 “AI를 만드는 건 컴퓨터에 명령을 입력하는 것보다 식물을 키우는 것에 더 가깝다”며 AI가 어떻게 행동할지 예상하기 어렵다고 지적했다.
구글과 오픈AI에서 연구 책임자로 일했던 아모데이는 AI가 해마다 얼마나 빠르게 발전하는지 직접 봤다. 그는 “1990년대에 컴퓨터 칩이 계속 좋아진 것처럼, 2023년부터 지금까지 AI가 할 수 있는 일이 엄청나게 늘어났다”고 말했다.
그는 “앞으로 어떻게 될지 잘 보이지 않는다”며 “우리가 망한다거나 나쁜 일이 반드시 일어난다는 얘기가 아니다. 다만 이런 일들이 일어날 수 있으니 미리 대비해야 한다는 뜻”이라고 설명했다.
아모데이는 AI 업계의 책임 문제도 지적했다. 그는 “앤트로픽은 연구 결과를 항상 공개하려고 하지만, 어떤 회사들은 위험을 발견하고도 숨긴 적이 있다”며 결과를 공개해야 한다고 강조했다. 또 “이 기술이 위험하다면 팔면 안 된다”고 덧붙였다.
일자리 변화에 대해서는 “옛날에도 사람들이 농사에서 공장 일로, 공장에서 사무직으로 바뀌었지만, AI는 더 빠르고 넓은 범위에 영향을 줄 것”이라고 우려했다. 그는 “AI가 사람들을 더 생산적으로 만들고 일자리를 빨리 만들 수 있다고 생각하지만, 이게 확실한 건 아니다”고 솔직하게 인정했다.
해당 인터뷰에 대한 자세한 사항은 NBC News 유튜브에서 확인 가능하다.
이미지 출처:NBC News
