샘 올트먼, TED서 AI 에이전트 경고… “AI가 실수하면 훨씬 더 위험해진다”

12일(현지 시간) 진행된 TED 컨퍼런스에서 오픈AI의 CEO 샘 올트먼(Sam Altman)이 인공지능의 급속한 발전과 미래 비전에 대해 깊이 있는 대화를 나눴다. 그는 크리에이티브 산업의 변화부터 AI의 과학적 잠재력까지 광범위한 주제를 다루며, 현재 겪고 있는 기술적 혁명에 대한 그의 관점을 공유했다.

TED 공식 유튜브에 올라온 영상에 따르면, 인터뷰 초반 샘 올트먼은 오픈AI의 최신 이미지 및 비디오 생성 모델인 소라(Sora)의 능력을 선보였다. 그는 “지능과 의식의 차이를 보여주는 다이어그램”을 요청했을 때 놀라운 결과물이 나왔다고 언급했다. 이는 단순한 이미지 생성이 아닌 GPT-4의 핵심 지능과 연결되어 있기 때문이라고 설명했다. “새로운 이미지 생성 모델은 GPT-4의 일부로, 모든 지능이 그 안에 담겨 있다. 그것이 사람들이 정말 좋아하는 이런 것들을 할 수 있는 이유 중 하나라고 생각한다.”라고 올트먼은 말했다.

이어 그는 ChatGPT의 폭발적인 성장에 대해 언급하며, 현재 주간 활성 사용자 수가 5억 명에 달하고 빠르게 증가하고 있다고 공개했다. 샘 올트먼은 생성형 AI가 기존 창작자들의 작업을 어떻게 활용하는지에 대한 질문에 큰 도전에 직면해 있음을 인정했다. 그는 현재 오픈AI가 생존해 있는 아티스트의 스타일을 직접적으로 모방하는 것을 허용하지 않지만, 새로운 수익 모델이 필요하다고 강조했다.

“인류의 창조적 정신은 믿을 수 없이 중요한 것이며, 우리는 그것을 발전시키는 도구를 만들고 싶다. 새로운 사람들이 더 나은 예술, 더 나은 콘텐츠, 더 나은 소설을 창작할 수 있게 하는 도구 말이다. 인간이 그 중심에 있을 것이라고 깊이 믿는다.”라고 그는 말했다. 올트먼은 또한 “창작물의 경제적 측면에 대한 새로운 모델을 찾아야 한다”며 동의한 작가나 아티스트들의 스타일을 사용할 때 수익을 공유하는 모델을 제안했다.

인공지능 업계에서 큰 관심을 받고 있는 오픈소스 모델과의 경쟁에 대해, 올트먼은 오픈AI가 강력한 오픈소스 모델을 출시할 계획이라고 밝혔다. 그는 “현재 나와 있는 어떤 오픈소스 모델보다 더 나은 것을 만들 것”이라고 언급했다. 안전성에 관한 질문에서 올트먼은 “강력한 모델들이 출현할 것이고, 사람들이 크게 오용할 수 있는 방식으로 사용할 수 있을 것”이라고 인정했다. 그는 바이오테러, 사이버 보안 위협, 자기 개선 능력이 있는 모델 등 여러 위험 요소에 대해 언급했으며, 오픈AI가 모델 출시 전 내부 테스트를 철저히 진행한다고 강조했다.

올트먼이 가장 흥분된 AI의 미래 응용 분야로 꼽은 것은 과학 연구였다. “과학에서의 AI는 정말 기대된다. 세계와 사람들의 삶을 더 나아지게 하는 가장 중요한 요인은 새로운 과학적 발견이라고 생각한다”라고 말했다. 그는 최신 모델들을 사용하는 과학자들이 이전보다 생산성이 향상되었다는 피드백을 받고 있으며, 질병 퇴치와 같은 중요한 분야에서 유의미한 진전이 있을 것이라고 예측했다.

인공일반지능(AGI)에 대한 명확한 정의와 오픈AI의 목표에 대해, 올트먼은 “10명의 오픈AI 연구원들에게 AGI를 정의해달라고 하면 14개의 정의가 나올 것”이라며 이 문제의 복잡성을 인정했다. 그는 에이전트형 AI(사용자를 대신해 작업을 수행하는 AI)가 앞으로의 중요한 안전 과제가 될 것이라고 언급했다. “여러분의 시스템, 정보, 컴퓨터에서 클릭할 수 있는 능력을 AI에 제공할 때, AI가 실수하면 훨씬 더 위험해진다”고 설명했다.

오픈AI는 최근 사용자가 ChatGPT와 나눈 모든 대화 내용을 기억하는 메모리 기능을 강화했으며, 소프트웨어 개발 분야에서도 큰 변화가 있을 것이라고 예측했다. 올트먼은 앤트로픽(Anthropic), 제미나이(Gemini) 등 경쟁사들과 함께 AI 안전성을 위한 협력의 중요성도 강조했다.

해당 기사에서 언급한 컨퍼런스에서 나눈 대화 전문은 링크에서 확인할 수 있다.

이미지 출처: TED 유튜브 영상 캡쳐

기사는 클로드와 챗gpt를 활용해 작성되었습니다.