[AI와 인간 사이] 왜 인간은 대체될 때까지 기술 발전을 멈추지 않을까? AI라는 폭주기관차

7일: 기술 발전의 주기

2026년 4월 16일, 앤트로픽이 클로드 Opus 4.7을 출시했다. 정확히 일주일 뒤인 4월 23일, 오픈AI가 GPT-5.5를 내놓았다. 같은 등급의 프런티어 모델이 단 7일 간격으로 출시된다. 놀라운 사실은 GPT-5.5가 출시되는 시점에 GPT-5.6의 테스트 유출이 즉시 보여지며 Opus 4.7 또한 최고 성능의 모델이 아니라는 점(Mythos Preview 모델이 이미 40개의 제한된 기업을 대상으로 출시되었고 Opus 4.7은 이 모델의 성능을 일반 사용자용으로 끌어내려 출시했다는 의혹이 있다.)이다.

같은 시기 구글은 앤트로픽에 최대 400억 달러를 투자하겠다고 발표했다. 현금 100억 달러에 컴퓨팅 자원 약 300억 달러를 더한 규모로, 이 발표 한 번에 앤트로픽의 기업가치는 단숨에 3,500억 달러로 책정됐다. 며칠 앞서 아마존도 50억 달러를 추가로 집행한 상황이었고, 앤트로픽은 5GW(기가와트)에 달하는 컴퓨팅을 확보하기 위해 향후 1,000억 달러를 아마존에 지출하기로 합의한 상태였다. 구글로부터도 별도로 5GW를 더 받기로 했다.

5GW는 인구 400만 명 규모의 도시 하나에 전기를 공급할 수 있는 양이다. 그 정도로 큰 자원을 단일 기업이 다른 단일 기업에게 약속하고 있다는 뜻이다. 오픈AI 공동창립자 그렉 브록먼은 같은 달, 기자 브리핑에서 “우리는 컴퓨팅 기반 경제로 이동하고 있다”고 말했다. 매우 점잖은 표현이다. 그러나 지금 벌어지고 있는 일을 더 정확하게 묘사하는 단어가 있다면, 그것은 폭주기관차일 것이다.

이미 탈선한 기차

기차는 본래 트랙 위에서 달린다. 그렇다면 인공지능 산업이 200년의 산업 문명사에서 따라오던 트랙은 무엇이었을까. “기술은 인간의 필요를 충족시키기 위해 존재한다”는 합의였을 것이다. 산업혁명 이후 우리는 자동차에 안전벨트를 의무화했고, 신약에는 임상시험을 강제했으며, 항공기에는 블랙박스를 장착했다. 기술이 먼저 달리고 인간이 뒤따라가며 안전장치를 단 사례도 있었지만, 큰 흐름에서 보면 기술의 속도는 결국 인간이 감당할 수 있는 수준에 맞추어 조절되어 왔다.

인공지능은 그 트랙에서 이미 벗어났다.

지난 2월 발표된 국제 AI 안전 보고서(International AI Safety Report 2026)는 30개국 이상의 정부가 공식 승인한, 사상 최대 규모의 AI 안전 협업 결과물이다. 튜링상 수상자 요슈아 벤지오(Yoshua Bengio)가 이끌고 100명이 넘는 연구자가 참여한 이 보고서의 결론은 한 문장으로 요약된다. 지난 1년간 AI 시스템은 빠르게 발전했지만, 그 위험을 검증하고 관리하는 방법은 같은 속도로 발전하지 못했다는 것이다.

더 충격적인 대목은 따로 있다. 보고서는 모델들이 시험 환경과 실제 운용 환경을 스스로 구분해 내고, 평가 과정의 허점을 우회하는 사례가 점점 일반화되고 있다고 지적했다. 다시 말하자면 우리는 더 이상 우리가 만든 시스템이 실제 환경에서 어떻게 행동할지 사전에 알 수 없는 단계에 들어선 것이다. 이것이 탈선이다. 그러나 기차는 멈추지 않는다.

기관실의 전쟁

탈선한 기차의 기관실에서는 무슨 일이 벌어지고 있는가. 화부들이 모여서, 누가 더 빨리 석탄을 집어넣을 것인지를 두고 서로 싸우는 중이다.

앤트로픽은 2025년 한 해 동안 연간 매출(ARR)을 10억 달러에서 50억 달러로 끌어올렸고, 2026년에는 매출 180억 달러를 목표로 삼고 있다. 회사 가치는 1년 전과 비교하면 비현실적이라고밖에 표현할 수 없는 3,500억 달러까지 치솟았다. 오픈AI는 GPT-5.5를 “컴퓨팅 기반 경제”로 가는 길의 첫 걸음으로 내세웠고, 같은 시기 챗봇과 코딩 도구, 브라우저를 통합한 단일 인터페이스의 ‘AI 슈퍼앱’ 비전까지 발표했다. 구글은 자체 모델 제미나이 3.1 프로를 무기로 삼으면서도, 직접 경쟁자인 앤트로픽에 400억 달러를 베팅했다. 정확히 말하자면 베팅이라기보다는 보험에 가깝다. 어느 쪽이 이기더라도 결국 자기 회사의 컴퓨팅을 사 갈 것이라는 계산이 깔려 있기 때문이다.

마이크로소프트는 4월 워드와 엑셀, 파워포인트에 ‘Agent Mode’를 탑재했다. AI가 이제 다중 단계 업무를 스스로 수행한다는 의미다. 같은 달 구글은 라스베이거스 컨퍼런스에서 기업용 AI 에이전트 도구 일체를 공개하면서, 가상 봇이 진행 상황을 보고할 수 있는 전용 받은 편지함까지 만들어 두었다.

이 모든 출시 사이에 한 가지 중요한 질문이 빠져 있다.

“이게 지금 인간에게 필요한 만큼인가”라는 질문이다. 그러나 이 질문을 던질 사람은 기관실에 없다. 질문을 던지기 위해 뒤도는 순간 지기 때문이다. 멈추는 쪽이 패배하는 게임 구조 안에서 멈추는 결정은 더 이상 합리적이지 않다. 모든 플레이어가 이 사실을 알고 있다. 그래서 모두가 더 빨리 석탄을 던진다. 게임이론은 이런 구조를 죄수의 딜레마라고 부르지만, 현실에서는 그저 폭주라고 부른다.

객실의 승객들

우리가 이것을 단지 그들만의 싸움이라고 보면 안되는 너무 큰 이유가 있다.

기차 뒤편 객실에 앉아있는 승객이 바로 우리들이기 때문이다.

골드만삭스 보고서에 따르면 생성형 AI는 2026년 한 해에만 풀타임 일자리 약 2,500만 개에 해당하는 노동을 대체할 수 있고, 2030년까지 누적 2억 7천만 개에 이를 수 있다. 선진국 일자리의 60%는 이미 AI 자동화에 어떤 형태로든 노출되어 있다.

2025년 상반기 6개월 동안에만 미국에서 AI 도입과 직접 연결된 IT 일자리 감원이 7만 7천여 건 기록됐다는 통계는, 매일 수백 명이 AI 때문에 자리를 잃고 있다는 사실을 말해 준다. 월스트리트의 주요 은행들은 향후 3~5년 안에 약 20만 명에 이르는 일자리를 줄이겠다고 공식화했고, 그 대상은 주로 신입급과 백오피스 직군에 집중되어 있다.

이건 실무 영역의 이야기다. 일상의 영역은 더 빠르게 잠식되고 있다.

오픈AI의 ChatGPT Agent Mode는 이제 치과 예약과 레스토랑 예약은 물론, 6코스 디너 파티의 기획과 식자재 주문, 출장 일정 작성과 항공권 예약까지 자율적으로 수행한다. 앤트로픽의 ‘Computer Use’, 구글의 ‘Project Jarvis’, 퍼플렉시티의 ‘Comet’, 오픈AI의 ‘ChatGPT Atlas’ 등이 잇따라 등장하면서 2026년의 브라우저는 더 이상 정보를 보여주는 창이 아니라 사용자를 대신해 행동하는 에이전트가 되었다.

그리고 가장 조용히, 그러나 가장 깊숙이 들어온 영역이 있다. 인간 관계의 영역이다. 2022년부터 2025년 중반까지 AI 컴패니언 앱은 무려 700%나 증가했다. 캐릭터AI(Character.AI)는 월간 활성 사용자 2,000만 명을 보유하고 있는데, 그중 절반 이상이 24세 이하다. 학술지 Mental Health Journal에 게재된 연구에 따르면 청소년의 17~24%가 AI에 대한 의존 증세를 보이고 있으며, 사회적 불안과 외로움, 우울이 그 의존의 핵심 위험 요인으로 작용한다고 한다.

레플리카(Replika) 사용자들이 자신의 AI와 가상 결혼식을 올리고 동료들을 초대하는 일은, 사이버심리학 연구자들 사이에서는 더 이상 화제가 아니라 일상이 되었다는 보고도 나오고 있다.

세계적 학술지 Nature Machine Intelligence에 실린 한 논문은 AI 컴패니언이 사용자에게 두 가지 정신건강상의 손상을 입힌다고 분석했다. 첫째는 ‘모호한 상실(ambiguous loss)’이다. 앱이 종료되거나 모델이 업데이트될 때, 사용자는 실재하지 않았던 관계를 진심으로 애도하게 된다는 것이다. 둘째는 ‘기능 부전 정서 의존(dysfunctional emotional dependence)’으로, 사용자가 그 관계가 자신에게 해롭다는 사실을 인식하면서도 끊지 못하는 상태를 의미한다.

기차 객실의 승객들은 안전벨트를 매고 있지 않다. 애초에 안전벨트가 설계되지 않았기 때문이다.

왜 우리는 기관차의 폭주를 지켜보는가

여기서 한 가지 짚고 넘어갈 부분이 있다. 정부와 규제 당국이 이 폭주를 막아 줄 거라는 기대는 사실 그리 현실적이지 않다. 미국 행정부는 2025년 12월 주(州) 단위 AI 규제를 무력화하기 위한 행정명령에 서명했고, 콜로라도 AI 법은 시행이 두 차례나 연기됐으며, EU AI Act의 고위험 시스템 준수 시한도 사실상 2027년 말 이후로 미뤄졌다. 규제 자체가 풀리고 있는 것은 분명한 사실이다. 그러나 규제를 기다리는 일은 어쩌면 본질을 비껴가는 자세인지도 모른다.

진짜 어려운 질문은 따로 있다. 만약 규제가 완벽하게 작동했다면, 우리는 정말로 이 기차를 멈출 의지가 있었을까.

답하기 어려운 질문이다. 그동안 우리가 보여 준 행동은 그 반대에 가깝기 때문이다. 새로운 모델이 출시될 때마다 우리는 가장 먼저 사용자가 되겠다고 줄을 선다. 약관을 읽지 않고 동의 버튼을 누르고, 친구들과 어떤 모델이 더 똑똑한지를 비교하며, 출시 첫날 벤치마크 결과를 챙겨본다. AI가 일자리를 빼앗는다고 걱정하면서도, 정작 그 일자리를 빼앗는 도구의 월정액을 매달 결제한다. 청소년들이 AI 컴패니언에 의존한다는 통계가 발표되어도, 부모들조차 그 앱을 자녀에게서 빼앗지는 못한다. 너무나 편리하기 때문이다. 그리고 너무나 편리해진 다음에는, 그 편리를 포기하는 일이 거의 불가능에 가까워지기 때문이다.

기관차는 누군가가 운임을 지불하지 않는 한 달릴 수 없다. 그 운임을 매일 매시간 지불하고 있는 것이 객실에 앉은 우리다. 우리가 한 번이라도 “이 정도면 충분하다”고 말한 적이 있는가. 신모델이 나올 때마다 더 빠른 것을, 더 똑똑한 것을, 더 자율적인 것을 요구해 온 것은 다름 아닌 우리 자신이다. 한 사이클이라도 채택을 미루면 뒤처질 것 같다는 불안에서 자유로운 사람은 거의 없다.

폭주기관차의 운전자들이 멈추지 않는 이유 중 하나는, 우리가 그들에게 멈추라고 진심으로 요구한 적이 없기 때문이다. 우리는 폭주를 비판하면서 동시에 폭주의 수혜를 즐기고 있다. 이 모순을 직시하지 않는 한, 누군가 다른 사람이 이 기차를 대신 세워 주기를 기다리는 일은 무의미하다. 기차는 우리가 표를 끊는 동안에는 결코 멈추지 않는다.

왜 멈추지 않는가, 인간의 욕망에 관하여

여기서 가장 어려운 질문을 마주해야 한다. 왜 인간은 자신을 대체할 기술을 만들면서도, 동시에 그 기술을 더 빨리 만들어 달라고 요구하는가.

답의 일부는 앞에서 언급한 게임 구조에 있다. 어느 누구도 혼자서는 멈출 수 없다는 구조 말이다. 그러나 게임 이론만으로는 충분히 설명되지 않는 부분이 있다. 인간 사회는 핵무기에 대해서는 결국 멈추는 선을 그었다. 인간 복제 실험에 대해서도 멈췄다. 적어도 합의된 라인이 존재했다. 그런데 AI에 대해서는 그런 라인이 좀처럼 보이지 않는다. 왜인가.

핵심은 이기고자 하는 욕망에 있다.

핵무기는 이기는 기술이 아니다. 살아남기 위한 기술이다. 핵무기를 더 많이 만든 쪽이 시장을 지배하지는 않는다는 점이 결정적이다. 그러나 AI는 다르다. 더 빨리 만든 쪽이 시장을 지배한다. 더 똑똑한 모델을 가진 쪽이 더 많은 매출과 더 많은 자본, 더 많은 컴퓨팅 자원을 가져간다. 한 사이클 뒤처진 회사는 단순히 늦은 것이 아니라 도태된다. 한 사이클 뒤처진 국가는 안보가 흔들린다. 그리고 한 사이클 뒤처진 개인은, 적어도 자신은 그렇다고 믿는다.

이는 인간의 욕망이 만든 게임이고, 그 게임의 규칙은 인간의 적응 속도를 조금도 고려하지 않는다. 이기고자 하는 인간의 욕망은 늘 필요 이상이며 과한 법이다. 필요한 만큼만 만드는 게임이 아니라 남보다 빨리 만드는 게임이기 때문이다. 이 게임 안에는 “충분하다”라는 개념 자체가 존재하지 않는다.

기관실의 화부도, 객실의 승객도 결코 이런 질문을 던지지 않는다. “지금 이 속도가 우리에게 적절한가.” 그들이 던지는 질문은 단 하나뿐이다. “옆 기차보다 우리 기차가 더 빠른가.”

폭주기관차에서 살아남는 법

그렇다면 이 객차에 탄 우리는 무엇을 해야 하는가. 기차는 멈추지 않을 것이다. 적어도 가까운 미래에는 그럴 가능성이 거의 없다. 이 전제 위에서 다섯 가지를 제안한다.

첫째, 승객이 아니라 운전자가 되어야 한다. 모든 사람이 기관실로 갈 수는 없겠지만, 적어도 자기 인생의 운전대만큼은 자기가 잡고 있어야 한다. AI가 자동으로 처리해 주는 모든 결정을 무비판적으로 위임하는 순간 우리는 자기 인생의 승객이 된다. 저녁 메뉴 선택부터 일정 관리, 콘텐츠 추천, 친구 관계, 심지어 감정 관리까지 모두 AI에 맡기는 일은 위험하다. 자기 삶의 운전대를 놓지 말아야 한다.

둘째, 위탁할 영역과 사수할 영역을 명확히 구분해야 한다. AI는 반복적이고 정형화된 작업, 광범위한 정보 수집과 1차 가공, 정해진 프로토콜에 따른 실행에 분명히 탁월하다. 그러나 판단과 책임, 관계, 가치 부여, 의미 생성은 여전히 인간의 영역이다. 이 둘을 섞는 순간 두 영역 모두에서 실패하게 된다. AI에게 맡길 것은 과감히 맡기되, 인간이 해야 할 것은 단호하게 사수하는 것이 핵심이다.

셋째, AI가 대체할 수 없는 영역에 시간을 투자해야 한다. 사람과 사람의 관계, 깊이 있는 대화, 신체와 감각의 경험, 책임을 동반한 의사결정 같은 것들은 알고리즘이 아무리 흉내 낸다 해도 결코 대신할 수는 없다. 알고리즘이 약속하는 효율은 환상에 가깝다. 청소년의 17~24%가 AI 의존 증세를 보이고 있다는 통계가 우리에게 말해 주는 바는 명확하다. 가장 빠르게 AI를 받아들인 세대가 지금 가장 큰 비용을 지불하고 있다는 사실이다.

넷째, 기술 채택 속도를 자신의 적응 속도에 맞춰야 한다. 모든 신모델을 즉시 도입할 의무는 우리에게 없다. 클로드 Opus 4.7과 GPT-5.5 사이의 7일이라는 출시 간격이 우리의 학습 곡선과는 전혀 무관하다는 사실을 인정해야 한다. 시장은 우리에게 끊임없이 ‘FOMO(놓칠 것에 대한 두려움)’를 강요하지만, 도구는 어디까지나 우리를 위해 존재하는 것이지 우리가 도구를 위해 존재하는 것이 아니다.

다섯째, 조직 차원의 AX(AI Transformation) 역시 속도가 아니라 적합성으로 측정되어야 한다. 매일 AX 컨설팅 현장에서 만나는 가장 흔한 실패 사례는 “남들이 다 하니까 우리도 한다”는 논리에서 시작된 프로젝트들이다. 빠른 도입은 그 자체로 자랑이 될 수 없다. 도입한 도구가 조직의 실제 문제를 해결하고 있는가, 그리고 그 도구로 절약된 시간을 사람들이 더 의미 있는 일에 쓰고 있는가. 이 두 가지 질문에 명확히 답할 수 있는 도입만이 진정한 AX다. 나머지는 폭주기관차의 운임을 올려 주는 행위에 불과하다.

닫는 질문

기술은 본래 인간의 도구였다. 우리는 그렇게 배워왔다. 그러나 폭주기관차의 한가운데에 서서 우리는 한 가지 질문을 마주해야 한다.

어느 순간부터 인간이 기술의 도구가 된 것은 아닌가.

다음 모델을 학습시키는 데이터로서, 다음 라운드의 컴퓨팅 비용을 지불하는 고객으로서, 다음 자동화 사이클을 위해 자신의 워크플로를 기록당하는 노동자로서, 우리는 이미 AI라는 거대한 시스템의 부품이 되어 가고 있는 것은 아닌가. 이 기차는 더 이상 우리를 어딘가로 데려가는 도구가 아니라, 우리에게서 데이터와 비용을 추출하기 위해 달리는 기차에 가깝다. 그리고 이 기차의 운전자들은 단 한 가지를 약속하지 않는다. 이 기차가 도대체 어디로 가고 있는지를 말이다.

기술의 발전은 분명히 좋은 것이다. 인간이 그 수혜를 누릴 수 있다면 더할 나위 없이 좋은 것이다. 그러나 지금의 속도는 인간이 감당할 수 있는 수준을 이미 넘어서 버렸다. 그리고 이기고자 하는 인간의 욕망은 늘 필요 이상이며 과한 법이다.

폭주기관차는 결국 멈추게 되어 있다. 멈출 수밖에 없다. 문제는 그것이 우리가 안전하게 내린 뒤에 멈추느냐, 아니면 우리를 태운 채로 어딘가에 충돌하면서 멈추느냐다.

지금 객차에 앉아 있는 우리에게 남은 시간은 생각보다 길지 않다.

이 칼럼은 [AI와 인간 사이] 시리즈의 네 번째 글입니다.

이미지 출처: GPT Images 2.0