[AI 매터스 뉴스레터 #187] ROI의 시대가 가고 ROUT의 시대가 온다

이 기사, AI에게 물어보기

안녕하세요, AI매터스입니다.

AI는 이미 우리의 삶입니다. 그 가운데 놓치지 말아야 할 중요한 이슈들을 정리해 제공합니다.

놓치지 마시기 바랍니다.

구글의 6월 약속 끝내 불발, 제미나이 3.5 프로 7월로 ⏳🔻

구글이 제미나이 3.5 프로의 6월 정식 출시를 무산하고 7월로 미뤘습니다. 순다르 피차이가 I/O 무대에서 내건 약속이 두 번 연속 지켜지지 못한 건데요. 200만 토큰 맥락창과 ‘딥 씽크’ 추론 모드를 갖췄지만, 최상위 모델이 쏟아지는 7월에 완성도와 타이밍을 동시에 잡아야 하는 부담을 안게 됐습니다. 더 알아보기

GPT-5.6도 7월로, 오픈AI가 스스로 속도를 늦춘 이유 🐢🏛️

오픈AI의 GPT-5.6 출시가 7월로 미뤄지며 폴리마켓의 6월 출시 확률이 83%에서 18%로 주저앉았습니다. 미국 정부 요청에 따른 단계적 출시(슬로우 롤아웃)와 막판 안전성 검토가 배경으로 거론되는데요. 제미나이·그록에 이어 최상위 모델이 줄줄이 7월로 넘어가면서, 7월은 프런티어 모델이 한꺼번에 맞붙는 ‘출시 대전’의 달이 될 전망입니다. 더 알아보기

클라우드 없이 기기에서 번역·요약, 레노버 탭 플러스 2세대 📱✨

한국레노버가 태블릿 ‘탭 플러스 2세대’를 국내 출시했습니다. 실시간 번역·스마트 리더·AI 노트 등 클라우드를 거치지 않고 기기 안에서 처리하는 온디바이스 AI 기능을 담은 것이 특징인데요. JBL 9유닛 프로 스피커와 12.1인치 2.5K 디스플레이, 10200mAh 배터리와 45W 고속 충전을 지원합니다. 더 알아보기

중국 오픈웨이트 모델이 앤트로픽 ‘미토스’급 해킹 탐지력을 증명했다 🇨🇳🛡️

중국 Z.ai의 오픈웨이트 모델 GLM-5.2가 앤트로픽 미토스급 취약점 탐지 성능을 냈다는 독립 평가가 나왔습니다. 744B MoE 모델로 IDOR 탐지와 익스플로잇 연쇄 구성에서 특히 강했는데요. 누구나 내려받아 쓸 수 있어, 방어자뿐 아니라 공격자에게도 문이 열리는 이중용도 우려가 함께 제기됩니다. 더 알아보기

끝까지 해내는 소넷이 왔다, 앤트로픽 ‘클로드 소넷 5’ 공개 🤖✅

앤트로픽이 6월 30일 클로드 소넷 5를 공개했습니다. 스스로 계획하고 브라우저·터미널을 부려 작업을 끝까지 완수하는, 가장 에이전트형에 가까운 소넷인데요. 상위 모델 오퍼스 4.8에 근접한 성능을 더 낮은 값에 담았습니다. 오늘부터 무료·프로 기본 모델로 한국을 포함한 전 세계에서 별도 설정 없이 쓸 수 있습니다. 더 알아보기

오픈AI, 챗GPT 추론 비용 절반으로 뚝 💸⚡

오픈AI가 모델 추론 비용을 절반 이상 줄이는 최적화 기술을 확보한 것으로 알려졌습니다. 앤트로픽이 오래 전략 자산으로 관리해 온 ‘컴퓨트 멀티플라이어’가 차세대 경쟁력으로 떠오른 건데요. 절감된 비용은 챗GPT 사용 한도 확대나 API 가격 인하, 수익성 개선으로 이어질 수 있습니다. 더 알아보기

전기는 남아도는데 데이터센터는 못 켠다 ⚡🔌🏗️

55조 원짜리 AI 데이터센터가 멈춰 서는 이유는 전기가 부족해서가 아닙니다. 전기는 충분한데, 그 전기를 데이터센터까지 연결하지 못해서인데요. 진짜 병목은 발전소가 아니라 새 설비가 전력망에 합류하려고 줄 서서 기다리는 ‘연결 대기열’에 있습니다. 미국의 대기 기간은 2005년 20개월 미만에서 2023년 55개월로 늘었고, 이 지연은 곧바로 전기 요금 폭등으로 돌아옵니다.

텍사스 전력망 ERCOT에는 무려 143.5기가와트 규모의 데이터센터가 연결을 기다리는데, 상당수는 실제로 지어지지 않을 ‘유령 프로젝트’입니다. 기사는 어업 쿼터에서 빌려온 경매 방식과, 1년에 몇 시간뿐인 피크 때만 스스로 빠지는 ‘커넥트 앤 매니지’를 해법으로 제시하는데요. 👉 AI 붐의 진짜 병목이 반도체가 아니라 100년 전 전력망 규칙이라는 사실, 확인해 보세요. 더 알아보기

마케터가 AI에 던지는 질문 10개 중 9개는 ‘검색’에 머물렀다 🔍📊🤔

마케터들이 AI를 다룬다고 말하지만, 실제로 하는 일은 검색창에 단어를 넣는 수준에 가깝습니다. 앱스플라이어 2026 보고서를 보면, “왜 이런 결과가 나왔지?”라고 원인을 캐묻는 진단형 질문은 단순 조회형 질문의 10분의 1에 불과했는데요. 광고비를 어디에 더 쓸지 결정하는 가장 중요한 판단이 정작 AI에게 거의 위임되지 않고 있다는 뜻입니다.

같은 보고서는 AI 도구들이 사진·비디오 앱 시장의 상위 5개 점유율을 64%에서 45%로 끌어내린 ‘판도 뒤집기’도 기록했습니다. 도구는 이미 원인 분석까지 해낼 능력을 갖췄는데 사람은 순위 확인에만 머무는 격차인데요. 같은 도구를 쥐고도 누군가는 검색창처럼 쓰고 누군가는 원인을 캐묻는다면, 몇 달 뒤 성과 격차는 지금의 10대 1보다 훨씬 크게 벌어질 수 있습니다. 👉 AI를 검색창으로만 쓰고 있진 않은지, 확인해 보세요. 더 알아보기

상담원이 사람인 줄 알았는데 AI였다, 소비자 3명 중 2명이 못 알아본다 🎭📞🤖

인보카 2026 리포트에 따르면 미국 소비자의 63%는 자신이 대화한 상대가 사실 AI였는지 확신하지 못합니다. AI가 티 나지 않을 만큼 자연스러워진 건데요. 문제는 이 AI가 실수했을 때입니다. 소비자는 AI 기술이 아니라 그 AI를 도입한 ‘기업’을 2.7배 더 탓했습니다. AI 한 번의 실수가 브랜드 전체에 대한 실망으로 번지는 구조입니다.

그럼에도 소비자 96%는 큰돈이 걸린 결정의 순간엔 여전히 사람을 원했고, 83%는 “AI라면 먼저 밝히라”고 답했습니다. 진짜 승부처는 속도여서, 응답이 느리면 79%가 경쟁사로 떠나는데요. 결국 티 나지 않게 잘 굴러가는 AI로 속도를 확보하되, 결정적 순간엔 언제든 사람으로 매끄럽게 넘겨야 한다는 겁니다. 👉 소비자가 AI에게 관대해진 진짜 이유, 확인해 보세요. 더 알아보기

ROI의 시대가 가고 ROUT의 시대가 온다

2026년 3월, 세계에서 가장 부유한 회사 중 하나인 메타 직원들에게 낯선 지시가 내려왔다. “인공지능을 쓸 때 토큰을 더 아껴 쓰라.” 올해 AI 인프라에 1천억 달러를 훌쩍 넘는 예산을 배정한 회사가, 정작 내부 구성원에게는 모델에 말을 거는 횟수를 줄이라고 당부한 것이다. 구글이 메타가 사려던 만큼의 제미나이 용량을 공급하지 못했고, 그 여파로 여러 내부 프로젝트 일정이 뒤로 밀렸다. 세계 최대 AI 사업자들이 서로의 창고에서 급하게 연산을 꿔 오는 시대가 열렸다.

불과 얼마 전까지 토큰 소모량은 기술 회사의 자랑거리였다. 누가 더 많이 태우는지가 곧 AI에 얼마나 진심인지의 지표로 통했다. 그런데 반년 만에 같은 숫자가 재무팀이 끌어내리려 애쓰는 대상이 됐다. 밑바닥에는 역설이 하나 놓여 있다. GPT-3.5급 성능의 단가는 18개월 만에 280분의 1로 무너졌는데, 기업들의 AI 청구서는 오히려 몇 배로 불었다. 이유는 구조다. 예전엔 한 번 질문하면 한 번 답했지만, 지금은 에이전트가 작업 하나에 모델을 수십 번씩 호출한다. 효율이 좋아질수록 총소비가 늘어나는 ‘제번스의 역설’이 AI 위에서 그대로 재연되고 있다.

이 지점에서 오랫동안 회사의 건강을 재어온 잣대, 투자수익률(ROI)이 흔들린다. ROI는 목돈을 먼저 투자한 뒤 얼마를 벌었는지 따지는 개념이다. 그러나 MIT 조사에 따르면 기업이 시도한 생성형 AI 파일럿 중 측정 가능한 재무 성과를 낸 것은 5%에 불과했다. 나머지 95%는 300억~400억 달러가 투입되고도 손익계산서에 아무 흔적을 남기지 못했다. 실패의 원인은 모델 성능이 아니라, 조직이 AI를 업무에 녹여내지 못한 접근 방식에 있었다. 돈을 얼마 넣었는가만 묻는 ROI로는 이 실패의 정체가 잡히지 않는다.

그래서 칼럼니스트 김탄휴는 새 잣대를 제안한다. 같은 일을 해내는 데 토큰을 얼마나 적게 쓰는가, 그 토큰이 얼마의 매출로 되돌아오는가. 그는 이것을 ROUT(Return on Used Tokens), 사용한 토큰의 수익률이라 부른다. 분모에 놓이던 값이 자본에서 토큰으로 바뀐 것, 이것이 시대가 넘어간 자리를 가장 간명하게 보여준다. 실무 처방도 분명하다. 작업마다 모델의 급을 맞추고, 문맥 창에 넣을 정보를 공들여 설계하고, 지출을 질의가 아닌 업무 흐름 단위로 계측하며, 배포 구조의 손익분기를 미리 파악하는 것이다.

주목할 것은, 세계에서 가장 큰 회사조차 이 앞에서 방향을 틀었다는 사실이다. 메타는 제미나이에 기대던 작업을 자체 모델로 옮기며 그 미덕으로 ‘효율’을 내세운다. 더 크게 태우는 경쟁에서 더 적게 쓰고도 같은 값을 얻는 경쟁으로, 판의 규칙이 바뀌고 있다. 지능이 값싸질수록 그것을 얼마나 잘 쓰느냐가 오히려 더 무겁게 물어지는 역설 앞에서, 질문은 하나로 좁혀진다. 당신의 회사는 태운 만큼 벌고 있는가.

👉 ROI를 대체할 새 잣대 ROUT, 태운 만큼 버는 법 알아보기