토큰을 얼마나 태웠느냐가 아니라 얼마를 벌었느냐를 묻는 ROUT의 시대. 클로드 소넷 5 공개, 오픈AI 추론비용 반감, 프런티어 모델 7월 대전까지 AI 매터스 뉴스레터 #187이…

오픈AI가 AI 모델 추론(inference) 비용을 절반 이상 줄이는 최적화 기술을 개발한 것으로 알려졌다. 데이터센터와 GPU 확보 경쟁이 치열한 가운데, 기존 인프라의 효율을 끌어올리는 ‘컴퓨트…