뉴스레터 구독
Search

LLM 가속화

AI 리포트와 논문
LayerSkip: Enabling Early Exit Inference and Self-Speculative Decoding

메타, LLM 추론 속도 혁신하는 ‘LayerSkip’ 기술 공개…최대…

10월 28, 2024

메타(Meta)가 대규모 언어 모델(Large Language Model, LLM)의 추론 속도를 획기적으로 개선할 수 있는 ‘LayerSkip’ 기술을 공개했다. 이 기술은…

Trending

[AI 트렌드] "진돗개가 김치찌개를 만든다고?" 요리하는 AI 동물 영상 만드는 법
[AI 트렌드] “진돗개가 김치찌개를 만든다고?” 492만뷰 찍은…
김은영 에디터7월 15, 2025
[Q&AI] 오늘 밤 한일전... AI가 예측한 승률은?
[Q&AI] 오늘 밤 한일전… AI가 예측한 승률은?
김은영 에디터7월 15, 2025
클로드, 노션·캔바· 피그마 등 외부 도구와 연결 가능해져
클로드, 노션·캔바· 피그마 등 외부 도구와 연결…
김은영 에디터7월 15, 2025
LLM 가속화 – AI 매터스 l AI Matters