추론 속도 향상
메타, LLM 추론 속도 혁신하는 ‘LayerSkip’ 기술 공개…최대 2.16배 성능 향상
메타(Meta)가 대규모 언어 모델(Large Language Model, LLM)의 추론 속도를 획기적으로 개선할 수 있는 ‘LayerSkip’ 기술을 공개했다. 이 기술은 기존 LLM 대비 최대 2.16배 빠른…
메타(Meta)가 대규모 언어 모델(Large Language Model, LLM)의 추론 속도를 획기적으로 개선할 수 있는 ‘LayerSkip’ 기술을 공개했다. 이 기술은 기존 LLM 대비 최대 2.16배 빠른…
