Docs faviconDOCS우성짱의 문서
Tag1건Article 1

#lfm2-5-dspark

이 태그와 연결된 문서를 한곳에서 모아보고, 함께 자주 등장하는 연관 태그까지 이어서 탐색할 수 있습니다.

연관 태그

#acceptance-throughput-gap공동문서 1 · 연관도 100%#output-equivalent-speedup공동문서 1 · 연관도 100%#technical-release공동문서 1 · 연관도 100%#tool-calling-latency공동문서 1 · 연관도 100%#sglang공동문서 1 · 연관도 71%#liquid-ai공동문서 1 · 연관도 58%#llama-cpp공동문서 1 · 연관도 58%#llm-inference-serving공동문서 1 · 연관도 58%#speculative-decoding공동문서 1 · 연관도 58%#benchmark-report공동문서 1 · 연관도 50%
Up to 3.2x Faster Inference with LFM2.5-DSpark
Article2026년 8월 20일

Up to 3.2x Faster Inference with LFM2.5-DSpark

Liquid AI는 세 LFM2.5 모델용 약 3억 매개변수 DSpark 초안 모델을 공개해 탐욕 디코딩의 출력 품질을 유지하면서 H100에서 최대 3.18배, M4 Max에서 최대 2.87배의 추론 가속과 LFM2.5 2.6B 함수 호출 지연 평균 57% 감소를 달성했다.

huggingface.co
#sglang#liquid-ai#llama-cpp#lfm2-5-dspark