# \#dspark

**URL:** https://discuss.pytorch.kr/tag/dspark/9191.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [Liquid AI, VLM 디코딩 속도를 2.66~3.13배 가량 높인 LFM2.5-VL-3B-DSpark 모델 공개](https://discuss.pytorch.kr/t/liquid-ai-vlm-2-66-3-13-lfm2-5-vl-3b-dspark/12019)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [9월 28, 2026, 7:30오전 UTC](https://discuss.pytorch.kr/t/liquid-ai-vlm-2-66-3-13-lfm2-5-vl-3b-dspark/12019 "2026-09-28T07:30:31Z")

</div>

LFM2.5-VL-3B-DSpark 소개 LFM2.5-VL-3B-DSpark는 Liquid AI가 자사의 비전-언어 모델(VLM, Vision-Language Model) LFM2.5-VL-3B를 위해 공개한 약 280M 파라미터 규모의 추측 디코딩(Speculative Decoding) 용 초안 모델(Draft Model)로, 출력은 그대로 유지하면서 디코딩 속도를 H100에서 최대 2.66배, Apple M5 Max에서 최대 3.13배까지 높입니다. 본 모델 대비 파라미터가 8.9% 늘어나는 비용으로 얻는 속도 향상이며, llama.cpp, MLX-VLM (:pytorch::kr: mlx-vlm: M5와 같은 Apple Silicon에 최적화된 MLX 기반 시각-언어 모델(VLM) 추론 및 파인튜닝 도구), SGLang이 공개 첫날부터 지원합니다(SGLang은 아직 정식 릴리스 전이라 main 브랜치 빌드가 필요합니다). LLM 추론의 디코딩 단계는 토큰을 하나 만들 때마다 전체 가중치를 메모리에서 읽어 와야 하므로 연산량보다 메모리 대역폭이 속도를 결정합니다. 추측 디코딩은 이 구조를 이용합니다. 작은 초안 모델이 다음 토큰 여러 개를 먼저 제안하고, 본 모델(Target Model)이 이 후보들을 한 번의 순전파로 검증하면 가중치를 한 번 읽는 비용으로 여러 토큰을 얻을 수 있습니다. 본 모델이 모든 후보를 검증하기 때문에 탐욕적 디코딩(Greedy Decoding)에서는 본 모델 혼자 생성한 결과와 글자 하나까지 같습니다. 이번에 소개하는 DSpark 초안 모델은 Liquid AI가 2026년 8월에 공개한 텍스트 모델용 LFM2.5-DSpark를 비전-언어 모델로 확장한 실험적 릴리스입니다. 흥미로운 점은 Liquid AI가 속도 향상 수치와 함께 그 한계도 정량적으로 공개했다는 것입니다. 이미지가 들어가는 VLM은 텍스트 LLM보다 프리필(Prefill) 비중이 크고, 추측 디코딩은 디코딩 단계만 빠르게 하므로 엣지 기기에서는 디코딩 속도…
