주제에 vllm 태그가 달렸습니다

글	댓글	조회수	활동
vLLM.KR Community Meetup (8월)에서 발표하실 연사분을 모십니다! 공지 사항 vllm	2	73	7월 21, 2026
local-llm: 최신 LLM을 로컬에서 직접 돌리는 GPU 하드웨어 구성 가이드 읽을거리&정보공유 vllm , local-llm , multi-gpu , local-inference , rtx-pro-6000 , self-hosting	1	7504	7월 19, 2026
하드웨어 인식 동적 추측 디코딩(DSD): 배치 크기에 맞춰 초안 토큰 수를 조절하는 추론 최적화 (feat. Cohere) 읽을거리&정보공유 inference , llm , vllm , gpu , cohere , speculative-decoding , moe	0	98	7월 12, 2026
vLLM Hook: vLLM에 배포된 모델의 내부 상태를 관찰하고 제어하는 플러그인 읽을거리&정보공유 interpretability , activation-steering , vllm , prompt-injection , vllm-hook , model-internals , ibm-research	1	1261	7월 9, 2026
vLLM Semantic Router가 공개한, 모델 API 안에서 협업하는 마이크로 에이전트 (feat. Looper) 읽을거리&정보공유 agent , benchmark , vllm , micro-agent , semantic-router , llm-routing , inference-serving	0	201	7월 1, 2026
Mooncake: Kimi를 떠받치는 KVCache 중심 분리형 LLM 서빙 플랫폼 읽을거리&정보공유 apache-2 , vllm , sglang , llm-serving , mooncake , kvcache , disaggregated-inference , transfer-engine	0	258	6월 30, 2026
1조 파라미터 규모로 에이전틱 강화학습을 수행하는 prime-rl 0.6.0의 최적화 총정리 (feat. Prime Intellect) 읽을거리&정보공유 agent , pytorch , reinforcement-learning , vllm , fp8 , moe , prime-intellect , agentic-rl	0	174	6월 29, 2026
DiffusionGemma: vLLM이 네이티브로 지원하는 최초의 디퓨전 언어 모델(dLLM) 읽을거리&정보공유 inference , llm , vllm , google , speculative-decoding , gemma , diffusion-llm	0	1900	6월 11, 2026
tiny-vllm: C++와 CUDA로 vLLM을 직접 구현하며 배우는 LLM 추론 엔진 읽을거리&정보공유 kv-cache , vllm , cuda , pagedattention , llm-inference , tiny-vllm , gqa	0	3708	6월 1, 2026
vllm 에 rust frontend 로 전처리 성능 향상 읽을거리&정보공유 vllm , rust	0	290	5월 27, 2026
vLLM.KR Community Meetup (5월) 참가자를 모집합니다! 공지 사항 vllm , lablup , meetup , vllm-meetup , vllm-kr	0	623	5월 19, 2026
Club-3090: RTX 3090 GPU에서 vLLM, llama.cpp, SGLang으로 LLM을 서빙하는 커뮤니티 레시피 모음 읽을거리&정보공유 vllm , sglang , quantization , llm-serving , llama-cpp , rtx-3090 , llm-inference , llm-inference-serving , club-3090	0	377	5월 4, 2026
Xiaomi, 1.02T 파라미터 오픈소스 MoE 추론 모델 MiMo-v2.5 및 MiMo-v2.5-Pro 출시 읽을거리&정보공유 llm , vllm , sglang , moe , xiaomi , mimo , agentic	1	342	5월 1, 2026
vLLM.KR Community Meetup (5월)에서 발표하실 연사분을 모십니다! 공지 사항 파이토치 , ai , vllm	2	522	4월 29, 2026
DFlash: 블록 확산(Block Diffusion) 기반으로 LLM 추론 속도를 높이는 오픈소스 라이브러리 (feat. Z.ai) 읽을거리&정보공유 vllm , speculative-decoding , transformers , sglang , llm-inference , block-diffusion	0	730	4월 24, 2026
vLLM Recipes 개편 - 모델+하드웨어 조합별 설정을 딸각 한방으로 읽을거리&정보공유 vllm	0	351	4월 23, 2026
[GN⁺] 월 $20 스택으로 월매출 $10K 회사를 여러 개 운영하는 법 읽을거리&정보공유 ollama , vllm , geeknews , local-llm , openrouter , saas-bootstrap	0	397	4월 14, 2026
rvLLM: Rust로 처음부터 구현한 고성능 LLM 추론 엔진, vLLM 완전 대체제 읽을거리&정보공유 vllm , rust , cuda , opensource , llm-inference , rvllm , high-performance	1	6782	4월 3, 2026
LLM 추론 엔진 이해하기: Nano-vLLM 내부 살펴보기 - 2부 (Understanding LLM Inference Engines: Inside Nano-vLLM (Part 2)) 읽을거리&정보공유 llm-inference , vllm , inference-framework , nano-vllm , neutree , arcfra	0	519	3월 3, 2026
LLM 추론 엔진 이해하기: Nano-vLLM 내부 살펴보기 - 1부 (Understanding LLM Inference Engines: Inside Nano-vLLM (Part 1)) 읽을거리&정보공유 llm-inference , vllm , inference-framework , nano-vllm , neutree , arcfra	0	1243	3월 3, 2026
vLLM팀, 실시간 음성 상호작용 등, 옴니모달(Omni-Modality) 모델 서빙을 위한 vLLM-Omni 공개 읽을거리&정보공유 vllm , inference-framework , vllm-omni , omni-modality	0	821	12월 22, 2025
TileRT: LLM의 연산을 Tile 단위 작업으로 분해하여 실행하는 초저지연(Ultra-Low Latency) 런타임 읽을거리&정보공유 llm-inference , vllm , sglang , inference-framework , tilert , tilelang , tilescale , tile-ai	0	333	11월 26, 2025
리벨리온과 스퀴즈비츠와 함께 하는 오프라인 vLLM Hands-on 워크샵💻에 초대합니다. 공지 사항 vllm , meetup , rebellions , vllm-meetup , vllm-kr , squeezebits , hands-on	0	949	10월 5, 2025
vLLM Semantic Router: 지능형 LLM 라우팅을 위한 차세대 아키텍처 읽을거리&정보공유 semantic-kernel , llm-inference , vllm , llm-inference-serving , llm-router , vllm-semantic-router , semantic-caching	0	1924	9월 24, 2025
8/19(화) 저녁, 한국에서 열리는 첫번째 vLLM meetup에 함께 해주세요! 공지 사항 vllm , meetup , vllm-meetup	5	1158	8월 19, 2025
Nano-vLLM: 처음부터 다시 구현한, 1200줄 가량의 경량 vLLM 구현체 읽을거리&정보공유 llm-inference , vllm , llm-inference-serving , nano-vllm	0	1068	6월 24, 2025
GLM-4, 26개 언어를 지원하는 9B 규모의 LLM 및 MLLM(Multimodal-LLM) 읽을거리&정보공유 multimodal , long-context , mllm , vllm , multilingual , glm-4	0	1675	6월 7, 2024
RadixAttention과 SGLang을 활용한 LLM 프로그래밍 혁신 (feat. LMSYS) 읽을거리&정보공유 llm , guidance , llm-in-production , vllm , lmsys , sglang , radixattention	0	3154	1월 20, 2024
[GN⁺] 스마트 홈 제어를 위한 완전 로컬 LLM 음성 비서 구축하기 읽을거리&정보공유 geeknews , llm , llm-in-production , personal-assistant , mixtral , glados , vllm , home-assistant	0	829	1월 15, 2024