disaggregated-inference
| 글 | 댓글 | 조회수 | 활동 | |
|---|---|---|---|---|
| E-P-D 분리 서빙: 비전 인코더를 떼어내 TTFT를 최대 93% 줄이는 조건과 오히려 느려지는 조건 (feat. NVIDIA Dynamo) |
|
0 | 263 | 9월 10, 2026 |
| Mooncake: Kimi를 떠받치는 KVCache 중심 분리형 LLM 서빙 플랫폼 |
|
0 | 530 | 6월 30, 2026 |