tensorrt-llm
글 | 댓글 | 조회수 | 활동 | |
---|---|---|---|---|
NVIDIA H100 & TensorRT-LLM으로 Mixtral 8x7B 모델 고성능 달성하기 (feat. NVIDIA 블로그 글) | 0 | 233 | 7월 10, 2024 | |
[GN] NVIDIA, LLM 추론을 가속하는 TensorRT-LLM 오픈소스 공개 | 0 | 796 | 9월 13, 2023 | |
[TLDR] 오늘의 AI 뉴스, 2023-09-11: NVIDIA의 더 빨라진 LLM 추론 엔진 💨, Imbue, 2억 달러 투자 유치 💰, 브라우저에서의 딥 러닝 💻 | 1 | 299 | 12월 31, 2023 |