llm-acceleration
글 | 댓글 | 조회수 | 활동 | |
---|---|---|---|---|
ipex-llm: Intel CPU 및 GPU에서 로컬 LLM의 추론 및 미세 조정을 위한 PyTorch LLM 라이브러리 | 0 | 644 | 4월 12, 2024 | |
[GN⁺] Intel, Gaudi 3 AI 가속기 출시 | 0 | 424 | 4월 10, 2024 | |
메두사: 여러 디코딩 헤더를 사용한 대규모 언어 모델 추론 가속화 프레임워크 (Medusa: Simple Framework for Accelerating LLM Generation with Multiple Decoding Heads) | 0 | 965 | 12월 26, 2023 |