안녕하세요, PyTorchKR 여러분!
추석 연휴 잘 보내고 계신지요? 찔듯한 여름이 언제 끝나나 했는데, 벌써 완연한 가을이 다가왔습니다.
지난 8월 진행된 The First vLLM Korea Meetup 행사가 vLLM 공식 블로그에 소개되었는데요, 궁금하신 분들은 아래의 글에서 생생한 현장의 분위기를 확인해보세요!
또한, 이번에는 직접 vLLM으로 모델을 서빙하며 vLLM을 익히는 Hands-on Workshop을 준비하였습니다. 
이번 행사는 리벨리온(Rebellions) 및 스퀴즈비츠(SqueezeBits) 가 함께 진행하는 오프라인 Hands-on Workshop으로, 리벨리온 NPU 개발 환경에서 vLLM을 활용하여 LLM 서빙을 직접 해볼 수 있습니다. GPU와 유사한 환경에서 NPU 기반 모델 서빙을 경험할 수 있는 흔치 않은 기회로, 소규모 심화 세션을 통해 LLM 최적화의 핵심 원리를 체험하실 수 있습니다.
행사 개요
-
일시: 2025년 10월 29일 (수) 18:00 ~ 21:00
-
장소: 서울특별시 서초구 강남대로 311, 드림플러스 지하 1층 D룸
-
모집 인원: 약 20명 (조기 마감 될 수 있습니다.)
-
모집 대상
- vLLM 서빙에 관심 있는 분
- Python, PyTorch에 익숙한 분
- Rebellions NPU 활용에 관심 있는 분
-
주의 사항: 워크샵에 참석하시는 분께서는 반드시 개인 노트북을 소지하셔야 합니다.
워크샵의 주요 내용
-
리벨리온 개발환경 접속 및 Jupyter 실습
-
PyTorch를 통한 간단한 LLM 동작 실습
-
vLLM 실습 및 MoE 데모
참가 신청
- 아래 링크에서 이번 Hands-on Workshop에 참가 신청하실 수 있습니다:
즐거운 추석 연휴 보내시고, 이번 달 말에 있는 워크샵에서 뵙겠습니다!
감사합니다!