파이토치 한국 사용자 모임
sliding-window-attention
글
댓글
조회수
활동
Samba: Microsoft가 공개한 효율적인 무제한 컨텍스트 언어 모델 (Mamba + MLP + Sliding Window Attention + 고품질 Dataset)
읽을거리&정보공유
microsoft
,
long-context
,
small-llm
,
mamba
,
samba
,
sliding-window-attention
,
mlp-stacking
0
489
6월 14, 2024