# \#followme

**URL:** https://discuss.pytorch.kr/tag/followme/2256.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [PyTorchKR이 정리한 오늘의 주요 AI/ML 소식들 @ 2023-12-12: StripedHyena-7B, Zephyr-3B, FollowMe 등](https://discuss.pytorch.kr/t/pytorchkr-ai-ml-2023-12-12-stripedhyena-7b-zephyr-3b-followme/3027)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [12월 12, 2023, 4:55오전 UTC](https://discuss.pytorch.kr/t/pytorchkr-ai-ml-2023-12-12-stripedhyena-7b-zephyr-3b-followme/3027 "2023-12-12T04:55:22Z")

</div>

파이토치 한국 사용자 모임이 한땀한땀 정리한 오늘의 주요 AI/ML 소식들을 전해드립니다. StripedHyena-7B: TogetherAI에서 출시한 최신 AI 모델 RedPajama 등의 모델을 공개했던 TogetherAI에서는 긴 컨텍스트에서 잘 동작하는 새로운 모델을 공개했습니다. 이 모델은 Transformer 구조가 아닌 신호 처리에서 영감을 받은 시퀀스 모델에 기반한 새로운 구조를 적용한 것이 특징입니다. 이번에 공개한 모델은 Base 모델인 StripedHyena-Hessian-7B (SH 7B)과 Chat 모델인 StripedHyena-Nous-7B (SH-N 7B)의 2종류입니다. 더 읽어보기 출시 공지: Paving the way to efficient architectures: StripedHyena-7B, open source models offering a glimpse into a world beyond Transformers 새 모델 사용해보기(로그인 필요): https://api.together.xyz/playground/chat/togethercomputer/StripedHyena-Nous-7B 관련 태그: together hyena redpajama 100배 속도 향상을 목표로, 트랜스포머의 추론 최적화 기법 소개 트랜스포머 구조에서의 추론을 최적화하기 위해 전체적인 기술 스택에 대해서 다루고 있습니다: NVIDIA의 A100 메모리 계층 구조와 같은 GPU 하드웨어 사양부터 FlashAttention, vLLM 같은 MLSys 방법론, 모델 아키텍처(Mixture of Experts), 디코딩 알고리즘(Speculative Decoding 및 그 변형) 등에서의 최적화를 통해 트랜스포머 추론의 규모를 확장하고 속도를 높일 수 있습니다. 더 읽어보기 Notion 관련 태그: gpu-optimization llm-in-production transformer howto optimizing …