# \#bidirectional-ssm

**URL:** https://discuss.pytorch.kr/tag/bidirectional-ssm/2528.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [Vision Mamba(Vim): 양방향 상태 공간 모델(SSM)을 활용한 효율적 시각 표현 학습](https://discuss.pytorch.kr/t/vision-mamba-vim-ssm/3423)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [2월 3, 2024, 4:25오전 UTC](https://discuss.pytorch.kr/t/vision-mamba-vim-ssm/3423 "2024-02-03T04:25:57Z")

</div>

PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 양방향의 상태 공간 모델(State Space Model)을 사용하여 시각 데이터로부터 위치 감도와 전역 컨텍스트를 모두 활용하는 Vision Mamba(Vim, 비전 맘바) 모델을 소개합니다. SSM의 효율적 활용을 위해 셀프 어텐션을 제거하여 연산 속도 및 메모리 효율을 높이면서도 다양한 작업에서 우수한 성능을 보인 비전 맘바를 함께 살펴보시죠. :star\_struck: 이 글은 GPT 모델로 정리한 것으로, 잘못된 부분이 있을 수 있으니 글 아래쪽의 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs: Vision Mamba(Vim): 양방향 상태 공간 모델(SSM)을 활용한 효율적 시각 표현 학습 (Vision Mamba: Efficient Visual Representation Learning with Bidirectional State Space Model) 소개 Vision Mamba(Vim, 비전 맘바)는 효율적 시각 표현 학습을 위한 새로운 모델입니다. Vim은 양방향 상태 공간 모델(bidirectional State-Space Model)을 사용하여 시각 데이터로부터 위치 민감도(position sensitivity)와 전역 컨텍스트(global context)를 잘 활용할 수 있습니다. 예를 들어, 영상 데이터를 처리하기 위해 사용한 CNN은 지역적 특성(local feature)은 잘 추출하였지만 이미지 전체로부터의 전역 컨텍스트(global context)는 잘 식별하지 못했으며, 최근 많이 사용하고 있는 비전 트랜스포머(ViT, Vision Transformer)는 셀프 어텐션 기법을 사용하여 전역 컨텍스트 식별은 가능하지만, 연산량이 많고 메모리 효율성이 떨어지는 문제가 있었습니다. Vision Mamba는 이러한 문제들을 해결하면서도 ImageNet 분…
