# \#nvlm

**URL:** https://discuss.pytorch.kr/tag/nvlm/3770.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [NVLM 1.0, NVIDIA에서 개발한 (공개할) Open Multimodal LLM](https://discuss.pytorch.kr/t/nvlm-1-0-nvidia-open-multimodal-llm/5227)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 1\
**마지막 업데이트:** [10월 5, 2024, 10:10오전 UTC](https://discuss.pytorch.kr/t/nvlm-1-0-nvidia-open-multimodal-llm/5227 "2024-10-05T10:10:58Z")

</div>

NVLM 모델 소개 NVLM 1.0은 NVIDIA에서 개발한 최첨단 오픈 액세스 멀티모달 대규모 언어 모델(LLM) 패밀리로, 2024년 9월 17일에 공개되었습니다. 이 모델들은 GPT-4o와 같은 주요 상용 모델 및 Llama 3-V, InternVL 2와 같은 오픈 액세스 모델들과 경쟁하며, 멀티모달 학습 후에도 텍스트 전용 성능이 눈에 띄게 향상된다는 점이 큰 특징입니다. NVIDIA는 커뮤니티 사용을 위해 모델 가중치와 코드를 오픈소스로 제공할 예정입니다. NVLM 1.0 패밀리는 시각-언어 작업에서 높은 정확도와 성능을 발휘하도록 설계되었습니다. 이 모델들은 상용 및 오픈 액세스 LLM들과 비교했을 때 최첨단 결과를 보여주며, 멀티모달 학습 후 텍스트 전용 성능에서도 향상을 보였습니다. 특히 NVLM-D1.0 72B 모델은 수학 및 코딩과 같은 텍스트 전용 작업에서 그 기반이 되는 LLM을 능가하는 성능을 보여줍니다. 이 모델은 이러한 분야에서 평균 정확도가 4.3 포인트 상승했으며, 멀티모달 학습 중 성능이 하락하거나 유지된 다른 모델(Llama 3-V, InternVL)과 차별화된 성능을 자랑합니다. NVLM 1.0은 주요 모델들과 시각-언어 작업과 텍스트 전용 작업에서 비교 평가되었습니다. InternVL2-Llama3-76B와 같은 모델들은 멀티모달 학습 후 텍스트 전용 성능이 크게 저하되었으나, Llama 3-V(70B 및 405B) 모델들은 멀티모달 학습 중 백본이 동결되었기 때문에 텍스트 전용 성능을 유지할 수 있었습니다. 반면, NVLM-D1.0 72B는 멀티모달 학습 후에도 백본 성능이 향상되었으며, 특히 수학과 코딩과 같은 텍스트 벤치마크에서 눈에 띄는 성능 향상을 보였습니다. 이는 NVLM의 멀티모달 학습 방식이 텍스트 전용 작업에서도 성능을 향상시키는 특징을 가지고 있음을 보여줍니다. 정성 평가 NVLM-D-1.0-72B는 다양한 멀티모달 작업에서 뛰어난 다재다능함을 보여줍니다. 여기에는…
