# \#nvidia-nemo-aligner

**URL:** https://discuss.pytorch.kr/tag/nvidia-nemo-aligner/3310.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [NVIDIA, Nemotron-4의 더 큰 버전인 Nemotron-4-340B 공개 (& Nemotron-3 및 Nemotron-4 시리즈 정리)](https://discuss.pytorch.kr/t/nvidia-nemotron-4-nemotron-4-340b-nemotron-3-nemotron-4/4647)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [6월 16, 2024, 11:45오후 UTC](https://discuss.pytorch.kr/t/nvidia-nemotron-4-nemotron-4-340b-nemotron-3-nemotron-4/4647 "2024-06-16T23:45:26Z")

</div>

NVIDIA, Nemotron-4의 더 큰 버전인 Nemotron-4-340B 공개 Nemotron 시리즈 소개 Nemotron 모델 시리즈는 NVIDIA에서 공개한 대규모 언어 모델(LLM, Large Language Model) 시리즈로, 다양한 매개변수 크기와 컨텍스트 길이를 제공합니다. 또한, Nemotron 모델 시리즈는 NVIDIA의 NeMo 프레임워크와 호환되며, 다양한 기업용 AI 응용 프로그램을 지원하기 위해 설계되었습니다. Nemotron-3 시리즈와 Nemotron-4 시리즈는 각각 8B와 15B의 매개변수를 가지며, 이번에 새로 공개한 Nemotron-4-340B는 340B 규모의 매개변수를 갖는 모델군입니다. 각 모델 시리즈에 대한 상세한 설명은 다음 내용을 참고해주세요. Nemotron-3 (8B) 시리즈 소개 2023년 말 출시된 Nemotron-3 시리즈는 8B 규모의 파라매터와 4K 컨텍스트 길이를 갖춘 대규모 언어 모델로, 기본 모델(Base), 채팅 모델(Chat), 질문 응답 모델(QA) 등 여러 변형들을 포함하고 있습니다. Microsoft Azure AI와의 협력을 통해 학습 및 공개되어, Azure AI에서도 쉽고 편하게 사용할 수 있도록 제공하고 있습니다. Nemotron-3 8B 시리즈의 각 변형들의 설명 및 다운로드를 위한 링크는 다음과 같습니다: Model Variant Key Benefits Base Nemotron-3-8B-Base 매개변수 효율적 미세 조정 및 도메인 적응을 위한 연속 사전 학습 지원 Chat Nemotron-3-8B-Chat-SFT 사용자 정의 모델에 대해 Instruction-Following SFT(Supervised Fine-Tuning)을 진행 Nemotron-3-8B-Chat-RLHF RLHF(Reinforecement Learning by Human Feedback) 기법으로 지시어 튜닝(instruction-tuned)된 최고의 성능을 자랑하는 채팅…
