Meta, 🦙 Llama-3.1 모델 공개: 405B 모델 추가 및 8B / 70B 모델들의 성능 개선

9bow · 7월 24, 2024, 3:14오전

Llama 3.1 모델 소개

Meta는 최신 AI 모델 Llama 3.1을 공개했습니다. Llama 3.1은 이전 모델에 비해 상당히 향상된 기능과 성능을 제공하며, AI 연구 및 애플리케이션 개발에 중요한 도구로 자리잡을 것입니다. 이 모델은 대규모 데이터와 고성능 하드웨어를 활용하여 훈련되었으며, 다양한 실험과 평가를 통해 그 유효성이 입증되었습니다. Meta는 Llama 3.1을 통해 AI 기술의 접근성과 유용성을 높이고자 합니다.

Llama 3.1은 기존의 8B 및 70B 모델 외에 새롭게 405B 규모의 대규모 모델도 함께 포함하고 있습니다. Llama 3.1 405B 모델은 8개 언어를 지원하여 다국어 번역과 다국적 사용자와의 상호작용이 가능합니다. 또한, 128K 컨텍스트 길이를 지원하여 문서와 같은 긴 입력이나 출력을 처리하는 데 매우 유리합니다.

Llama 3.1의 모델들은 다양한 언어에 걸쳐 150개 이상의 벤치마크 데이터셋으로 성능을 평가한 결과는 다음과 같습니다:

또한, Llama 3.1 405B 모델을 실제 시나리오에서 주요 비공개 모델들과의 성능을 사람이 직접 평가하는 실험도 함께 진행하였습니다.

Llama 3.1 모델 구조 및 학습

Llama 3.1 405B 모델은 15조 개의 토큰을 학습하였습니다. 이 모델은 16,000개의 H100 GPU를 사용하여 학습하였으며, 이는 기존의 AI 모델에 비해 훨씬 더 높은 수준의 계산 능력을 요구합니다. 또한 모델은 16비트에서 8비트로 양자화되어 단일 서버 노드에서 실행할 수 있도록 설계되었습니다. 이러한 아키텍처는 대규모 데이터 처리와 고성능 연산을 가능하게 하여, Llama 3.1의 우수한 성능을 뒷받침합니다.

Llama 3.1 405B에서는 높은 수준의 안전성을 보장하면서 사용자 지시에 대한 모델의 유용성, 품질, 세부적인 지시 사항 준수 기능을 개선하기 위해 노력했습니다. 가장 큰 과제는 더 많은 기능, 128K 컨텍스트 창, 모델 크기 증가를 지원하는 것이었습니다.

사후 학습에서는 사전 학습된 모델 위에 여러 차례의 정렬을 수행하여 최종 채팅 모델을 생성합니다. 각 라운드에는 감독 미세 조정(SFT), 거부 샘플링(RS), 직접 선호도 최적화(DPO)가 포함됩니다. 저희는 합성 데이터 생성을 통해 대부분의 SFT 예제를 생성하며, 모든 기능에 걸쳐 더 높은 품질의 합성 데이터를 생성하기 위해 여러 번 반복합니다. 또한 이 합성 데이터를 최고 품질로 필터링하기 위해 다양한 데이터 처리 기술에 투자하고 있습니다. 이를 통해 여러 기능에 걸쳐 미세 조정 데이터의 양을 확장할 수 있습니다.

Llama 시스템

Llama 3.1은 외부 도구를 호출하는 시스템의 일부로 설계되었습니다. 이 시스템은 Llama Guard 3과 Prompt Guard와 같은 새로운 보안 도구를 포함하여 사용자의 데이터 보안과 프라이버시를 보호합니다.

Llama 시스템은 다양한 애플리케이션에서 AI 모델을 효과적으로 활용할 수 있도록 지원하며, 개발자들이 쉽게 접근하고 사용할 수 있는 환경을 제공합니다. 이를 통해 AI 기술의 적용 범위를 넓히고, 더 많은 사람들이 AI의 혜택을 누릴 수 있게 합니다.

관련한 예시 코드들을 함께 공개하였으며, Llama Agentic System GitHub 저장소에서 확인하실 수 있습니다.

혁신을 위한 개방(Openness drives innovation)

Meta는 Llama 3.1 모델의 개방성을 강조하고 있습니다. 모델의 가중치는 공개되어 있으며, 개발자들은 이를 다운로드하여 맞춤화된 AI 솔루션을 개발할 수 있습니다. 이는 더 많은 사람들이 AI 기술에 접근하고 활용할 수 있도록 돕는 중요한 요소입니다. 개방성은 또한 AI 커뮤니티 내에서의 협력과 혁신을 촉진하여, AI 기술의 발전을 가속화합니다. Meta는 이러한 개방성을 통해 AI의 민주화를 이루고자 합니다.

Llama 3.1은 Llama 3.1 커뮤니티 라이선스로 공개되었습니다. 이 라이선스에 따르면, Meta는 Llama 3 모델을 비독점적, 전세계적으로 사용할 수 있는 라이선스를 제공합니다. 사용자는 원본 라이선스 계약서를 포함하고, "Built with Meta Llama 3" 문구를 명시하는 조건 하에 모델의 수정 및 재배포, 파생 제품을 생성할 수 있습니다. 또한, Llama 3를 사용하여 생성한 AI 모델의 이름에는 반드시 "Llama 3"라는 단어가 포함되어야 합니다.

월간 사용자 수가 7억명을 초과하는 경우 Meta에 추가 라이선스를 요청해야 합니다. 또한, Meta는 Llama 3 모델의 사용으로 인해 발생하는 어떠한 피해나 손해에 대해서도 책임지지 않습니다. 추가적인 제약 조건과 면책 사항 등에 대해서는 라이선스 원문을 참고해주세요.

원문 글 읽어보기

Llama 3.1 홈페이지

Llama 3.1 기술 문서

Llama 3.1 GitHub 저장소

https://github.com/meta-llama/llama-models

Llama 3.1 모델 가중치

이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다.

파이토치 한국 사용자 모임이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

아래쪽에 좋아요를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~

9bow · 7월 24, 2024, 9:08오전

replicate.dev에서 405B 모델을 사용해볼 수 있네요.