[GN] LLaMA 모델의 간략한 역사

읽을거리&정보공유
, ,
1

GeekNews 의 xguru 님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley_cat:

소개

image

  • 2023년 2월에 출시된 LLaMA는 이미 다양한 파인튜닝 모델이 출시됨
  • 각 모델을 살펴보고 비교
    • LLaMA : (7B, 13B, 33B, 65B), CommonCrawl/C4/GitHub/Wikipedia/Gutenberg & Book3/ArXiv/StackExchange
    • Alpaca : 52k GPT-3 instructions
    • Vicuna : 70k ChatGPT conversations
    • Koala : 117k cleaned ChatGPT conversations
    • GPT4-x-Alpaca : 20k GPT4 instructions
    • WizardLM : 70k instructions synthesized with ChatGPT/GPT-3
    • OpenAssistant : 600k human interactions (OpenAssistant Conversations)
  • LLaMA 모델을 로컬에서 돌리기 위한 소프트웨어들

원문

출처 / GeekNews