[GN] WhatsApp-Llama: 자신의 왓츠앱 대화로 LLM 파인튜닝 하기

읽을거리&정보공유
, , , , , ,
1

GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley_cat:

소개

  • Llama 7B 를 자신의 왓츠앱 대화로 파인튜닝하여, 자신처럼 말하게 만들기
  • QLoRA 와 int4 양자화로 싱글 GPU(P100 + 16GB)로 파인튜닝 가능
  • 3가지 질문에 대한 2가지 답(LLM or 본인)을 평가하는 실험결과 약 10%의 친구들(20명중 2명)이 속았다고
    예시 대화 1
    예시 대화 11256×394 48.5 KB

    예시 대화 2
    예시 대화 21260×318 34.4 KB

    (Candidate A가 Llama-2 7B)

원문

출처 / GeekNews