[GN] Alpaca.cpp - ChatGPT 같은 모델을 개인 노트북에서 실행하기

읽을거리&정보공유
,
1

GeekNews 의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. ^^


[소개 글]

image

  • LLaMA 와 Alpaca, 그리고 llama.cpp 를 합쳐서 조정한 뒤 채팅 인터페이스를 붙인 것
  • Alpaca-7b-q4 모델을 이용
  • M2 맥북에어 에서도 꽤 빠른 속도로 생성


[원문]


[출처/GeekNews]

1개의 좋아요