[GN] Alpaca.cpp - ChatGPT 같은 모델을 개인 노트북에서 실행하기

[9bow (박정환)]

GeekNews 의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. ^^

[소개 글]

• LLaMA 와 Alpaca, 그리고 llama.cpp 를 합쳐서 조정한 뒤 채팅 인터페이스를 붙인 것
• Alpaca-7b-q4 모델을 이용
• M2 맥북에어 에서도 꽤 빠른 속도로 생성

[원문]

https://github.com/antimatter15/alpaca.cpp

[출처/GeekNews]

Alpaca.cpp - ChatGPT 같은 모델을 개인 노트북에서 실행하기 | GeekNews