GeekNews 의 xguru 님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. 
소개
- 상업적으로도 이용 가능한 소스코드 와 모델을 공개
- 인스트럭션 데이터셋을 만들기 위한 코드
- 일반 하드웨어/엔터프라이즈용 GPU 에서 파인튜닝 가능한 코드 (최대 20B 파라미터까지)
- LoRA 및 8-bit 양자화 코드 포함
- GPU 서버에서 챗봇을 실행하기 위한 코드(파이썬 클라이언트용 API 엔드포인트 포함)
원문
1개의 좋아요