[GN] Jan - 오픈소스 ChatGPT 대체제를 위한 크로스 플랫폼 프레임워크

읽을거리&정보공유
, , , ,
1

GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley_cat:

소개

[GN] Jan - 오픈소스 ChatGPT 대체제를 위한 크로스 플랫폼 프레임워크
[GN] Jan - 오픈소스 ChatGPT 대체제를 위한 크로스 플랫폼 프레임워크1920×600 138 KB

  • 100% 로컬, 모든 하드웨어에서 실행: NVidia GPU, 애플 실리콘부터 멀티 GPU 클러스터 까지

  • 최종 목표는 누구나 AI를 쉽게 탑재할수 있도록 지원 하는 것

    • Jan Framework, Jan Desktop Client + Server, Nitro

  • Nitro : C++로 작성된 고효율 추론 엔진 (3MB)

    • Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion

데모

[GN] Jan - 오픈소스 ChatGPT 대체제를 위한 크로스 플랫폼 프레임워크 데모

더 읽어보기

Jan 홈페이지

Jan GitHub

Jan 사용자 가이드

Jan 개발자 가이드

출처 / GeekNews