[GN] Llama 2 Everywhere (L2E) - 스탠드얼론, 바이너리 포터블, 부팅 가능한 Llama 2

GeekNewsxguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley_cat:


소개

image

  • 광범위한 종류의 기기(폐기된 크롬북부터 고밀도 유니커널 까지)에서 호환성을 보장 하는 것을 목표
  • L2E들이 네트워크로 연결되고 분산되고 자체 조정되는 소규모 전문 LLM Army를 구축하고 활용하여
    미래의 AI에 대한 접근을 민주화하고 단일 대규모 LLM을 능가할 수 있다고 믿음
  • L2E OS : 작은 Llama2 모델로 부팅하고 바로 추론 가능
  • Unikernel Build : 수천개의 Llama 2 모델을 서버에서 실행하고 추론
  • 한개의 실행파일로 어떤 X86_64 기기에서든 실행가능(cosmopolitan 툴체인을 이용)

원문

출처 / GeekNews