[GN] OpenLM - 여러 LLM 호출이 가능한 OpenAI 호환 파이썬 클라이언트

읽을거리&정보공유
, , ,
1

GeekNews의 xguru 님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley_cat:

소개

image

  • OpenAI의 API와 똑같은 파라미터로 HuggingFace, Cohere 및 자신의 모델등 다른 LLM을 호출 가능
  • 현재는 Completion Endpoint만 지원하지만, Streaming/Embeddings 같은 엔드포인트도 추가예정
  • 기존 코드에 import openlm as openai 해서 그대로 이용 가능

원문

출처 / GeekNews