GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다.
소개
- 파인튜닝한 Whisper 모델을 셀프 호스트 가능한 HTTP API로 만들기
- Whisper.cpp + Python + Uvicorn
- API 키를 이용한 사용자 관리 시스템 제공(사용량 제어)
- 빠르고 효율적인 추론을 위한 양자화 모델 최적화
원문
GitHub 저장소
API 문서 / Swagger
https://innovatorved-whisper-api.hf.space/docs
https://innovatorved-whisper-api.hf.space/api/v1/openapi.json