[GN] Whisper.cpp - OpenAI Whisper의 고성능 C/C++ 구현체

읽을거리&정보공유
, ,
1

GeekNews 의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. ^^

[소개 글]

  • OpenAI Whisper ASR 모델을 일반 C/C++로 의존성 없이 구현
  • 애플 실리콘 : Arm Neon 과 Accelerate 프레임워크로 최적화
  • x86용 AVX, POWER용 VSX 명령셋 지원
  • F16/F32 혼합 정밀도
  • 적은 메모리 사용량
  • 런타임시에 메모리 할당 없음
  • CPU에서 실행
  • 지원 플랫폼 : MacOS(인텔&ARM), iOS, Android, Linux/FreeBSD, WebAssembly, Windows(MSVC & MinGW), Raspberry Pi

[원문]

[출처/GeekNews]

1개의 좋아요
2

Native App으로 만들 때 사용하기 좋을 것 같네요 ㅎㅎ

무엇보다 Whisper API가 실시간을 지원하지 않고 있어서 일정 주기로 요청하라고 가이드하고 있는데, 이러한 부분까지 구현해두었네요 :astonished:

It doesn't support real-time per se, but you could build something similar by e.g. incrementally transcribing the audio every second.

1개의 좋아요
3

라즈베리 파이라니,, 싼 가격에 실시간 번역기가 탄생했네요.