# \#insanely-fast-whisper

**URL:** https://discuss.pytorch.kr/tag/insanely-fast-whisper/1949.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [Insanely Fast Whisper API: OpenAI의 Whisper Large v3를 클라우드 환경에 배포하는 프로젝트](https://discuss.pytorch.kr/t/insanely-fast-whisper-api-openai-whisper-large-v3/4541)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [5월 31, 2024, 3:33오후 UTC](https://discuss.pytorch.kr/t/insanely-fast-whisper-api-openai-whisper-large-v3/4541 "2024-05-31T15:33:55Z")

</div>

Insanely Fast Whisper API: OpenAI의 Whisper Large v3를 클라우드 환경에 배포하는 프로젝트 소개 'Insanely Fast Whisper API'는 OpenAI의 Whisper Large v3 모델을 클라우드 환경에 배포하여 음성을 텍스트로 변환하는 API를 제공하는 프로젝트입니다. 이 프로젝트는 :hugs:Hugging Face의 Transformers, Optimum 및 flash-attn을 기반으로 하고 있으며, 빠른 처리 속도를 보입니다. 이 프로젝트는 Insanely Fast Whisper CLI 프로젝트를 기반으로 하며, Docker를 통해 GPU 클라우드 인프라에서 확장 가능한 프로덕션 사용 사례를 위한 매우 빠른 Whisper API를 제공합니다. 특히, 비동기 작업 및 웹훅 기능을 통해 대규모 작업을 효율적으로 관리할 수 있는 기능을 제공하는 등, 클라우드 인프라에서 다수의 GPU를 활용하여 대규모 생산 환경에 적합하게 설계되었습니다. 최근 fly.io의 GPU 서비스 출시에 맞춰 fly.io에서 쉽게 배포할 수 있도록 설정된 구성 파일을 함께 배포하였습니다. 하지만 필요한 경우 GPU와 도커를 지원하는 다른 모든 가상 머신 환경에도 배포할 수 있습니다. 주요 특징 이 프로젝트는 완전히 오픈소스로 공개되었으며, 음성을 텍스트로 빠르게 변환하는 것을 목표로 합니다. 주요한 특징은 다음과 같습니다: :microphone: 빠른 속도로 오디오를 텍스트로 변환 :open\_book: 완전 오픈 소스 및 GPU 클라우드 제공업체에 배포 가능 :speaking\_head: 내장된 화자 구분 기능 :high\_voltage: 사용하기 쉽고 빠른 API 레이어 :page\_with\_curl: 비동기 백그라운드 작업 및 웹훅 지원 :fire: 동시성 및 병렬 처리에 최적화 :white\_check\_mark: 작업 관리, 취소 및 상태 엔드포인트 제공 :locked: 안전한 API 접근…

---

## [\[TLDR\] 오늘의 AI 뉴스, 2023-10-31: GPT-3.5-turbo 매개변수는 20B 🤖, AI 행정 명령 📜, 컴퓨터 비전에서의 임베딩 👓](https://discuss.pytorch.kr/t/tldr-ai-2023-10-31-gpt-3-5-turbo-20b-ai/2770)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [11월 1, 2023, 3:00오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-10-31-gpt-3-5-turbo-20b-ai/2770 "2023-11-01T03:00:00Z")

</div>

파이토치 한국 사용자 모임에서는 TLDR 뉴스레터 의 승인을 받아 AI 소식을 DeepL로 번역 하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches GPT-3.5-turbo의 매개변수는 20B / GPT-3.5-turbo is 20B parameter (2 minute read) 연구원들은 코드 확산 모델을 연구하는 Microsoft 연구 그룹의 논문에서 gpt-3.5-turbo(ChatGPT의 기반이 되는 모델)가 20B 매개변수짜리 모델이라고 썼습니다. 원래 모델은 175B 매개변수라고 했으므로 그 사이 재교육 또는 증류가 있었을 수 있습니다. gpt-35-turbo Researchers wrote that gpt-3.5-turbo (the model behind ChatGPT) is a 20B parameter model in a paper by a Microsoft research group that studies diffusion models for code. The original model was said to be 175B parameters, so there could have been retraining or distillation. 스테이블디퓨전: 열린 공감 프로젝트 발표 / Announcing The Open Empathic Project (4 minute read) 스테이블 디퓨전 그룹은 오픈 소스 AI 시스템에서 감정을 감지하는 기능을 개발하여 보다 진정한 AI와 인간의 상호 작용을 촉진하기 위한 오픈 공감 프로젝트를 시작했습니다. stablediffusion The group behind Stable Diffusion has launched the Open Empathic project to foster emot…
