# \#llama-cpp-rs

**URL:** https://discuss.pytorch.kr/tag/llama-cpp-rs/5059.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [LTEngine: Rust 기반으로 완전 로컬 실행 가능한 AI 번역 API](https://discuss.pytorch.kr/t/ltengine-rust-ai-api/7128)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [6월 19, 2025, 9:30오전 UTC](https://discuss.pytorch.kr/t/ltengine-rust-ai-api/7128 "2025-06-19T09:30:54Z")

</div>

LTEngine: Rust 기반으로 완전 로컬 실행 가능한 AI 번역 API LTEngine은 Rust로 작성된 오픈소스 로컬 AI 머신 번역 서버입니다. LibreTranslate의 API와 호환되며, llama.cpp와 llama.cpp의 Rust 바인딩인 llama-cpp-rs를 통해 로컬에 설치된 GGUF 형식의 대형 LLM을 사용해 번역을 수행합니다. 기존 LibreTranslate가 Argos Translate 기반 경량 모델을 사용했다면, LTEngine은 메모리와 속도를 희생해서라도 더 나은 번역 결과를 제공합니다. CPU만으로도 실행할 수 있지만, CUDA, Metal, Vulkan 같은 GPU 가속기를 활용하면 실사용에 충분히 대응할 수 있습니다 . LTEngine의 주요 기능 LibreTranslate API 호환: 기존 코드 수정 없이 대체 가능 다양한 모델 지원: gemma3-1b, 4b, 12b, gemma4-27b 등 GPU 가속 지원: CUDA, Metal (macOS), Vulkan 호환 정적 바이너리 빌드: 하나의 바이너리로 윈도우, 맥, 리눅스 실행 가능 AGPL‑3.0 라이선스: 강력한 오픈소스 보호 :hammer\_and\_wrench: 사용 방법 1. 의존성 설치 Rust clang, CMake C++ 컴파일러(g++, MSVC) 2. 클론 및 빌드 git clone https://github.com/LibreTranslate/LTEngine --recursive cd LTEngine cargo build --release --features cuda,vulkan,metal 3. 실행 ./target/release/ltengine 4. 모델 선택 기본은 gemma3-4b 명시적 실행 예시: ./ltengine -m gemma3-12b --model-file /path/to/custom.gguf GGUF 형식 모델은 llama.cpp 호환시 모두 지원 5. API 사용 예시 await fetch…