FastEmbed-rs🦀: Rust로 구현된 벡터 임베딩(embedding)과 재정렬(Reranking) 라이브러리

9bow · 9월 30, 2025, 9:30오전

FastEmbed-rs 소개

FastEmbed-rs는 Rust 언어로 작성된 임베딩(Embedding) 및 재정렬(Reranking) 라이브러리로, 원래 Qdrant의 fastembed 프로젝트를 Rust 생태계에 맞게 다시 구현한 버전입니다. 이 라이브러리는 텍스트, 이미지 데이터를 벡터 형태로 변환하여 검색, 분류, 추천 시스템 등에 활용할 수 있게 해줍니다. 최근 대규모 언어 모델(LLM)과 멀티모달 AI의 발전으로 벡터 데이터베이스와 임베딩 기술이 핵심 요소로 자리잡으면서, Rust 기반의 고성능·저비용 솔루션에 대한 수요가 커지고 있습니다.

Rust의 장점인 빠른 실행 속도와 안전한 메모리 관리 덕분에, FastEmbed-rs는 Python 기반의 라이브러리보다 성능이 우수하면서도 의존성 부담이 적습니다. 특히 Tokio와 같은 비동기 런타임에 의존하지 않고 동기 방식으로 동작하기 때문에, Rust 생태계 내 다양한 프로젝트에 쉽게 통합할 수 있습니다.

이 프로젝트는 ONNX 런타임을 기반으로 모델 추론을 처리하고, Hugging Face의 tokenizers를 활용해 빠른 토큰화 과정을 지원합니다. 따라서 텍스트, 이미지, 다국어 데이터까지 다양한 AI 응용에 적합한 임베딩을 제공합니다. Rust 개발자에게는 “빠르고 안전한 AI 임베딩 도구”라는 점에서 매우 매력적인 라이브러리입니다.

FastEmbed는 Rust뿐만 아니라 Python, Go, JavaScript 등 다양한 언어 생태계에 구현체가 존재합니다. Python 버전은 가장 먼저 등장했고 Hugging Face 모델과의 호환성이 뛰어나지만, 속도와 메모리 효율성 면에서는 Rust 버전이 강점이 있습니다. Go 및 JavaScript 버전은 웹 서비스 및 마이크로서비스 환경에 특화되어 있는 반면, Rust 버전은 시스템 레벨에서 고성능 연산이 필요한 경우 적합합니다.

즉, 대규모 데이터 처리와 실시간 검색 시스템 구축에는 Rust 버전이 특히 유리하며, Python과 달리 런타임 비용이 적다는 점에서 프로덕션 환경에서 안정적으로 사용하기에 적합합니다.

FastEmbed-rs의 주요 특징 및 지원 모델

주요 기능

동기식 실행(Synchronous Execution) 지원 → Tokio 불필요
ONNX 기반 추론 → 고성능, 경량화된 실행
Hugging Face tokenizers 기반 빠른 인코딩
텍스트, 이미지, 희소 벡터, 재정렬 모델 지원

모델 지원

FastEmbed-rs는 다음과 같은 다양한 모델을 선택적으로 활용하여 검색 시스템, 추천 엔진, 문서 분류, 이미지 검색 등과 같은 AI 애플리케이션 개발에 활용할 수 있습니다:

텍스트 임베딩(Text Embedding)
- BAAI/bge-small-en-v1.5 (기본값)
- sentence-transformers/all-MiniLM-L6-v2
- mixedbread-ai/mxbai-embed-large-v1
- Qdrant/clip-ViT-B-32-text - pairs with clip-ViT-B-32-vision for image-to-text search
- BAAI/bge-large-en-v1.5
- BAAI/bge-small-zh-v1.5
- BAAI/bge-large-zh-v1.5
- BAAI/bge-base-en-v1.5
- sentence-transformers/all-MiniLM-L12-v2
- sentence-transformers/paraphrase-MiniLM-L12-v2
- sentence-transformers/paraphrase-multilingual-mpnet-base-v2
- lightonai/ModernBERT-embed-large
- nomic-ai/nomic-embed-text-v1
- nomic-ai/nomic-embed-text-v1.5 - pairs with nomic-embed-vision-v1.5 for image-to-text search
- intfloat/multilingual-e5-small
- intfloat/multilingual-e5-base
- intfloat/multilingual-e5-large
- Alibaba-NLP/gte-base-en-v1.5
- Alibaba-NLP/gte-large-en-v1.5
희소 벡터 임베딩(Sparse Text Embedding)

prithivida/Splade_PP_en_v1 (기본값)

이미지 임베딩(Image Embedding)
재정렬(Reranking)

FastEmbed-rs의 설치 방법

Cargo.toml에 다음을 추가하면 됩니다:

[dependencies]
fastembed = "5"

FastEmbed-rs 사용 예시

텍스트 입력으로부터 임베딩 생성하기

다음은 FastEmbed-rs를 사용하여 텍스트 임베딩을 생성하는 예시 코드입니다:

use fastembed::{TextEmbedding, InitOptions, EmbeddingModel};

let mut model = TextEmbedding::try_new(Default::default())?;
let documents = vec![
    "passage: Hello, World!",
    "query: Hello, World!",
    "passage: This is an example passage.",
];
let embeddings = model.embed(documents, None)?;
println!("Embeddings length: {}", embeddings.len());

이미지 입력으로부터 임베딩 생성하기

다음은 FastEmbed-rs를 사용하여 이미지 임베딩을 생성하는 예시 코드입니다:

use fastembed::{ImageEmbedding, ImageInitOptions, ImageEmbeddingModel};

let mut model = ImageEmbedding::try_new(Default::default())?;
let images = vec!["assets/image_0.png", "assets/image_1.png"];
let embeddings = model.embed(images, None)?;
println!("Embeddings length: {}", embeddings.len());

재정렬(Reranking)

다음은 FastEmbed-rs를 사용하여 재정렬(Reranking)을 수행하는 예시 코드입니다:

use fastembed::{TextRerank, RerankInitOptions, RerankerModel};

let mut model = TextRerank::try_new(Default::default())?;
let docs = vec!["panda is animal", "giant panda is a mammal"];
let results = model.rerank("what is panda?", docs, true, None)?;
println!("Rerank result: {:?}", results);

라이선스

FastEmbed-rs 프로젝트는 Apache 2.0 라이선스로 공개 및 배포되고 있습니다. 상업적 사용에 제약이 없으며, 자유롭게 수정 및 배포가 가능합니다.

FastEmbed-rs 프로젝트 GitHub 저장소

FastEmbed-rs 프로젝트 API 문서

이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다.

파이토치 한국 사용자 모임이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

아래쪽에 좋아요를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~