# Laminar: AI Agent나 RAG와 같은 복잡한 LLM 애플리케이션을 위한 오픈소스 관측 및 분석 플랫폼 (feat. OpenLLMetry)

**URL:** https://discuss.pytorch.kr/t/laminar-ai-agent-rag-llm-feat-openllmetry/5159
**Category:** 읽을거리&정보공유
**Tags:** observability, llm-analytics, llm-framework, openllmerty, evaluation-tool, laminar, lmnr-ai, lmnr
**Created:** [9월 5, 2024, 10:05오후 UTC](https://discuss.pytorch.kr/t/laminar-ai-agent-rag-llm-feat-openllmetry/5159 "2024-09-05T22:05:14Z")
**Posts on this page:** 1
**Page:** 1

<div class="post-metadata">

### Author: ![9bow](https://discuss.pytorch.kr/user_avatar/discuss.pytorch.kr/9bow/32/16301_2.png) [@9bow](https://discuss.pytorch.kr/u/9bow)
#### Post date: [9월 5, 2024, 10:05오후 UTC](https://discuss.pytorch.kr/t/laminar-ai-agent-rag-llm-feat-openllmetry/5159/1 "2024-09-05T22:05:14Z")

</div>

## Laminar 소개

 ![Laminar: AI Agent나 RAG와 같은 복잡한 LLM 애플리케이션을 위한 오픈소스 관측 및 분석 플랫폼](https://discuss.pytorch.kr/uploads/default/original/2X/b/b6fb314e54db5a21fb9f2d29668a6b20f58a2339.png)

Laminar는 LLM 기반 애플리케이션의 복잡한 관측 및 분석을 위한 오픈소스 솔루션입니다. OpenTelemetry를 활용한 자동 계측 기능을 제공하며, LLM 호출 및 벡터 DB 호출을 몇 줄의 코드로 추적할 수 있습니다. 또한, 백엔드에서 실행되는 LLM 파이프라인의 결과를 분석하여 다양한 메트릭을 제공합니다. Rust로 작성되었으며, RabbitMQ, Postgres, Clickhouse 등 최신 스택을 활용하여 확장성과 성능을 극대화했습니다.

Laminar는 [Laminar Cloud(lmnr.ai)](https://www.lmnr.ai/) 또는 [Docker compose를 사용한 직접 호스팅](https://github.com/lmnr-ai/lmnr?tab=readme-ov-file#self-hosting-with-docker-compose), [Python 코드 내에 삽입](https://github.com/lmnr-ai/lmnr?tab=readme-ov-file#instrumenting-python-code)하여 사용할 수 있습니다. 자세한 사용 방법은 [GitHub 저장소](https://github.com/lmnr-ai/lmnr) 또는 [공식 문서](https://docs.lmnr.ai/overview)를 참고해주세요.

## Laminar의 주요 기능

 ![Laminar의 간단한 입력-LLM-출력 파이프라인과 그 실행 결과](https://discuss.pytorch.kr/uploads/default/original/2X/c/cabea10053059b36704c650996f9e1c04a3f7171.png)

- **OpenTelemetry 기반 계측** : LLM 및 벡터 DB 호출을 자동으로 계측합니다.
- **이벤트 기반 분석** : 백그라운드 작업 대기열을 통해 LLM 파이프라인의 출력을 메트릭으로 전환합니다.
- **모던 스택** : Rust로 작성되었으며, RabbitMQ(메시지 큐), Postgres(데이터 저장), Clickhouse(분석) 등을 사용합니다.
- **대시보드** : 이벤트, 트레이스, 스팬을 빠르고 쉽게 시각화할 수 있는 대시보드를 제공합니다.

## 라이선스

Laminar 프로젝트는 [Apache-2.0 License](https://github.com/lmnr-ai/lmnr/blob/main/LICENSE.md)로 공개되어 있으며, 자유롭게 사용 및 배포가 가능합니다.

## :github: Laminar GitHub 저장소

[https://github.com/lmnr-ai/lmnr](https://github.com/lmnr-ai/lmnr)

## 📚 Laminar 공식 문서

> **[Laminar - Laminar documentation](https://docs.laminar.sh/overview)**

* * *

_이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다._ 🤗

[:pytorch:파이토치 한국 사용자 모임🇰🇷](https://pytorch.kr/)이 정리한 이 글이 유용하셨나요? [회원으로 가입](https://discuss.pytorch.kr/signup)하시면 주요 글들을 이메일💌로 보내드립니다! (기본은 Weekly지만 [Daily로 변경도 가능](https://discuss.pytorch.kr/my/preferences/emails)합니다.)

🎁 아래↘쪽에 좋아요👍를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 🤩
