agenta: 프롬프트 관리와 평가, 관측을 통합한 오픈소스 LLMOps 플랫폼

agenta 소개

agenta는 프로덕션 수준의 LLM 애플리케이션을 만드는 과정을 프롬프트 관리, 평가, 관측이라는 세 축으로 묶어 다루는 오픈소스 LLMOps 플랫폼입니다. LLM 앱을 개발할 때 프롬프트를 실험하는 도구, 결과 품질을 검증하는 도구, 운영 중 동작을 추적하는 도구가 제각기 흩어져 있는 경우가 많은데, agenta는 이 세 가지를 하나의 플랫폼 안에서 연결하는 것을 목표로 합니다.

이 플랫폼은 엔지니어와 제품팀, 그리고 도메인 전문가(Subject Matter Expert)가 함께 협업하도록 설계된 점이 특징입니다. 프롬프트를 코드로만 다루지 않고 UI 기반 플레이그라운드에서 실험할 수 있게 하여, 프롬프트 작성에 밝은 도메인 전문가가 엔지니어와 같은 화면에서 작업할 수 있습니다. 동시에 평가와 관측은 UI와 API 양쪽으로 접근할 수 있어, 비개발자는 화면에서 실행하고 개발자는 코드로 자동화하는 식으로 역할을 나눌 수 있습니다.

agenta는 Agentatech UG(상호명 Agenta)가 개발하며, 무료 요금제가 있는 관리형 서비스인 Agenta Cloud와 함께 직접 서버에 올리는 셀프호스팅 방식을 모두 제공합니다. 본 게시물에서는 agenta의 세 가지 핵심 기능과 설치 방법, 라이선스 구조를 정리합니다.

agenta의 세 가지 핵심 기능

agenta의 기능은 프롬프트 관리, LLM 평가, LLM 관측이라는 세 축으로 나뉩니다. 아래는 각 기능의 실제 화면으로, 프롬프트를 나란히 비교하는 플레이그라운드, 평가 실행 화면, 운영 관측 화면을 보여줍니다.

agenta의 프롬프트 관리

프롬프트 관리 기능은 프롬프트를 실험하고 버전을 남기는 작업을 다룹니다. 인터랙티브 플레이그라운드에서는 여러 프롬프트를 테스트 케이스와 함께 나란히 비교할 수 있고, 50개 이상의 LLM 모델을 지원하거나 직접 준비한 모델을 연결할 수 있습니다. 프롬프트와 설정에는 브랜치와 환경(environment) 개념을 적용한 버전 관리가 가능해, 어떤 버전이 운영에 배포되었는지 추적할 수 있습니다. 단순 프롬프트를 넘어 복잡한 설정 스키마까지 도메인 전문가가 다룰 수 있도록 확장되어 있습니다.

agenta의 LLM 평가

평가 기능은 LLM 애플리케이션의 품질을 사람 피드백과 자동 평가 양쪽으로 검증합니다. 테스트셋은 운영 데이터나 플레이그라운드 실험 결과에서 만들거나 CSV로 업로드할 수 있습니다. 평가자(evaluator)로는 LLM을 심판으로 쓰는 LLM-as-judge 방식과 20개 이상의 사전 제작 평가자, 그리고 직접 작성한 커스텀 평가자를 사용할 수 있습니다. 평가는 도메인 전문가를 위한 UI와 엔지니어를 위한 프로그래밍 방식 모두로 실행되며, 전문가의 주석(annotation)을 수집해 반영하는 사람 피드백 통합도 지원합니다.

agenta의 LLM 관측 가능성

관측 기능은 운영 중인 LLM 애플리케이션의 동작을 들여다보는 역할을 합니다. 비용과 지연 시간, 사용 패턴을 추적하고, 복잡한 워크플로우를 자세한 트레이스로 디버깅할 수 있습니다. 트레이싱은 OpenTelemetry를 기반으로 하며 OpenLLMetry, OpenInference 같은 개방형 표준과 호환됩니다. 대부분의 모델과 프레임워크에 대한 사전 제작 연동이 함께 제공됩니다.

agenta 설치 및 사용법

가장 빠르게 시작하는 방법은 관리형 서비스인 Agenta Cloud를 이용하는 것으로, 신용카드 없이 쓸 수 있는 무료 요금제가 있습니다. 직접 서버에 올리려면 저장소를 복제한 뒤 예시 환경 파일을 복사하고 Docker Compose로 서비스를 실행합니다.

# 1. 저장소 복제
git clone https://github.com/Agenta-AI/agenta && cd agenta

# 2. 환경 파일 생성
cp hosting/docker-compose/oss/env.oss.gh.example hosting/docker-compose/oss/.env.oss.gh

# 3. 서비스 실행
docker compose -f hosting/docker-compose/oss/docker-compose.gh.yml \
  --env-file hosting/docker-compose/oss/.env.oss.gh \
  --profile with-web --profile with-traefik up -d

실행 후에는 http://localhost 에서 agenta에 접속합니다. 원격 호스트에 배포하거나 포트를 바꾸는 방법은 저장소의 셀프호스팅 문서에 정리되어 있습니다. 기본적으로 익명 사용 통계가 수집되며, .env 파일에서 AGENTA_TELEMETRY_ENABLEDfalse 로 설정하면 끌 수 있습니다.

agenta의 라이선스

agenta는 오픈 코어(open-core) 방식으로 라이선스를 나눕니다. 저장소의 ee/ 디렉토리에 있는 엔터프라이즈 기능을 제외한 나머지 코드는 MIT 라이선스로 공개되어 있어 개인 및 상업적 목적으로 자유롭게 사용할 수 있습니다. ee/ 디렉토리의 내용은 해당 디렉토리의 별도 라이선스(ee/LICENSE)를 따르며, 저장소에 포함된 서드파티 구성요소는 각 구성요소의 원래 라이선스를 따릅니다.

:house: agenta 공식 홈페이지

:books: agenta 문서 사이트

:github: agenta 프로젝트 GitHub 저장소

더 읽어보기




이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs:

:pytorch:파이토치 한국 사용자 모임:south_korea:이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일:love_letter:로 보내드립니다! 텔레그램(Telegram)이나 Slack/Discord/Teams/Dooray/GoogleChat 등으로도 새 글 알림을 받으실 수 있습니다. :smiley:

:wrapped_gift: 아래:down_right_arrow:쪽에 좋아요:+1:를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ :star_struck: