# \#agent-cpp **URL:** https://discuss.pytorch.kr/tag/agent-cpp/6231.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [agent.cpp: Mozilla AI가 공개한 C++ 기반의 경량 로컬 LLM 에이전트 프레임워크](https://discuss.pytorch.kr/t/agent-cpp-mozilla-ai-c-llm/8555)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [12월 31, 2025, 3:30오전 UTC](https://discuss.pytorch.kr/t/agent-cpp-mozilla-ai-c-llm/8555 "2025-12-31T03:30:19Z")
agent.cpp 소개 agent.cpp는 Mozilla AI에서 개발한 C++ 기반의 LLM 에이전트 구축 라이브러리입니다. 이 프로젝트는 \*\*로컬 환경(Local)\*\*에서 소형 언어 모델(SLM)을 활용하여 에이전트를 구동하는 데 초점을 맞추고 있으며, 추론 엔진으로 llama.cpp를 핵심 구성 요소로 사용합니다. 최근의 AI 에이전트 개발이 대부분 Python 생태계(LangChain, AutoGen 등)나 외부 클라우드 API에 의존하는 것과 달리, agent.cpp는 외부 API 호출 없이 로컬 장비에서 완전히 독립적으로 동작하는 에이전트를 C++로 구현할 수 있게 해줍니다. 이는 인터넷 연결이 없는 환경이나 고성능이 요구되는 엣지 디바이스, 임베디드 시스템에서 AI 에이전트를 통합하려는 개발자들에게 적합합니다. agent.cpp 라이브러리는 단순히 텍스트를 생성하는 것을 넘어, 모델이 '도구(Tools)'를 사용하고, 작업을 반복(Loop)하며, 콜백(Callbacks)을 통해 시스템과 상호작용하는 에이전트 패턴을 C++ 표준(C++17 이상) 환경에서 제공합니다. 개발자는 이를 통해 시스템 쉘 명령을 실행하거나, 메모리를 관리하고, 복잡한 작업을 수행하는 다중 에이전트(Multi-Agent) 시스템을 구축할 수 있습니다. agent.cpp vs. llama.cpp 및 Python 프레임워크와의 비교 agent.cpp의 위치를 명확히 이해하기 위해 다른 기술들과 비교해 볼 수 있습니다. 먼저 llama.cpp와 비교를 해보면, llama.cpp는 LLM의 '두뇌' 역할을 하는 추론 엔진입니다. 모델 파일(GGUF)을 로드하고 텍스트를 생성하는 raw level의 기능을 제공합니다. 이에 비해, agent.cpp는 llama.cpp를 내장하여 그 위에 행동을 얹은 프레임워크입니다. 모델이 언제 도구를 사용해야 하는지 판단하고, 도구 실행 결과를 다시 모델에 입력하는 '루프(Loop)'와 '상태 관리' 기능을 제공합니다. 다음으로 Lan…