tool2agent 소개
tool2agent는 대규모 언어 모델(LLM) 에이전트가 복잡한 비즈니스 제약 조건을 시행착오를 통해 극복할 수 있도록 돕는 통신 프로토콜입니다. 실제 환경의 도메인 제약 조건은 복잡하고, 동적이며, 때로는 공개적으로 알려져 있지 않아 단순히 LLM 컨텍스트에 모두 입력하는 것이 불가능합니다. tool2agent는 이러한 문제를 해결하기 위해 도구(Tool)로부터 풍부하고 구조화된 피드백 데이터를 에이전트에게 전달하는 방식을 정의합니다.
이 프로토콜은 에이전트가 요청을 목표 달성까지 점진적으로 개선할 수 있도록 구조화된 오류 및 제안을 생성하는 규칙을 명시합니다. 단순히 도구의 스키마를 LLM에게 제공하는 것만으로는 부족하며, tool2agent는 도메인 제약 조건을 코드 레벨의 안전장치(Guardrail)로 표현하고, 도구 피드백을 사용하여 LLM의 흐름을 안내하도록 권장합니다. 이는 LLM 기반 워크플로우 설계 아이디어가 수렴되어 탄생한 일종의 실험적인 프로젝트로, 복잡한 현실 세계에서의 LLM 도구 호출 문제를 해결하는 새로운 접근 방식을 제시합니다.
tool2agent의 동작: 구조화된 피드백 흐름
tool2agent의 핵심은 도구에서 LLM으로 정보가 흐르는 방식을 구조화하는 데 있습니다. 이러한 구조화는 데이터의 프로그래밍 방식 소비를 가능하게 하며, 예를 들어 재사용 가능한 미들웨어 형태로 활용될 수 있습니다.
도구 피드백의 중요성
일반적으로 LLM 에이전트가 도구 호출을 수행할 때, 도메인 제약 조건으로 인해 실패하더라도 단순히 오류 메시지만을 반환하는 경우가 많습니다. Guardrail는 이 과정에서 도메인 제약 조건을 반영한 구조화된 오류와 개선을 위한 제안을 포함하는 피드백을 정의합니다. 이러한 피드백에는 에이전트가 반복적으로 요청을 수정하고 개선하는 데 필요한 충분한 컨텍스트가 담겨 있습니다.
Guardrail의 기술적 정의
Guardrail는 도구 호출 피드백 흐름을 예측 가능한 방식으로 구조화할 수 있도록 하는 일련의 규칙 및 규약(Conventions) 입니다. 이 규약을 통해 에이전트는 시행착오를 거치며 학습하고, 목표를 달성할 때까지 요청을 개선해 나갈 수 있습니다.
(잠재적인) 토큰 사용 효율성 증대
Guardrail를 활용하는 워크플로우는 동적 스키마를 사용하는 경우, 시행착오와 피드백을 위한 도구 호출이 증가할 수는 있지만, 전체적으로는 훨씬 적은 토큰을 소비할 수 있는 잠재력을 가집니다. 이는 복잡한 도메인 지식을 모두 LLM의 컨텍스트 창에 주입하는 대신, 필요할 때 도구 호출과 피드백을 통해 동적으로 정보를 얻기 때문입니다.
향후 연구 및 개발 영역
Tool2agent 접근 방식의 한계와 가능성을 탐구하기 위해 다음과 같은 영역에 대한 추가적인 연구가 필요할 수 있습니다.
-
관측 가능성(Observability) 및 로깅: 도구 호출 및 피드백 흐름을 추적하고 분석하기 위한 기능
-
요청 제한(Rate limiting), 디바운싱(Debouncing), 도구 호출 폴링(Polling): 에이전트와 도구 간의 상호작용을 최적화하고 안정화하기 위한 메커니즘
-
자동 오류 수정: 더 저렴한 소형 모델을 사용하여 도구 호출 문제를 즉석에서 수정하는 방안
-
앱 상태로부터 도구 피드백 도출: 애플리케이션의 현재 상태를 기반으로 의미 있는 도구 피드백을 생성하는 방법
tool2agent 프로젝트 GitHub 저장소
tool2agent 프로토콜 API 문서
이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임
이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 