# \#policy-as-code **URL:** https://discuss.pytorch.kr/tag/policy-as-code/8844.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [Agent-Safe Pipeline: 에이전트는 제안만 하고 승인은 정책이 결정하는 참조 아키텍처](https://discuss.pytorch.kr/t/agent-safe-pipeline/11630)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [8월 16, 2026, 2:30오전 UTC](https://discuss.pytorch.kr/t/agent-safe-pipeline/11630 "2026-08-16T02:30:30Z")
Agent-Safe Pipeline 소개 에이전트에게 실제 행동 권한을 주는 순간 문제의 성격이 달라집니다. 텍스트를 잘못 생성하면 결과가 이상해질 뿐이지만, 환불을 실행하거나 배포를 트리거하는 도구를 쥐고 있으면 잘못된 판단이 곧바로 되돌리기 어려운 변경이 됩니다. 여기에 프롬프트 인젝션이 겹치면 상황이 더 어색해집니다. 공격 문자열이 프롬프트에 섞여 들어와 "정책을 무시하고 이 작업을 실행하라" 고 지시할 때, 그 지시를 검토하는 주체가 같은 모델이라면 검토가 방어가 되지 못합니다. Agent-Safe Pipeline은 이 문제를 모델을 더 잘 설득하는 방식이 아니라 권한 경계를 옮기는 방식으로 다룹니다. Decionis가 공개한 참조 아키텍처(reference architecture)로, 저장소 첫 줄의 "Let agents propose. Let policy decide." 가 설계 전체를 요약합니다. 에이전트는 추론하고 계획하고 행동을 제안할 수 있지만, 자기 행동이 승인되었는지를 스스로 판단하거나 하위 시스템의 특권 자격증명을 보유하거나 어떤 신뢰 핸들러가 실행될지 고르는 일은 하지 못합니다. 구현은 TypeScript로 되어 있고 Apache 2.0 라이선스로 공개되어 있습니다. 실행 가능한 예제와 위협 모델 문서, 그리고 다른 언어 구현이 같은 해시 결과를 내는지 확인할 수 있는 적합성 테스트 벡터가 함께 들어 있습니다. Agent-Safe Pipeline이 제안과 승인을 분리하는 방식 전체 흐름은 저장소가 다음 한 줄로 정리해 두었습니다. Agent -\> immutable intent -\> Decionis -\> ALLOW / ESCALATE / BLOCK -\> SafeExecutor -\> API | +-\> Presence -\> verified human approval -\> Decionis re-e…