Agentic Business Process Management 개요
연구 소개 및 배경
대규모 언어 모델(LLM)과 AI 에이전트 기술이 빠르게 발전하면서, 기업의 업무 프로세스에 자율적 에이전트를 도입하려는 시도가 늘어나고 있습니다. 하지만 자율적으로 의사결정을 내리는 에이전트를 조직의 업무에 배치하면, 규정 위반이나 의도하지 않은 결과가 발생할 위험도 함께 커집니다. 이러한 위험을 어떻게 체계적으로 관리할 것인가가 핵심 과제입니다.
비즈니스 프로세스 관리(Business Process Management, BPM)는 조직 내 업무 활동을 체계적으로 설계, 실행, 모니터링, 개선하는 방법론으로 수십 년간 발전해 왔습니다. 그러나 전통적인 BPM은 사전에 정의된 워크플로우를 자동화하는 데 초점을 맞추고 있어, 자율적으로 판단하고 행동하는 AI 에이전트를 관리하기에는 한계가 있습니다.
이 논문은 IBM Research, SAP, University of Oxford, Sapienza Universita di Roma 등 18명의 연구자가 공동으로 작성한 매니페스토로, 에이전틱 비즈니스 프로세스 관리(Agentic Business Process Management, APM) 라는 새로운 패러다임의 개념적 기초를 제시합니다. APM은 자율적 에이전트가 조직의 업무 프로세스를 실행할 때 이를 효과적으로 관리(governance)하기 위한 BPM의 확장입니다. Dagstuhl 세미나 #25192에서의 논의를 기반으로, APM 시스템이 갖추어야 할 핵심 역량과 연구 과제를 체계적으로 정리하고 있습니다.
APM의 핵심 개념: 프레임된 에이전시(Framed Agency)
자동화가 아닌 자율성
APM에서 가장 중요한 구분은 자동화(automation) 와 자율성(autonomy) 의 차이입니다. 자동화는 사전 정의된 규칙을 그대로 실행하는 것인 반면, 자율성은 에이전트가 주어진 프로세스 프레임(frame) 안에서 상황에 맞게 스스로 판단하고 행동하는 것을 의미합니다.
APM 시스템에서 에이전트는 단순한 실행 도구가 아닌 일급 시민(first-class citizen) 입니다. 에이전트는 환경을 인식(perceive)하고, 추론(reason)하며, 행동(act)하는 자율적 실행 주체로 정의됩니다. 여기에는 인간 에이전트, 소프트웨어 에이전트, 물리적 실체를 가진 로봇 에이전트, 그리고 LLM 기반 AI 에이전트 등 다양한 유형이 포함됩니다.
프레이밍(Framing) 메커니즘
APM의 핵심에는 프레이밍 이라는 메커니즘이 있습니다. 프레이밍은 에이전트의 자율성에 제약을 부여하여 프로세스 인식(process-awareness)과 목표 정렬(goal-alignment)을 보장하는 장치입니다.
- 프로세스 인식: 에이전트의 행동이 조직의 공통 프로세스 목표를 달성하는 방향으로 진행되도록 합니다.
- 목표 정렬: 에이전트 간의 협업 규칙, 역할 분배, 계층 구조를 설정하여 개별 에이전트의 목표가 전체 시스템의 목표와 조화를 이루도록 합니다.
예를 들어 공급업체 온보딩(onboarding) 프로세스를 생각해 보면, 구매자 에이전트와 공급자 에이전트가 각각 자신의 목표를 추구하면서도, 전체 조달 프로세스의 규정과 목표를 준수해야 합니다. 프레이밍은 이러한 균형을 가능하게 하는 메커니즘입니다.
APM 에이전트의 네 가지 핵심 역량
Agentic Business Process Management 논문은 APM 에이전트가 반드시 갖추어야 할 네 가지 핵심 역량을 제시합니다. 이 역량들은 의도적으로 순서가 정해져 있으며, 각각이 다음 역량의 기반이 됩니다. 각각은 다음과 같습니다:
프레임된 자율성(Framed Autonomy)
프레임된 자율성은 에이전트의 자율적 행동이 조직의 프로세스 프레임 안에서 작동하도록 보장하는 역량입니다. 프레임은 크게 세 가지 유형으로 나뉩니다:
- 정신적 프레임(Mental Frame): 에이전트가 프로세스에 대해 알아야 하는 지식, 즉 "이 프로세스가 무엇인지"에 대한 인식입니다.
- 의도적 프레임(Intentional Frame): 에이전트가 달성해야 할 목표와 원하는 결과를 정의합니다.
- 규범적 프레임(Normative Frame): 에이전트가 따라야 할 의무, 허가, 금지 사항 등의 규범적 제약입니다.
이를 통해 에이전트는 완전히 자유로운 것도, 완전히 통제되는 것도 아닌, 프레임 안에서의 자율성을 갖게 됩니다.
설명 가능성(Explainability)
APM 시스템이 효과적으로 운영되려면 에이전트가 자신의 행동과 결정의 근거를 설명할 수 있어야 합니다. 설명 가능성은 다음과 같은 문제를 해결합니다:
- 이해관계자 간의 신뢰 구축: 에이전트의 의사결정 근거가 불명확하면 신뢰를 얻기 어렵습니다.
- AI 내부 작동의 불투명성 해소: 에이전트가 왜 특정 행동을 했는지 디버깅하고 이해할 수 있어야 합니다.
- 책임 소재 규명: 에이전트가 잘못된 결정을 내렸을 때, 그 원인을 파악하고 시정 조치를 취할 수 있어야 합니다.
- 규제 준수: EU의 GDPR이나 AI Act 같은 규제 프레임워크는 AI 시스템의 투명성을 요구하고 있습니다.
논문은 설명 가능성이 APM 시스템에서 "1등 시민"이 되어야 한다고 강조합니다. 에이전트가 다른 에이전트의 행동 오류를 자율적으로 해결하고, 인간의 개입을 줄이기 위해서는 행동의 근거를 명확히 전달할 수 있어야 하기 때문입니다.
대화적 실행 가능성(Conversational Actionability)
대화적 실행 가능성은 에이전트가 대화(interaction)와 실행(enactment) 역량을 결합하는 능력입니다. 두 가지 핵심 요소로 구성됩니다:
- 프로세스 인식 대화(Process-aware Conversation): 대화형 인터페이스를 통해 프로세스 관련 행동을 지원, 촉발, 안내합니다.
- 프로세스 인식 실행(Process-aware Actionability): 대화가 실제 비즈니스 프로세스 실행으로 이어집니다. 의사결정, 행동 수행, 우선순위 변경 등이 포함됩니다.
에이전트는 다양한 도구(tool)를 활용하여 실행력을 갖추는데, 논문에서는 Model Context Protocol(MCP)을 에이전트가 도구를 발견하고 활용하는 프로토콜의 예시로 언급하고 있습니다. 에이전트가 ERP, CRM 같은 기록 시스템이나 IoT 기기, 자동화 도구 등 다양한 액추에이터(actuator)와 상호작용하려면 이러한 도구들이 의미적으로 풍부한 설명과 함께 제공되어야 합니다.
자기 수정(Self-Modification)
APM 시스템이 변화하는 환경에 적응하려면 자기 수정 능력이 필수적입니다. 논문은 자기 수정을 두 가지로 구분합니다:
- 적응(Adaptation): 프로세스 실행 중 발생하는 예외적 상황에 대한 단기적, 인스턴스별 수정입니다. 현재 실행에만 영향을 미치며 프로세스 모델 자체를 변경하지 않습니다.
- 진화(Evolution): 여러 인스턴스에서 축적된 인사이트를 바탕으로 프로세스 로직이나 정책을 영구적으로 변경하는 것입니다.
이상적으로 적응과 진화는 피드백 루프를 형성합니다. 적응 과정에서 생성된 실행 데이터가 학습 메커니즘에 투입되고, 일관되게 효과적인 적응 패턴은 진화적 변경의 후보가 됩니다. 반대로 진화를 통해 알려진 문제를 선제적으로 해결하면 특정 유형의 적응 필요성이 줄어듭니다.
주요 연구 과제
Agentic Business Process Management 논문은 네 가지 핵심 역량 각각에 대해 세부적인 연구 과제를 제시합니다. 연구진들이 제시한 주요 과제들은 다음과 같습니다:
프레임된 자율성 관련 과제
-
에이전트 개념의 실용적 정의: BPM 실무자가 직관적으로 이해할 수 있는 에이전트의 개념 정의가 필요합니다. LLM 등장 이전에는 비즈니스 정보 시스템에서 에이전트 개념이 큰 역할을 하지 않았기 때문입니다.
-
프레임의 도출 및 명세: 프레임을 정의하기 위한 메타모델과 명세 언어가 필요합니다. 선언적 프로세스 명세, LLM 기반 자연어 추출, 규칙 마이닝 등 다양한 접근법을 결합할 수 있습니다.
-
프레임 준수를 위한 인센티브 설계: 인간은 보상이나 인정으로 동기부여가 되지만, AI 에이전트에게는 내부 효용 모델을 재구성하는 기능적 대안이 필요합니다.
설명 가능성 관련 과제
-
설명 선호도의 학습: 에이전트가 다른 에이전트(인간 또는 디지털)의 설명 선호도를 파악하고 적응하는 방법이 필요합니다.
-
인과적으로 건전한 설명 생성: 단순히 시간적으로 연속된 행동과 실제로 인과 관계가 있는 행동을 구분해야 합니다.
-
기존 XAI 기법의 확장: 에이전트의 행동을 설명하려면 AI 모델의 내부뿐 아니라, 행동이 이루어진 맥락과 프레이밍 제약까지 고려해야 합니다.
대화적 실행 가능성 관련 과제
-
자율성, 위임, 통제의 균형: 서로 다른 수준의 신뢰도와 성능을 가진 여러 에이전트가 상호작용할 때, 자율성과 인간의 감독 사이에서 최적의 균형점을 찾는 것이 과제입니다.
-
레거시 BPM 시스템과의 통합: 기존 ABPMS(AI-Augmented BPM System)를 에이전트로 래핑(wrapping)할 때, 내부 컴포넌트와 어떻게 상호작용할 것인지의 문제입니다.
자기 수정 관련 과제
-
수정의 거버넌스: 자율적 에이전트가 언제 인간에게 통제를 반환해야 하는지, 프로세스 수정 제안을 인간이 어떻게 검증할 것인지가 핵심입니다.
-
불확실성 모델링: LLM의 확률적 특성, 변화하는 맥락, 인간 에이전트의 예측 불가능한 행동 등에서 발생하는 불확실성을 측정하고 관리해야 합니다.
-
지속적 학습과 적응 관리: 에이전트가 자신의 실행 이력을 분석하고 학습하되, 제한된 메모리와 컨텍스트 내에서 효율적으로 수행해야 합니다.
교차적(Cross-cutting) 과제
-
레거시 BPM의 APM 전환: 기존 워크플로우를 에이전트 중심으로 재해석하는 기술적, 의미적 변환이 필요합니다.
-
보안 및 프라이버시: 프롬프트 인젝션(prompt injection), 학습 과정의 오염(poisoning), 설명을 통한 민감 데이터 유출 등 새로운 공격 표면에 대한 대응이 필요합니다.
-
벤치마크 프레임워크: 시간, 비용, 품질 같은 전통적 BPM 지표 외에 에이전트 역량을 평가할 새로운 메트릭이 필요합니다.
시사점 및 전망
이 APM 매니페스토(Manifesto)는 AI 에이전트가 조직의 업무 프로세스에 깊이 관여하는 시대를 대비한 연구 로드맵을 제시합니다. 핵심 메시지는 에이전트의 자율성이 무제한이어서는 안 되며, 프로세스 인식이라는 프레임 안에서 제약되고, 정렬되며, 운영되어야 한다는 것입니다.
특히 MCP와 같은 에이전트-도구 통합 프로토콜의 언급은, 이 연구가 이론적 차원에 그치지 않고 실제 산업 적용을 염두에 두고 있음을 보여줍니다. BPM, AI, 멀티 에이전트 시스템이라는 세 커뮤니티를 연결하는 이 연구는 향후 기업 환경에서의 AI 에이전트 거버넌스 체계 구축에 중요한 참고가 될 것입니다.
Agentic Business Process Management: A Research Manifesto 논문
이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임
이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 