# \#oversight-agents **URL:** https://discuss.pytorch.kr/tag/oversight-agents/5843.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [Agents Rule of Two: Meta가 공개한, AI 에이전트 보안을 위한 현실적인 접근법](https://discuss.pytorch.kr/t/agents-rule-of-two-meta-ai/8121)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [11월 4, 2025, 9:30오후 UTC](https://discuss.pytorch.kr/t/agents-rule-of-two-meta-ai/8121 "2025-11-04T21:30:40Z")
AI 에이전트 보안의 필요성 AI 에이전트는 최근 빠르게 발전하면서 인간의 업무를 자동화하고 효율성을 높이는 데 큰 역할을 하고 있습니다. 예를 들어, 이메일을 대신 관리해주는 “Email-Bot”과 같은 에이전트는 받은 편지함을 분석하고, 요약을 제공하며, 사용자를 대신해 답장을 작성할 수도 있습니다. 하지만 이러한 편리함 뒤에는 새로운 형태의 보안 위협이 존재합니다. 특히, 프롬프트 인젝션(Prompt Injection)은 대규모 언어 모델(LLM)의 구조적 약점을 악용할 수 있는 대표적인 공격 방식으로 꼽힙니다. 프롬프트 인젝션이란 신뢰할 수 없는 문자열이나 데이터를 AI의 입력 컨텍스트에 삽입하여, 개발자가 설정한 지침을 무시하게 하거나 비인가 작업을 수행하게 만드는 공격입니다. 예를 들어, 공격자가 악성 명령을 포함한 이메일을 보내면, 이를 처리하는 AI 에이전트가 해킹당할 수 있습니다. 이로 인해 이메일 내용 유출, 피싱 메일 발송, 사용자 데이터 탈취 등의 문제가 발생할 수 있습니다. Meta는 이러한 보안 문제를 해결하기 위해 "Agents Rule of Two"라는 새로운 프레임워크를 제시했습니다. "Agents Rule of Two" 접근법은 AI 에이전트가 사용자에게 유용하면서도 안전하게 동작할 수 있도록, 위험 요소를 체계적으로 줄이는 실질적인 보안 가이드라인을 제공합니다. Chromium Rule of 2와 Simon Willison의 ‘Lethal Trifecta’ Meta의 ‘Agents Rule of Two’는 사실 완전히 새로운 개념은 아닙니다. 이 아이디어(와 이름에 대한 아이디어까지)는 Chromium 프로젝트의 보안 정책인 Rule of 2 와, Django의 창시자 Simon Willison이 제시한 Lethal Trifecta(치명적 삼중 구조)에서 영감을 받았습니다. Chromium의 Rule of 2는 구글이 크로미움(Chromium) 웹 브라우저 개발 과정에서 제정한 핵심 보안 원칙으로, '취약점이…