# \#houyi

**URL:** https://discuss.pytorch.kr/tag/houyi/2402.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [HouYi: LLM이 통합된 애플리케이션에 대한 프롬프트 주입 공격 방법론 (Prompt Injection attack against LLM-integrated Applications)](https://discuss.pytorch.kr/t/houyi-llm-prompt-injection-attack-against-llm-integrated-applications/3221)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [1월 8, 2024, 9:02오후 UTC](https://discuss.pytorch.kr/t/houyi-llm-prompt-injection-attack-against-llm-integrated-applications/3221 "2024-01-08T21:02:00Z")

</div>

PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 최근 대규모 언어 모델(LLM)에 대한 관심이 급격히 높아지면서, LLM을 통합한 서비스나 소프트웨어 또한 급증하고 있습니다. 하지만 기능 및 구현에만 초점을 맞추는 경우가 있어, 이에 대한 관심을 환기해보고자 합니다. 이 글은 프롬프트 주입 공격(Prompt Injection Attack, prompt-injection)에 대한 연구를 정리한 글로, LLM을 조작하여 민감한 정보(개인정보 또는 기업 비밀 등)가 유출하거나 의도치 않은 행동을 유도할 수 있는 공격들에 대해 알아보겠습니다. 이 글은 GPT 모델로 정리한 것으로, 잘못된 부분이 있을 수 있으니 글 아래쪽의 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs: HouYi: 'LLM 통합 애플리케이션에 대한 프롬프트 인젝션 공격'에 대한 연구 Prompt Injection attack against LLM-integrated Applications 연구 소개 및 배경 GPT-4와 같은 LLM은 텍스트 생성 및 이해 능력이 크게 향상되어 다양한 애플리케이션에 광범위하게 통합되고 있습니다. 그러나 이러한 통합으로 인해 보안 위험도 발생하고 있습니다. 이러한 보안 위험들 중 하나인 프롬프트 주입(prompt injection) 공격은 주요한 위험 중 하나입니다. LLM을 조작하여 의도하지 않은 작업을 수행하거나 민감한 정보를 노출할 수 있는 프롬프트 주입 공격에 대해 알아보겠습니다. 이 연구는 10개의 상용 LLM 통합 애플리케이션에 대한 파일럿 연구를 통해 다양한 유형의 프롬프트 인젝션 공격에 대한 취약성을 평가하는 것으로 시작됩니다. LLM에 대한 공격은 직접 주입(Direct Injection), 이스케이프 문자(Escape Characters), \*\*컨텍스트 무시(Context Ignoring)\*\*의 3가지로 …
