# \#kisa **URL:** https://discuss.pytorch.kr/tag/kisa/8750.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [과기정통부와 KISA가 발간한 AI 보안 레드티밍 가이드, AI 레드팀 구성부터 결과 보고까지 \[국문/PDF/69p\]](https://discuss.pytorch.kr/t/kisa-ai-ai-pdf-69p/11535)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [8월 7, 2026, 12:30오후 UTC](https://discuss.pytorch.kr/t/kisa-ai-ai-pdf-69p/11535 "2026-08-07T12:30:37Z")
AI 보안 레드티밍 가이드 소개 AI 보안 레드티밍 가이드는 과학기술정보통신부와 한국인터넷진흥원(KISA)이 2026년 7월에 발간한 69페이지 분량의 국문 지침서로, AI 모델과 서비스를 공격자 관점에서 점검하는 레드팀을 어떻게 구성하고 운영할지를 준비, 이행, 결과 보고의 3단계 절차로 정리한 문서입니다. 개요, AI 보안 레드티밍 이해, 레드팀 구성, 레드티밍 준비, 레드티밍 이행, 결과 보고의 6개 장과 4개의 부록으로 이루어져 있으며, 부록에는 곧바로 업무에 쓸 수 있는 체크리스트와 오픈소스 점검 도구 및 데이터셋 비교, 레드팀 직무기술서(JD), 그리고 국제 표준안이 제시한 레드티밍 산출물 양식까지 실려 있습니다. 이 가이드가 나온 배경은 AI 도입 속도와 보안 검증 체계 사이의 격차입니다. 가이드는 대규모 언어 모델의 급격한 성장이 활용 잠재력과 동시에 기존에 없던 보안 이슈를 동반하고 있고, 정보 유출이나 유해 콘텐츠 생성 같은 위험 요소가 기업 평판 손상, 규제 위반, 국가 안보 위협으로까지 확대되는 양상을 보인다고 진단합니다. 특히 자율적 판단과 실행이 가능한 AI 에이전트의 도입 확대는 시스템 오작동이나 악의적 공격에 대한 새로운 취약점과 책임 소재 문제까지 얽힌 복합적인 리스크를 만듭니다. 반면 국내에서는 AI 도입은 활발하지만 이를 뒷받침할 보안 체계가 아직 미비하다는 것이 가이드의 문제의식입니다. 이미 OpenAI, Google, Anthropic, Microsoft 같은 글로벌 기업들은 AI 레드팀을 공식 조직으로 운영하면서 선제적으로 취약점을 식별하고 완화하는 전략을 쓰고 있습니다. 이 가이드는 그 관행을 국내 기업과 기관이 참고할 수 있는 절차로 옮겨 놓은 문서이고, 대상 독자도 AI 모델을 개발하거나 보유한 기업, AI 서비스를 운영하는 기업, AI 영역의 보안 기업에서 실제로 레드팀을 굴려야 하는 보안 담당자, 개발자, 정책 및 운영 총괄 책임자로 명확히 정해져 있습니다. 주목할 점은 이 문서가 국제 표준화 흐름과 … --- ## [AI 보안 위협 대응 매뉴얼: 과기정통부와 KISA가 정리한 LLM 시스템 위협 21종에 대한 대응 매뉴얼 \[국문/PDF/231p\]](https://discuss.pytorch.kr/t/ai-kisa-llm-21-pdf-231p/11534)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [8월 5, 2026, 9:30오후 UTC](https://discuss.pytorch.kr/t/ai-kisa-llm-21-pdf-231p/11534 "2026-08-05T21:30:26Z")
AI 보안 위협 대응 매뉴얼 소개 AI 보안 위협 대응 매뉴얼(AI Security Threat Mitigation Manual)은 과학기술정보통신부가 2026년 7월 8일 공개한 231페이지 분량의 국문 문서로, LLM 시스템에서 발생할 수 있는 보안 위협 21개 항목을 분류하고 항목별 진단 방법과 대응 방안을 제시합니다. 한국인터넷진흥원(KISA)의 AI 보안 레드팀이 집필했고, KISA가 구성한 AI 보안 레드팀 실무협의체 회의에서 세 차례 자문을 거쳐 현업 수요를 반영한 뒤 학계 전문가 검토로 국제 기준과의 정합성을 확인한 문서입니다. 발행 기관 / Publisher: 과학기술정보통신부 정보보호기획과, 집필 한국인터넷진흥원(KISA) AI 보안 레드팀 발행일 / Published: 2026년 7월 8일 (문서 표기 2026. 7) 분량 / Length: 국문 231페이지, 그림 77개, 용어집 59항목, 참고 문헌 114건 라이선스 / License: 공공누리 제4유형 (출처표시, 상업적 이용금지, 변경금지) 원문 다운로드 / Download 이 매뉴얼이 지금 나온 배경에는 세 가지 변화가 겹쳐 있습니다. 첫째, 2022년 말 ChatGPT 공개 이후 LLM이 검색, 고객 응대, 코드 개발, 법률 자문 같은 기업의 핵심 업무 흐름에 들어왔고, 2023년과 2024년에 걸쳐 OWASP와 NIST 같은 보안 표준화 기구가 LLM 전용 위협 분류를 정식 발표했습니다. 둘째, 2025년 후반부터 외부 도구 호출과 다단계 자율 판단을 결합한 에이전트화가 산업 전반에서 본격화되고 2026년 상반기에 MCP(Model Context Protocol) 기반 도구 및 플러그인 생태계가 급팽창하면서, 보안 분석의 단위가 단독 모델에서 LLM 시스템 전체로 넓어졌습니다. 셋째, 국내에서는 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이 발효되어 고영향 AI에 대한 사람의 관리 및 감독 의무가 본격화되었고, 국제적으로는 범용 인공지능 행동강령(General-P…