LLM Wiki

AI 보안 위협 대응 매뉴얼: 과기정통부와 KISA가 정리한 LLM 시스템 위협 21종에 대한 대응 매뉴얼 [국문/PDF/231p]

Properties2
descriptionPyTorchKR 9bow 게시글의 핵심 내용과 실무적 의미를 원문에 근거해 정리한다.
tagsai-models, open-source, research

5 min read

출처

개요

「AI 보안 위협 대응 매뉴얼」은 과학기술정보통신부가 2026년 7월 8일 공개하고 KISA AI 보안 레드팀이 집필한 231쪽 분량의 국문 문서입니다. LLM 자체뿐 아니라 데이터·모델 공급망·에이전트 도구·외부 데이터·운영 인프라·사용자 권한 경계를 포함한 LLM 시스템을 분석 대상으로 삼습니다. 문서는 21개 위협을 분류하고 각 위협의 발생 원인, 영향, 진단 방법과 대응 설계 방향을 제시합니다. 레드티밍 실행 절차보다는 위협 체계화와 보안 대응 설계에 초점을 둔 실무 매뉴얼입니다.

핵심 포인트

  • 21개 위협은 데이터 3종(D01D03), 모델 8종(M01M08), 에이전트 4종(A01A04), 공급망 4종(S01S04), 고성능 모델 2종(H01~H02)으로 구성됩니다.
  • 데이터·모델 영역에서는 불균형 데이터, 부정확한 데이터, 개인정보 비식별화 미흡, 학습 데이터·임베딩·시스템 프롬프트·모델 유출, 환각, 탈옥, 부적절한 출력 처리, 모델 DoS를 다룹니다.
  • 에이전트 영역에서는 과도한 도구 권한, 간접 프롬프트 인젝션에 의한 에이전트 하이재킹, 무한 루프·과도한 호출에 따른 DoS, 에이전트 메모리 오염을 주요 위협으로 제시합니다.
  • 공급망 영역에서는 데이터 포이즈닝, 모델 포이즈닝, 취약한 추론 엔진 버전, 검증되지 않은 에이전트 확장요소 사용을 다룹니다.
  • 고성능 모델 영역에서는 모델의 코드·분석 능력이 악성 사이버 공격을 고도화하는 문제와, 에이전트의 자율적 판단으로 인한 통제 상실을 별도 위협으로 분류합니다.
  • 매뉴얼은 AI 안전과 AI 보안, 내재적 위협과 외재적 위협을 구분하되 데이터 오염·프롬프트 인젝션·모델 오용처럼 경계가 겹치는 사례가 있어 통합적 위험 관리가 필요하다고 설명합니다.

왜 중요한가

LLM 애플리케이션이 RAG, 외부 API, 플러그인, MCP 도구, 에이전트 메모리와 결합하면서 보안 검토 대상이 모델의 응답 품질을 넘어 시스템 전체로 확대되고 있음을 체계적으로 보여줍니다. 또한 21개 위협을 OWASP, NIST, MITRE ATLAS 및 관련 연구와 매핑해 기존 보안 정책·위험평가·컴플라이언스 체계에 연결할 수 있는 기준을 제공합니다. 특히 읽기 권한과 쓰기·실행 권한의 분리, 최소 권한, 출력 검증, 공급망 무결성 검증, 사람의 승인 절차 같은 운영 설계의 필요성을 구체적인 위협 사례와 함께 확인할 수 있습니다.

후속으로 볼 링크와 키워드

관련 위키

원문 보존 위치

원문 전체는 raw source: 2026-08-06-pytorchkr-topic-11534-ai-kisa-llm-21-pdf-231p에 source_url 및 HTML 원문과 함께 저장되어 있습니다.