토픽 3 / 36·Part 1. 핵심 트렌드
AI 보안 (AI Security)
3. AI 보안 (AI Security)
AI 모델 자체가 공격 대상이자 공격 도구가 되는 시대
3-1. 공격/방어 관점
AI Red Teaming (AI 시스템 침투 테스트)
← Prompt Injection / Jailbreak 방어
← AI 공급망 보안 (모델 출처 검증)
← Adversarial Attack / Data Poisoning
← 모델 보안 (워터마킹, 모델 추출 방지)
← 기계학습 보안 (학습 데이터 무결성)
← 정보보안 기본 (CIA Triad, 위협 모델링)3-2. 거버넌스 관점
AI TRiSM (Trust, Risk, Security Management)
← AI SBOM (AI 자재명세서)
← Model Card / Datasheets (모델 투명성)
← XAI (설명 가능한 AI)
← 편향·공정성 평가 (Fairness Metrics)
← AI 윤리 원칙
← IT 거버넌스 / 위험관리 (COBIT, ISO 31000)