AI/ML 보안

AI/ML 보안

AI/ML 시스템에 대한 공격 위협과 AI 모델 자체의 보안 취약점을 다루는 보안 분야

특징: 새로운 공격 표면, 적대적 공격(Adversarial Attack), 데이터 의존성

구성요소: 학습 데이터, AI 모델, 추론 파이프라인, AI 서비스

기술요소: 적대적 공격(입력 조작), 데이터 포이즈닝(학습 데이터 오염), 모델 탈취(Model Extraction), 멤버십 추론(개인정보 유출)

위협: 적대적 공격(이미지 분류 우회), 데이터 포이즈닝(백도어 삽입), 모델 탈취(지적재산 절도), 프롬프트 인젝션(LLM), 모델 역공학

대응: 적대적 훈련(Adversarial Training), 입력 검증, 모델 암호화, Differential Privacy(차등 프라이버시), 접근 제어(API Rate Limiting), 모델 워터마킹

LLM 보안: 프롬프트 인젝션, 데이터 유출, 유해 콘텐츠 생성, Jailbreak

적용사례: 얼굴 인식 우회, 자율주행 공격, LLM 프롬프트 인젝션, AI 모델 보호

비교: 적대적 공격(추론 시) vs 포이즈닝(학습 시) vs 모델 탈취(모델 자체)

연관: AI, 프라이버시, 데이터 보안, LLM