AI 편향 (Bias)

AI 편향 (Bias)

학습 데이터·알고리즘·배포 과정에서 특정 집단에 대한 불공정한 예측이나 차별이 발생하는 현상으로, 성별·인종·나이 등에 대한 사회적 편향이 AI 시스템에 반영되어 윤리 문제 야기

특징: 데이터에 내재, 의도치 않은 차별, 사회적 영향 큼, 탐지·완화 필수

유형: 데이터편향(샘플링·레이블링 불균형), 알고리즘편향(모델가정의 한계), 확증편향(기존 판단 강화), 역사적편향(사회적 불평등 반영)

사례: 채용AI성별차별, 얼굴인식인종편향, 대출심사차별, COMPAS(재범예측편향)

탐지방법: 공정성지표(Demographic Parity·Equal Opportunity), 편향감사도구(Fairlearn·AIF360)

완화방안: 데이터균형화(리샘플링), 공정학습알고리즘, 후처리조정, 다양성확보

비교: 사전처리(데이터편향제거) vs 학습중(공정학습알고리즘) vs 사후처리(결과조정)

연관: AI윤리, 공정성, 책임있는AI, XAI