손실 함수 (Loss Function)

손실 함수 (Loss Function)

모델 예측값과 실제 정답 간 차이를 수치화하는 함수로 학습 중 최소화 대상

주요 손실함수

• •MSE: (y-ŷ)², 큰 오차 강조, 이상치 민감, 회귀
• •MAE: |y-ŷ|, 이상치 강건, 0에서 미분 불가, 회귀
• •Huber: δ 이하 MSE/δ 초과 MAE, 이상치 강건+미분 가능, RL
• •Binary CE: -y·log(ŷ), Sigmoid+이진분류
• •Categorical CE: -Σy_i·log(ŷ_i), Softmax+다중분류
• •Focal Loss: -(1-p)^γ·log(p), 불균형 분류, γ=2 기본
• •Hinge: max(0,1-y·ŷ), SVM 마진 최대화

선택 가이드: 회귀(MSE/이상치→Huber), 이진분류(BCE), 다중분류(CCE), 불균형(Focal), RL(Huber)

비교: MSE(이상치민감/기울기큼) vs MAE(강건) vs Huber(절충) vs CE(분류/확률) vs Focal(불균형)

연관: 역전파, 최적화, 회귀, 분류