Learning
토픽 23 / 172·머신러닝 기초

회귀 알고리즘

회귀 알고리즘

입력 변수와 연속적인 출력 변수 간의 관계를 학습하여 수치를 예측하는 지도학습 알고리즘으로, 집값 예측, 수요 예측, 주가 예측 등 연속적 출력이 필요한 문제에 사용

목적: 입력-출력 관계 모델링, 연속값 예측

주요알고리즘

  • Linear Regression: 선형관계, 최소제곱법, 해석용이
  • Ridge Regression: L2정규화, 과적합방지, 다중공선성해결
  • Lasso Regression: L1정규화, 특징선택, 희소모델
  • Polynomial Regression: 비선형관계, 다항식변환
  • Decision Tree Regressor: 규칙기반, 비선형, 해석가능
  • Random Forest Regressor: 다수트리앙상블, 안정적
  • XGBoost/LightGBM Regressor: 그래디언트부스팅, 최고성능

평가지표: MSE(평균제곱오차), RMSE(제곱근평균제곱오차), MAE(평균절대오차), R²(결정계수, 설명력)

적용사례: 집값예측(Linear Regression), 수요예측(XGBoost), 주가예측(LSTM), 기온예측(Polynomial)

비교: 회귀(연속수치) vs 분류(이산범주)

연관: 지도학습, Linear Regression, Ridge, Lasso, 정규화, XGBoost