공부하는 습관을 들이자43 부스팅 알고리즘 부스팅 알고리즘 종류 AdaBoost GBM(Gradient Boosting Machine) XGBoost LightGBM CatBoost AdaBoost Adaptive Boost의 줄임말로 약한 학습기(weak learner)의 오류 데이터에 가중치를 두어 더하는 알고리즘이다. AdaBoost는 이전의 분류기에 의해 잘못 분류된 것들을 이어지는 약한 학습기들이 수정해줄 수 있다. 따라서 AdaBoost는 잡음이 많은 데이터와 이상점에 취약한 모습을 보이는 반면 과적합(overfitting)에 덜 취약한 모습을 보인다. Decision Tree를 약한 학습기로 사용한다. AdaBoost의 경우 아래와 같은 방식으로 학습을 진행한다. 1. (1) 첫번째 약한 학습기가 Iteration 1의 경우 선을 기.. 2021. 12. 29. 이전 1 ··· 5 6 7 8 다음
