XGBoost

XGBoost

출처 : https://brunch.co.kr/@snobberys/137

1. 훌륭한 Gradient Boosting library. 병렬 처리를 사용하기에 학습, 분류가 빠름  2. 유연성이 좋다. evaluation function을 포함해서 다양한 커스텀 최적화 옵션을 제공함  3. Greedy-algorithm을 사용해 auto pruning이 가능하다. overfitting이 잘 발생하지 않음  4. 다른 algorithm과 연계 활용성이 좋다. XGBoost classifier 결론부 아래에 다른 algorithm을 붙여서 ensemble learning이 가능하다.

Boosting이란? (Boosting or Additive Training)  Boosting은 약한 classifier을 묶어서 accuracy를 prediction하는 기법. 즉, 어떤 모델이 유효한지, 적절한지를 찾아내는 과정이다.   ex) 자갈, 먼지가 섞인 것을 여러 체를 가지고 조합해서 분류