preloader

XGBoost. I po co to komu?

Będzie o drzewach, lasach i nie tylko... a jednak ani nie o dendrologii, ani nie o leśnictwie…. Drzewa decyzyjne, lasy losowe i...XGBoost. I po co to komu?

 

 

W pierwszej części zapraszam na prezentację („XGBoost rządzi, ale może jeszcze więcej”), którą dzieli się samouk i trener uczenia maszynowego – Vladimir Alekseichenko.

 

Zagadnienie poruszone w prezentacji, m.in.:

  • XGBoost
  • drzewa decyzyjne, lasy losowe
  • ważność cech, nieliniowe zależności w cechach
  • learning step (długość kroku), “n estimators” (ilość kroków)
  • wynik pośredni
  • trenowanie drzew z mniejszą i większa głębokością w tym samym modelu

 

 

 

 

 

W drugiej części podrzucam spis dodatkowych źródeł wiedzy w obrębie tematu:

=> Official GitHub repository

=> XGBoost page

=> Official documentation page

=> Higgs Boson Discovery with Boosted Trees

=> XGBoost: A Scalable Tree Boosting System

 

Instalacja:

=> XGBoost documentation website

 

XGBoost w Pythonie:

=> Python Package Introduction

=> XGBoost Python Feature Walkthrough

 

XGBoost w R:

=> CRAN page for the xgboost package

=> R vignette Package ‘xgboost

=> Discover Your Data

=> XGBoost Presentation

=> XGboost: eXtreme Gradient Boosting

=> Understand your dataset with XGBoost

 

 


 

Źródło:

https://www.pexels.com/photo/nature-forest-trees-park-38136/

https://github.com/dmlc/xgboost

https://github.com/dmlc/xgboost/tree/master/demo

https://xgboost.readthedocs.io/en/latest/

http://proceedings.mlr.press/v42/chen14.pdf

https://arxiv.org/abs/1603.02754

http://xgboost.readthedocs.io/en/latest/build.html

https://cran.r-project.org/web/packages/xgboost/index.html

https://cran.r-project.org/web/packages/xgboost/vignettes/discoverYourData.html

https://cran.r-project.org/web/packages/xgboost/vignettes/xgboostPresentation.html

https://cran.r-project.org/web/packages/xgboost/vignettes/xgboost.pdf

http://xgboost.readthedocs.io/en/latest/R-package/xgboostPresentation.html

http://xgboost.readthedocs.io/en/latest/R-package/discoverYourData.html

http://xgboost.readthedocs.io/en/latest/python/python_intro.html

https://github.com/tqchen/xgboost/tree/master/demo/guide-python