XGBoost - XGBoost - Wikipedia

XGBoost
Logo XGBoost.png
VývojářiPřispěvatelé XGBoost
První vydání27. března 2014; před 6 lety (2014-03-27)
Stabilní uvolnění
1.2.1[1] / 13. října 2020; před 2 měsíci (2020-10-13)
Úložiště
Upravte to na Wikidata
NapsánoC ++
Operační systémLinux, Operační Systém Mac, Okna
TypStrojové učení
LicenceLicence Apache 2.0
webová stránkaxgboost.ai

XGBoost[2] je open-source softwarová knihovna který poskytuje a zvýšení gradientu rámec pro C ++, Jáva,Krajta,[3]R,[4]Julie,[5]Perl,[6] a Scala.Funguje to Linux,Okna,[7] aOperační Systém Mac.[8] Z popisu projektu si klade za cíl poskytnout „Knihovnu škálovatelného, ​​přenosného a distribuovaného přechodu (GBM, GBRT, GBDT)“. To běží na jednom stroji, stejně jako distribuované rámce zpracování Apache Hadoop, Apache Spark, a Apache Flink Nedávno si získal velkou popularitu a pozornost jako algoritmus volby pro mnoho vítězných týmů soutěží strojového učení.[9]

Dějiny

XGBoost původně začínal jako výzkumný projekt Tianqi Chen[10] jako součást skupiny Distributed (Deep) Machine Learning Community (DMLC). Zpočátku to začalo jako terminálová aplikace, kterou bylo možné konfigurovat pomocí libsvm konfigurační soubor. To se stalo dobře známé v soutěžních kruzích ML po jeho použití ve vítězném řešení Higgs Machine Learning Challenge. Brzy poté byly vytvořeny balíčky Python a R a XGBoost má nyní implementace balíčků pro Javu, Scala, Julia, Perl a další jazyky. To přineslo knihovnu dalším vývojářům a přispělo k její popularitě mezi Kaggle komunita, kde byla použita pro velké množství soutěží.[9]

Brzy byla integrována s řadou dalších balíčků, což usnadňuje použití v jejich příslušných komunitách. Nyní byl integrován s scikit-učit se pro Krajta uživatelé a stříška balíček pro R uživatelů. Může být také integrován do rámců toku dat, jako je Apache Spark, Apache Hadoop, a Apache Flink pomocí abstrahovaného Rabit[11] a XGBoost4J.[12] XGBoost je také k dispozici na OpenCL pro FPGA.[13] Efektivní, škálovatelnou implementaci XGBoost publikovali Tianqi Chen a Carlos Guestrin.[14]

Funkce

Hlavní rysy XGBoost, díky nimž se liší od ostatních algoritmů zvyšujících gradient, zahrnují:[15][16][17]

Ocenění

  • John Chambers Cena (2016)[18]
  • Fyzika vysokých energií splňuje ocenění Strojové učení (HEP splňuje ML) (2016)[19]

Viz také

Reference

  1. ^ „Vydání 1.2.1 · dmlc / xgboost“. GitHub. Citováno 2020-08-08.
  2. ^ „Webová stránka projektu GitHub“.
  3. ^ "Python Package Index PYPI: xgboost". Citováno 2016-08-01.
  4. ^ "CRAN balíček xgboost". Citováno 2016-08-01.
  5. ^ "Výpis balíku Julia xgboost". Citováno 2016-08-01.
  6. ^ „CPAN modul AI :: XGBoost“. Citováno 2020-02-09.
  7. ^ „Instalace XGBoost pro Anaconda ve Windows“. Citováno 2016-08-01.
  8. ^ „Instalace XGBoost na Mac OSX“. Citováno 2016-08-01.
  9. ^ A b „XGBoost - ML vítězná řešení (neúplný seznam)“. Citováno 2016-08-01.
  10. ^ „Příběh a lekce za vývojem XGBoost“. Citováno 2016-08-01.
  11. ^ „Rabit - spolehlivé rozhraní Allreduce a Broadcast“. Citováno 2016-08-01.
  12. ^ „XGBoost4J“. Citováno 2016-08-01.
  13. ^ „XGBoost na FPGA“. Citováno 2019-08-01.
  14. ^ Chen, Tianqi; Guestrin, Carlos (2016). "XGBoost: Škálovatelný systém pro posílení stromů". V Krishnapuram, Balaji; Shah, Mohak; Smola, Alexander J .; Aggarwal, Charu C .; Shen, Dou; Rastogi, Rajeev (eds.). Sborník z 22. mezinárodní konference ACM SIGKDD o získávání znalostí a dolování dat, San Francisco, CA, USA, 13. - 17. srpna 2016. ACM. str. 785–794. arXiv:1603.02754. doi:10.1145/2939672.2939785.
  15. ^ Gandhi, Rohith (2019-05-24). „Gradient Boosting a XGBoost“. Střední. Citováno 2020-01-04.
  16. ^ "Algoritmus posilování: XGBoost". Směrem k datové vědě. 2017-05-14. Citováno 2020-01-04.
  17. ^ „Posilování stromů pomocí XGBoost - Proč XGBoost vyhrává v každé„ soutěži o strojové učení “?. Synchronizováno. 2017-10-22. Citováno 2020-01-04.
  18. ^ „John Chambers Award Previous Winners“. Citováno 2016-08-01.
  19. ^ „HEP splňuje cenu ML“. Citováno 2016-08-01.