Theil – Sen odhadce - Theil–Sen estimator

Pro širší pokrytí tohoto tématu viz Robustní regrese.
Theil – Senův odhad souboru vzorkovacích bodů s odlehlými hodnotami (černá čára) ve srovnání s ne robustními obyčejné nejmenší čtverce řádek pro stejnou sadu (modrá). Přerušovaná zelená čára představuje základní pravdu, ze které byly vzorky generovány.

v neparametrické statistiky, Theil – Sen odhadce je metoda pro robustně montáž linky k vzorkování bodů v rovině (jednoduchá lineární regrese ) výběrem medián z svahy všech linií dvojicí bodů. Bylo také nazýváno Senův odhad svahu,[1][2] výběr sklonu,[3][4] the metoda jednoho mediánu,[5] the Robustní metoda line-fit společnosti Kendall,[6] a Robustní linie Kendall – Theil.[7] Je pojmenován po Henri Theil a Pranab K. Sen, který o této metodě publikoval práce v letech 1950 a 1968,[8] a poté Maurice Kendall kvůli jeho vztahu k Kendall tau rank korelační koeficient.[9]

Tento odhad lze vypočítat efektivně a je necitlivý odlehlé hodnoty. Může to být výrazně přesnější než robustní jednoduchá lineární regrese (nejméně čtverců) pro zkosený a heteroskedastický data a dobře soutěží s nejmenšími čtverci i pro normálně distribuováno údaje z hlediska statistická síla.[10] Nazývá se „nejpopulárnější neparametrická technika pro odhad lineárního trendu“.[2]

Definice

Jak je definováno Theil (1950), Theil – Senův odhadce množiny dvojrozměrných bodů (Xi,yi) je medián m sjezdovek (yj − yi)/(Xj − Xi) určeno všemi dvojicemi vzorkovacích bodů. Sen (1968) rozšířil tuto definici tak, aby zvládl případ, kdy dva datové body mají stejné X koordinovat. V Senově definici se vezme střední hodnota svahů definovaných pouze z dvojic bodů, které mají odlišné X souřadnice.[8]

Jednou svah m bylo určeno, lze určit čáru ze vzorkovacích bodů nastavením y-intercept b být mediánem hodnot yi − mxi. Přizpůsobená čára je pak čára y = mx + b s koeficienty m a b v sklon - tvar průsečíku.[11] Jak poznamenal Sen, tato volba sklonu činí Kendall tau rank korelační koeficient stane se přibližně nulovou, když se použije k porovnání hodnot Xi s jejich přidruženými zbytky yi − mxi − b. Intuitivně to naznačuje, že to, jak daleko křivka prochází nad nebo pod datovým bodem, nesouvisí s tím, zda je tento bod na levé nebo pravé straně datové sady. Volba b neovlivňuje Kendallův koeficient, ale způsobí, že medián rezidua bude přibližně nula; to znamená, že křivka prochází nad a pod stejným počtem bodů.[9]

A interval spolehlivosti pro odhad sklonu lze určit jako interval obsahující střední 95% sklonů linií určených dvojicemi bodů[12] a lze je rychle odhadnout vzorkováním dvojic bodů a určením 95% intervalu vzorkovaných svahů. Podle simulací je k určení přesného intervalu spolehlivosti dostatečné přibližně 600 párů vzorků.[10]

Variace

Variace odhadce Theil-Sen, opakovaná střední regrese z Siegel (1982), určuje pro každý vzorkovací bod (Xi,yi), medián mi sjezdovek (yj − yi)/(Xj − Xi) čar přes tento bod a poté určí celkový odhad jako medián těchto mediánů. Může tolerovat větší počet odlehlých hodnot než odhad Theil-Sen, ale známé algoritmy pro efektivní výpočet jsou složitější a méně praktické.[13]

Jiná varianta spáruje ukázkové body podle jejich pořadí X-coordinates: bod s nejmenší souřadnicí je spárován s prvním bodem nad střední souřadnicí, druhý nejmenší bod je spárován s dalším bodem nad střední hodnotou atd. Poté vypočítá střední hodnotu sklonu přímek určenou těmito dvojicemi bodů a získá rychlost zkoumáním podstatně méně párů než odhadovač Theil-Sen.[14]

Variace odhadu Theil-Sen založené na vážené mediány byly také studovány na základě principu, že páry vzorků, jejichž X- souřadnice se výrazněji liší, je větší pravděpodobnost, že budou mít přesný sklon, a proto by měly dostávat vyšší váhu.[15]

U sezónních údajů může být vhodné vyhladit sezónní výkyvy v datech zvážením pouze párů vzorkovacích bodů, které oba patří do stejného měsíce nebo stejné sezóny roku, a nalezení mediánu sklonů linií určených tato přísnější sada párů.[16]

Statistické vlastnosti

Theil-Sen odhadce je nezaujatý odhad skutečného sklonu v jednoduchá lineární regrese.[17] Pro mnoho distribucí chyba odezvy, tento odhad je vysoký asymptotická účinnost ve vztahu k nejmenší čtverce odhad.[18] Odhady s nízkou účinností vyžadují více nezávislých pozorování, aby se dosáhlo stejné rozptylu vzorků účinných nezaujatých odhadů.

Theil-Sen odhadce je více robustní než odhadce nejmenších čtverců, protože je mnohem méně citlivý na odlehlé hodnoty. Má to bod poruchy z

to znamená, že může tolerovat libovolné poškození až 29,3% vstupních datových bodů bez zhoršení jeho přesnosti.[11] Bod rozpadu se však snižuje pro vícerozměrné zobecnění metody.[19] Vyšší bod rozdělení, 50%, platí pro jiný robustní algoritmus pro přizpůsobení přímky, opakovaný odhad mediánu Siegela.[11]

Theil-Sen odhad je ekvivariant pod každým lineární transformace jeho proměnné odezvy, což znamená, že transformace dat jako první a poté přizpůsobení řádku nebo první přizpůsobení řádku a následná transformace stejným způsobem, oba způsobí stejný výsledek.[20] Není to však ekvivariant pod afinní transformace proměnných prediktorů i odpovědí.[19]

Algoritmy a implementace

Střední sklon sady n vzorkovací body lze vypočítat přesně výpočtem všech Ó(n2) čáry skrz dvojice bodů a poté použití lineárního času střední vyhledávací algoritmus. Alternativně to může být odhadnuto vzorkováním dvojic bodů. Tento problém je ekvivalentní pod projektivní dualita, k problému nalezení hraničního přechodu v uspořádání řádků který má medián X- koordinovaný mezi všemi takovými hraničními přechody.[21]

Problém provádění výběru sklonu přesně, ale efektivněji než kvadratický časový algoritmus hrubé síly byl rozsáhle studován v výpočetní geometrie. Pro výpočet Theil-Senova odhadu přesně v je známo několik různých metod Ó(n log n) čas, buď deterministicky[3] nebo pomocí randomizované algoritmy.[4] Siegelov opakovaný odhad mediánu lze také sestrojit ve stejné časové vazbě.[22] V modelech výpočtu, ve kterých jsou vstupní souřadnice celá čísla a ve kterých bitové operace na celá čísla, která potřebují konstantní čas, lze odhad Theil-Sen sestavit ještě rychleji, v náhodně očekávaném čase .[23]

Odhad svahu s přibližně středním pořadím, který má stejný bod rozdělení jako odhad Theil-Sen, může být udržován v model datového proudu (ve kterém jsou vzorové body zpracovávány jeden po druhém algoritmem, který nemá dostatek perzistentního úložiště k reprezentaci celé datové sady) pomocí algoritmu založeného na ε-sítě.[24]

V R balíček statistik, jak odhad Theil-Sen, tak Siegelov opakovaný střední odhad jsou k dispozici prostřednictvím mblm knihovna.[25]Samostatně zdarma Visual Basic aplikace pro odhad Theil – Sen, KTRLine, byla zpřístupněna Americký geologický průzkum.[26]Odhad Theil-Sen byl také implementován v Krajta jako součást SciPy a scikit-učit se knihovny.[27]

Aplikace

Byl použit odhad Theil – Sen astronomie díky své schopnosti zvládnout cenzurované regresní modely.[28] v biofyzika, Fernandes & Leblanc (2005) navrhnout jeho použití pro aplikace dálkového průzkumu Země, jako je odhad plochy listu z údajů o odrazivosti díky jeho „jednoduchosti výpočtu, analytickým odhadům intervalů spolehlivosti, robustnosti vůči odlehlým hodnotám, testovatelným předpokladům týkajícím se reziduí a ... omezené apriorní informace týkající se chyb měření ".[29] Pro měření sezónních údajů o životním prostředí, jako je Kvalita vody, byla navržena sezónně upravená varianta Theil-Senova odhadu jako výhodnější než odhad nejmenších čtverců kvůli vysoké přesnosti v přítomnosti zkreslených dat.[16] v počítačová věda, k odhadu trendů byla použita metoda Theil-Sen stárnutí softwaru.[30] v meteorologie a klimatologie, bylo použito k odhadu dlouhodobých trendů výskytu a rychlosti větru.[31]

Viz také

Poznámky

  1. ^ Gilbert (1987).
  2. ^ A b El-Shaarawi & Piegorsch (2001).
  3. ^ A b Cole a kol. (1989); Katz & Sharir (1993); Brönnimann & Chazelle (1998).
  4. ^ A b Dillencourt, Mount & Netanyahu (1992); Matoušek (1991); Blunck & Vahrenhold (2006).
  5. ^ Massart a kol. (1997).
  6. ^ Sokal a Rohlf (1995); Dytham (2011).
  7. ^ Granato (2006)
  8. ^ A b Theil (1950); Sen (1968)
  9. ^ A b Sen (1968); Osborne (2008).
  10. ^ A b Wilcox (2001).
  11. ^ A b C Rousseeuw & Leroy (2003), str. 67, 164.
  12. ^ Pro určení intervalů spolehlivosti musí být vzorkovány páry bodů s výměnou; to znamená, že sada párů použitá v tomto výpočtu zahrnuje páry, ve kterých jsou oba body stejné jako každý jiný. Tyto páry jsou vždy mimo interval spolehlivosti, protože neurčují dobře definovanou hodnotu sklonu, ale jejich použití jako součásti výpočtu způsobí, že interval spolehlivosti bude širší, než by byl bez nich.
  13. ^ Logan (2010), Oddíl 8.2.7 Robustní regrese; Matoušek, Mount & Netanyahu (1998)
  14. ^ De Muth (2006).
  15. ^ Jaeckel (1972); Scholz (1978); Sievers (1978); Birkes & Dodge (1993).
  16. ^ A b Hirsch, Slack & Smith (1982).
  17. ^ Sen (1968), Věta 5.1, str. 1384; Wang & Yu (2005).
  18. ^ Sen (1968), Oddíl 6; Wilcox (1998).
  19. ^ A b Wilcox (2005).
  20. ^ Sen (1968), str. 1383.
  21. ^ Cole a kol. (1989).
  22. ^ Matoušek, Mount & Netanyahu (1998).
  23. ^ Chan & Pătraşcu (2010).
  24. ^ Bagchi a kol. (2007).
  25. ^ Logan (2010), p. 237; Vannest, Davis & Parker (2013)
  26. ^ Vannest, Davis & Parker (2013); Granato (2006)
  27. ^ Komunita SciPy (2015); Persson & Martins (2016)
  28. ^ Akritas, Murphy & LaValley (1995).
  29. ^ Fernandes & Leblanc (2005).
  30. ^ Vaidyanathan & Trivedi (2005).
  31. ^ Romanić a kol. (2014).

Reference