Energetická vzdálenost - Energy distance

tento článek příliš spoléhá na Reference na primární zdroje. Vylepšete to přidáním sekundární nebo terciární zdroje. (Ledna 2011) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

Energetická vzdálenost je statistická vzdálenost mezi rozdělení pravděpodobnosti. Pokud X a Y jsou nezávislé náhodné vektory v R^d s kumulativní distribuční funkce (cdf) F a G, pak je energetická vzdálenost mezi distribucemi F a G definována jako druhá odmocnina z

${ displaystyle D ^ {2} (F, G) = 2 operatorname {E} | XY | - operatorname {E} | X-X ' | - operatorname {E} | Y-Y ' | geq 0,}$

kde (X, X ', Y, Y') jsou nezávislé, cdf X a X 'je F, cdf Y a Y' je G, ${ displaystyle operatorname {E}}$ je očekávaná hodnota, a || . || označuje délka vektoru. Energetická vzdálenost splňuje všechny axiomy metrické, takže energetická vzdálenost charakterizuje rovnost distribucí: D (F, G) = 0, pokud a jen když F = G. Energetická vzdálenost pro statistické aplikace byla zavedena v roce 1985 autorem Gábor J. Székely, který to dokázal u náhodných proměnných se skutečnou hodnotou ${ displaystyle D ^ {2} (F, G)}$ je přesně dvakrát Harald Cramér vzdálenost:^[1]

${ displaystyle int _ {- infty} ^ { infty} (F (x) -G (x)) ^ {2} , dx.}$

Jednoduchý důkaz této rovnocennosti viz Székely (2002).^[2]

Ve vyšších dimenzích se však tyto dvě vzdálenosti liší, protože energetická vzdálenost je neměnná rotace, zatímco Cramérova vzdálenost není. (Všimněte si, že Cramérova vzdálenost není stejná jako vzdálenost bez distribuce Kritérium Cramér – von Mises.)

Zobecnění na metrické prostory

Lze zobecnit pojem vzdálenosti energie na rozdělení pravděpodobnosti v metrických prostorech. Nechat ${ displaystyle (M, d)}$ být metrický prostor s jeho Borel sigma algebra ${ displaystyle { mathcal {B}} (M)}$. Nechat ${ displaystyle { mathcal {P}} (M)}$ označují sbírku všech pravděpodobnostní opatření na měřitelný prostor ${ displaystyle (M, { mathcal {B}} (M))}$. Pokud μ a ν jsou míry pravděpodobnosti v ${ displaystyle { mathcal {P}} (M)}$, pak energetická vzdálenost ${ displaystyle D}$ μ a ν lze definovat jako druhá odmocnina z

${ displaystyle D ^ {2} ( mu, nu) = 2 operatorname {E} [d (X, Y)] - operatorname {E} [d (X, X ')] - operatorname {E } [d (Y, Y ')].}$

To však nemusí být nutně nezáporné. Li ${ displaystyle (M, d)}$ je tedy silně negativní definitivní jádro ${ displaystyle D}$ je metrický a naopak.^[3] Tato podmínka je vyjádřena tím, že ${ displaystyle (M, d)}$ má negativní typ. Negativní typ není dostatečný pro ${ displaystyle D}$ být metrikou; druhá podmínka je vyjádřena tím, že ${ displaystyle (M, d)}$ má silný negativní typ. V této situaci je energetická vzdálenost nulová, právě když jsou X a Y shodně rozloženy. Příkladem metriky záporného typu, ale nikoli silného záporného typu, je rovina s metrika taxíku. Všechny euklidovské prostory a dokonce i oddělitelné Hilbertovy prostory mají silný negativní typ.^[4]

V literatuře o metody jádra pro strojové učení, tyto zobecněné představy o energetické vzdálenosti jsou studovány pod názvem maximální střední odchylky. Rovnocennost metod založených na vzdálenosti a jádra pro testování hypotéz je pokryta několika autory.^[5][6]

Energetické statistiky

Související statistický koncept, pojem E-statistika nebo energetická statistika^[7] byl představen Gábor J. Székely v 80. letech, kdy přednášel na kolokviu v Budapešti v Maďarsku a na MIT, Yale a v Kolumbii. Tento koncept je založen na pojmu Newton's potenciální energie.^[8] Myšlenkou je považovat statistická pozorování za nebeská těla se řídí statistikou potenciální energie což je nula, pouze když je podkladová statistika nulová hypotéza je pravda. Energetická statistika je funkcí vzdálenosti mezi statistickými pozorováními.

Energetická vzdálenost a E-statistika byly považovány za N-vzdálenosti a N-statistika v Zinger A.A., Kakosyan A.V., Klebanov L.B. Charakterizace distribucí pomocí středních hodnot některých statistik ve spojení s některými metrikami pravděpodobnosti, Problémy stability pro stochastické modely. Moskva, VNIISI, 1989, 47-55. (v ruštině), anglický překlad: Charakterizace distribucí středními hodnotami statistik a určitých pravděpodobnostních metrik A. A. Zinger, A. V. Kakosyan, L. B. Klebanov v Journal of Soviet Mathematics (1992). Ve stejném článku byla uvedena definice silně záporného konečného jádra a byla poskytnuta generalizace metrických prostorů, která byla diskutována výše. Kniha^[3] dává tyto výsledky a jejich aplikace také ke statistickému testování. Kniha obsahuje také některé aplikace k obnovení opatření z jeho potenciálu.

Testování stejných distribucí

Uvažujme nulovou hypotézu, že dvě náhodné proměnné, X a Y, mají stejná rozdělení pravděpodobnosti: ${ displaystyle mu = nu}$ . Pro statistické vzorky z X a Y:

${ displaystyle x_ {1}, tečky, x_ {n}}$ a ${ displaystyle y_ {1}, tečky, y_ {m}}$,

následující aritmetické průměry vzdáleností jsou vypočítány mezi vzorky X a Y:

${ displaystyle A: = { frac {1} {nm}} součet _ {i = 1} ^ {n} součet _ {j = 1} ^ {m} | x_ {i} -y_ {j } |, B: = { frac {1} {n ^ {2}}} sum _ {i = 1} ^ {n} sum _ {j = 1} ^ {n} | x_ {i } -x_ {j} |, C: = { frac {1} {m ^ {2}}} sum _ {i = 1} ^ {m} sum _ {j = 1} ^ {m} | y_ {i} -y_ {j} |}$.

E-statistika podkladové nulové hypotézy je definována takto:

${ displaystyle E_ {n, m} (X, Y): = 2A-B-C}$

Dá se dokázat^[8][9] že ${ displaystyle E_ {n, m} (X, Y) geq 0}$ a že odpovídající hodnota populace je nulová právě tehdy X a Y mají stejnou distribuci (${ displaystyle mu = nu}$). Podle této nulové hypotézy je statistika testu

${ displaystyle T = { frac {nm} {n + m}} E_ {n, m} (X, Y)}$

konverguje v distribuci na kvadratickou formu nezávislého standardu normální náhodné proměnné. Podle alternativní hypotézy T inklinuje k nekonečnu. To umožňuje vytvořit konzistentní statistický test, energetický test pro stejná rozdělení.^[10]

Lze také zavést E-koeficient nehomogenity. To je vždy mezi 0 a 1 a je definováno jako

${ displaystyle H = { frac {D ^ {2} (F_ {X}, F_ {Y})} {2 operatorname { operatorname {E}} | XY |}} = { frac {2 operatorname {E} | XY | - operatorname {E} | X-X ' | - operatorname {E} | Y-Y' |} {2 operatorname { operatorname {E}} | XY |}},}$

kde ${ displaystyle operatorname {E}}$ označuje očekávaná hodnota. H = 0 přesně kdy X a Y mají stejnou distribuci.

Dobře padnoucí

Pro distribuce v libovolné dimenzi (není omezeno velikostí vzorku) je definováno vícerozměrné měřítko shody. Statistika energetické vhodnosti odpovídá

${ displaystyle Q_ {n} = n vlevo ({ frac {2} {n}} sum _ {i = 1} ^ {n} operatorname {E} | x_ {i} -X | ^ { alpha} - operatorname {E} | X-X ' | ^ { alpha} - { frac {1} {n ^ {2}}} sum _ {i = 1} ^ {n} sum _ {j = 1} ^ {n} | x_ {i} -x_ {j} | ^ { alpha} right),}$

kde X a X 'jsou nezávislé a identicky distribuované podle předpokládaného rozdělení a ${ displaystyle alpha v (0,2)}$. Jedinou požadovanou podmínkou je, že X má konečnou hodnotu ${ displaystyle alpha}$ moment pod nulovou hypotézou. Podle nulové hypotézy ${ displaystyle operatorname {E} Q_ {n} = operatorname {E} | X-X ' | ^ { alpha}}$a asymptotická distribuce Q_n je kvadratická forma centrovaných Gaussových náhodných proměnných. Podle alternativní hypotézy Q_n má sklon k nekonečnu stochasticky, a tak určuje statisticky konzistentní test. U většiny aplikací lze použít exponent 1 (euklidovská vzdálenost). Důležitý speciální případ testování vícerozměrná normalita^[9] je implementován v energie balíček pro R. Testy jsou vyvíjeny také pro distribuce s těžkým ocasem, jako je Pareto (mocenský zákon ), nebo stabilní distribuce aplikací exponentů v (0,1).

Aplikace

Aplikace zahrnují:

• Hierarchické shlukování (zobecnění Wardovy metody)^[11][12]
• Testování vícerozměrné normality^[9]
• Testování hypotézy více vzorků se stejným rozdělením,^[13][14][15]
• Změňte detekci bodu^[16]
• Vícerozměrná nezávislost:
  • korelace vzdálenosti,^[17]
  • Brownova kovariance.^[18]
• Pravidla bodování:

Gneiting a Raftery^[19] aplikujte energetickou vzdálenost a vytvořte nový a velmi obecný typ správného bodovacího pravidla pro pravděpodobnostní předpovědi, energetické skóre.

• Robustní statistiky^[20]
• Výběr genů^[21]
• Analýza dat microarray^[22]
• Analýza struktury materiálu^[23]
• Morfometrická a chemometrická data^[24]

Aplikace energetické statistiky jsou implementovány v otevřeném zdroji energie balík^[25] pro R.

Reference