Celková variační vzdálenost pravděpodobnostních opatření - Total variation distance of probability measures

v teorie pravděpodobnosti, celková variační vzdálenost je míra vzdálenosti pro rozdělení pravděpodobnosti. Je to příklad a statistická vzdálenost metrický a někdy se mu říká statistická vzdálenost nebo variační vzdálenost.

Definice

Celková variační vzdálenost mezi dvěma pravděpodobnostní opatření P a Q na sigma-algebra ${ displaystyle { mathcal {F}}}$ z podmnožiny ukázkového prostoru ${ displaystyle Omega}$ je definováno prostřednictvím^[1]

{ displaystyle delta (P, Q) = sup _ {A v { mathcal {F}}} vlevo | P (A) -Q (A) vpravo |.}

Neformálně se jedná o největší možný rozdíl mezi pravděpodobnostmi, které tyto dvě rozdělení pravděpodobnosti lze přiřadit ke stejné události.

Vlastnosti

Vztah k jiným vzdálenostem

Celková variační vzdálenost souvisí s Kullback – Leiblerova divergence podle Pinskerova nerovnost:

{ displaystyle delta (P, Q) leq { sqrt {{ frac {1} {2}} D _ { mathrm {KL}} (P paralelní Q)}}.}

Pokud je sada spočetná, celková variační vzdálenost souvisí s L¹ norma podle identity:^[2]

{ displaystyle delta (P, Q) = { frac {1} {2}} | PQ | _ {1} = { frac {1} {2}} sum _ { omega in Omega} | P ( omega) -Q ( omega) |.}

Celková variační vzdálenost souvisí s Hellingerova vzdálenost ${ displaystyle H (P, Q)}$ jak následuje:^[3]

{ displaystyle H ^ {2} (P, Q) leq delta (P, Q) leq { sqrt {2}} H (P, Q) ,.}

Tyto nerovnosti vyplývají okamžitě z nerovností mezi 1-norma a 2-norma.

Připojení k dopravní teorie

Celková variační vzdálenost (nebo polovina normy) vzniká jako optimální přepravní cena, když je nákladová funkce ${ displaystyle c (x, y) = { mathbf {1}} _ {x neq y}}$ , to znamená,

{ displaystyle { frac {1} {2}} | PQ | _ {1} = delta (P, Q) = inf _ { pi} operatorname {E} _ { pi} [{ mathbf {1}} _ {x neq y}],}

kde se bere očekávání s ohledem na míru pravděpodobnosti ${ displaystyle pi}$ v prostoru kde ${ displaystyle (x, y)}$ životy, a vše je ovládnuto infimem ${ displaystyle pi}$ s okraji ${ displaystyle P}$ a ${ displaystyle Q}$ , resp^[4].

Viz také

Reference

^ Chatterjee, Sourav. „Vzdálenosti mezi měřítky pravděpodobnosti“ (PDF). UC Berkeley. Archivovány od originál (PDF) 8. července 2008. Citováno 21. června 2013.
^ David A. Levin, Yuval Peres, Elizabeth L. Wilmer, Markovovy řetězce a časy míchání, 2.. rev. vyd. (AMS, 2017), Proposition 4.2, p. 48.
^ Harsha, Prahladh (23. září 2011). „Přednášky o složitosti komunikace“ (PDF).
^ Villani, Cédric (2009). Optimální doprava, stará i nová. Grundlehren der mathematischen Wissenschaften. 338. Springer-Verlag Berlin Heidelberg. str. 10. doi:10.1007/978-3-540-71050-9. ISBN 978-3-540-71049-3.

Tento pravděpodobnost související článek je a pahýl. Wikipedii můžete pomoci pomocí rozšiřovat to.

[Chatterjee2007-1] Chatterjee, Sourav. „Vzdálenosti mezi měřítky pravděpodobnosti“ (PDF). UC Berkeley. Archivovány od originál (PDF) 8. července 2008. Citováno 21. června 2013.

[2] David A. Levin, Yuval Peres, Elizabeth L. Wilmer, Markovovy řetězce a časy míchání, 2.. rev. vyd. (AMS, 2017), Proposition 4.2, p. 48.

[3] Harsha, Prahladh (23. září 2011). „Přednášky o složitosti komunikace“ (PDF).

[4] Villani, Cédric (2009). Optimální doprava, stará i nová. Grundlehren der mathematischen Wissenschaften. 338. Springer-Verlag Berlin Heidelberg. str. 10. doi:10.1007/978-3-540-71050-9. ISBN 978-3-540-71049-3.

[1]

[2]

[3]

[4]