Sanovsova věta - Sanovs theorem - Wikipedia

Tento článek má několik problémů. Prosím pomozte vylepši to nebo diskutovat o těchto otázkách na internetu diskusní stránka. (Zjistěte, jak a kdy tyto zprávy ze šablony odebrat) tento článek poskytuje nedostatečný kontext osobám, které toto téma neznají. Prosím pomozte vylepšit článek podle poskytuje čtenáři více kontextu. (Únor 2012) (Zjistěte, jak a kdy odstranit tuto zprávu šablony) Tento článek obsahuje a seznam doporučení, související čtení nebo externí odkazy, ale její zdroje zůstávají nejasné, protože jí chybí vložené citace. Prosím pomozte zlepšit tento článek představuji přesnější citace. (Únor 2012) (Zjistěte, jak a kdy odstranit tuto zprávu šablony) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

v teorie informace, Sanovova věta udává vazbu na pravděpodobnost pozorování atypické sekvence vzorků z daného rozdělení pravděpodobnosti. V jazyce teorie velkých odchylek, Sanovova věta identifikuje rychlostní funkce pro velké odchylky empirická míra posloupnosti i.i.d. náhodné proměnné.

Nechat A být množinou rozdělení pravděpodobnosti v abecedě Xa nechte q být libovolné rozdělení X (kde q může nebo nemusí být v A). Předpokládejme, že kreslíme n i.i.d. vzorky z q, představovaný vektorem ${ displaystyle x ^ {n} = x_ {1}, x_ {2}, ldots, x_ {n}}$. Dále žádáme, aby empirické opatření, ${ displaystyle { hat {p}} _ {x ^ {n}}}$, vzorků spadá do sady A—Formálně píšeme ${ displaystyle {x ^ {n}: { hat {p}} _ {x ^ {n}} v A }}$. Pak,

${ displaystyle q ^ {n} (x ^ {n}) leq (n + 1) ^ {| X |} 2 ^ {- nD _ { mathrm {KL}} (p ^ {*} || q) }}$,

kde

• ${ displaystyle q ^ {n} (x ^ {n})}$ je zkratka pro ${ displaystyle q (x_ {1}) q (x_ {2}) cdots q (x_ {n})}$, a
• ${ displaystyle p ^ {*}}$ je informační projekce z q na A.

Slovy, pravděpodobnost nakreslení atypického rozdělení je funkcí KL divergence od skutečné distribuce k atypické; v případě, že uvažujeme soubor možných atypických distribucí, existuje dominantní atypické rozdělení dané danou informační projekcí.

Kromě toho, pokud A je uzavření jeho interiér,

${ displaystyle lim _ {n to infty} { frac {1} {n}} log q ^ {n} (x ^ {n}) = - D _ { mathrm {KL}} (p ^ {*} || q).}$

Reference

• Cover, Thomas M .; Thomas, Joy A. (2006). Základy teorie informace (2. vyd.). Hoboken, New Jersey: Wiley Interscience. str.362.

• Sanov, I. N. (1957) „O pravděpodobnosti velkých odchylek náhodných proměnných“. Rohož. Sbornik 42 (84), č. 1, 11–44.
• Санов, И. Н. (1957) „О вероятности больших отклонений случайных величин“. МАТЕМАТИЧЕСКИЙ СБОРНИК '42 (84), č. 1, 11–44.

Tento pravděpodobnost související článek je a pahýl. Wikipedii můžete pomoci pomocí rozšiřovat to.