Chybové exponenty při testování hypotéz - Error exponents in hypothesis testing - Wikipedia

v statistické testování hypotéz, chybovým exponentem postupu testování hypotéz je rychlost, s jakou se pravděpodobnosti typů I a II exponenciálně rozpadají s velikostí vzorku použitého v testu. Například pokud je pravděpodobnost chyby ${ displaystyle P _ { mathrm {chyba}}}$ testu se rozpadá jako ${ displaystyle e ^ {- n beta}}$, kde ${ displaystyle n}$ je velikost vzorku, chybový exponent je ${ displaystyle beta}$.

Formálně je chybový exponent testu definován jako mezní hodnota poměru záporného logaritmu pravděpodobnosti chyby k velikosti vzorku pro velké velikosti vzorku: ${ displaystyle lim _ {n to infty} { frac {- ln P _ { text {chyba}}} {n}}}$. Chybové exponenty pro různé testy hypotéz se počítají pomocí Sanovova věta a další výsledky z teorie velkých odchylek.

Chybové exponenty v testování binárních hypotéz

Zvažte problém testování binárních hypotéz, při kterém jsou pozorování modelována jako nezávislé a identicky distribuované náhodné proměnné pod každou hypotézou. Nechat ${ displaystyle Y_ {1}, Y_ {2}, ldots, Y_ {n}}$ označit pozorování. Nechat ${ displaystyle f_ {0}}$ označit funkce hustoty pravděpodobnosti každého pozorování ${ displaystyle Y_ {i}}$ podle nulové hypotézy ${ displaystyle H_ {0}}$ a nechte ${ displaystyle f_ {1}}$ označte funkci hustoty pravděpodobnosti každého pozorování ${ displaystyle Y_ {i}}$ podle alternativní hypotézy ${ displaystyle H_ {1}}$.

V tomto případě existují dvě možné chybové události. Chyba typu 1, také nazývaná falešně pozitivní, nastane, když je nulová hypotéza pravdivá a je nesprávně odmítnuta. Chyba typu 2, nazývaná také falešně negativní, nastane, když je alternativní hypotéza pravdivá a nulová hypotéza není odmítnuta. Pravděpodobnost chyby typu 1 je označena ${ displaystyle P ( mathrm {chyba} střední H_ {0})}$ a je označena pravděpodobnost chyby typu 2 ${ displaystyle P ( mathrm {chyba} střední H_ {1})}$.

Optimální chybový exponent pro Neyman – Pearsonovo testování

V Neyman-Pearson^[1] verze testování binárních hypotéz se zajímá o minimalizaci pravděpodobnosti chyby typu 2 ${ displaystyle P ({ text {error}} střední H_ {1})}$ s výhradou, že pravděpodobnost chyby typu 1 ${ displaystyle P ({ text {error}} střední H_ {0})}$ je menší nebo roven předem určené úrovni ${ displaystyle alpha}$. V tomto nastavení je optimální postup testování a test poměru pravděpodobnosti.^[2] Optimální test dále zaručuje, že pravděpodobnost chyby typu 2 se exponenciálně snižuje ve velikosti vzorku ${ displaystyle n}$ podle ${ displaystyle lim _ {n to infty} { frac {- ln P ( mathrm {chyba} střední H_ {1})} {n}} = D (f_ {0} paralelní f_ { 1})}$.^[3] Chybový exponent ${ displaystyle D (f_ {0} paralelní f_ {1})}$ je Kullback – Leiblerova divergence mezi rozdělení pravděpodobnosti pozorování podle dvou hypotéz. Tento exponent je také označován jako Chernoff – Steinův lemmatický exponent.

Optimální chybový exponent pro průměrnou pravděpodobnost chyby v Bayesianově testování hypotéz

V Bayesian verze testování binárních hypotéz se zajímá o minimalizaci průměrné pravděpodobnosti chyby v obou hypotézách za předpokladu předchozí pravděpodobnosti výskytu u každé hypotézy. Nechat ${ displaystyle pi _ {0}}$ označují předchozí pravděpodobnost hypotézy ${ displaystyle H_ {0}}$. V tomto případě je průměrná pravděpodobnost chyby dána vztahem ${ displaystyle P _ { text {ave}} = pi _ {0} P ({ text {error}} mid H_ {0}) + (1- pi _ {0}) P ({ text {error}} mid H_ {1})}$. V tomto nastavení opět test poměru pravděpodobnosti^[4] je optimální a optimální chyba se rozpadá jako ${ displaystyle lim _ {n to infty} { frac {- ln P _ { text {ave}}} {n}} = C (f_ {0}, f_ {1})}$ kde ${ displaystyle C (f_ {0}, f_ {1})}$ představuje Chernoffovu informaci mezi dvěma distribucemi definovanými jako ${ displaystyle C (f_ {0}, f_ {1}) = min _ { lambda v [0,1]} int (f_ {0} (x)) ^ { lambda} (f_ {1 } (x)) ^ {(1- lambda)} , dx.}$

Reference