Neymanovo-Pearsonovo lemma - Neyman–Pearson lemma

Tento článek obsahuje seznam obecných Reference, ale zůstává z velké části neověřený, protože postrádá dostatečné odpovídající vložené citace. Prosím pomozte zlepšit tento článek představuji přesnější citace. (Květen 2018) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

v statistika, Neyman – Pearson lemma byl představen Jerzy Neyman a Egon Pearson v příspěvku v roce 1933.^[1] Ukazuje, že test poměru pravděpodobnosti je většina silný test, mezi všemi možnými statistickými testy.

Tvrzení

Předpokládejme, že jeden provádí a test hypotézy mezi dvěma jednoduché hypotézy ${ displaystyle H_ {0}: theta = theta _ {0}}$ a ${ displaystyle H_ {1}: theta = theta _ {1}}$ za použití test poměru pravděpodobnosti s prahem poměru pravděpodobnosti ${ displaystyle eta}$, který odmítá ${ displaystyle H_ {0}}$ ve prospěch ${ displaystyle H_ {1}}$ na úrovni významnosti

${ displaystyle alpha = operatorname {P} ( Lambda (x) leq eta mid H_ {0}),}$

kde

${ displaystyle Lambda (x) equiv { frac {{ mathcal {L}} ( theta _ {0} mid x)} {{ mathcal {L}} ( theta _ {1} mid X)}}}$

a ${ displaystyle { mathcal {L}} ( theta mid x)}$ je funkce pravděpodobnosti. Potom Neymanovo-Pearsonovo lemma uvádí, že poměr pravděpodobnosti, ${ displaystyle Lambda (x)}$, je většina silný test na úroveň významnosti ${ displaystyle alpha}$.

Pokud je test nejsilnější pro všechny ${ displaystyle theta _ {1} in Theta _ {1}}$, říká se, že je rovnoměrně nejsilnější (UMP) pro alternativy v sadě ${ displaystyle Theta _ {1}}$.

V praxi se míra pravděpodobnosti se často používá přímo pro konstrukci testů - viz test poměru pravděpodobnosti. Lze jej však také použít k navrhování konkrétních statistik testů, které by mohly být zajímavé, nebo k navrhování zjednodušených testů - za tímto účelem se uvažuje o algebraické manipulaci s poměrem, aby se zjistilo, zda v něm existují klíčové statistiky související s velikostí poměru ( tj. zda velká statistika odpovídá malému poměru nebo velké statistice).

Důkaz

Definujte oblast odmítnutí nulové hypotézy pro Neyman – Pearsonův (NP) test jako

${ displaystyle R _ { text {NP}} = left {x: { frac {{ mathcal {L}} ( theta _ {0} mid x)} {{ mathcal {L}} ( theta _ {1} mid x)}} leqslant eta right }}$

kde ${ displaystyle eta}$ je vybrán tak, aby ${ displaystyle operatorname {P} (R _ { text {NP}} mid theta _ {0}) = alpha ,.}$

Jakýkoli alternativní test bude mít jinou oblast odmítnutí, kterou označujeme ${ displaystyle R _ { text {A}}}$.

Pravděpodobnost, že data spadají do kterékoli oblasti ${ displaystyle R = R _ { text {A}}}$ nebo ${ displaystyle R = R _ { text {NP}}}$ daný parametr ${ displaystyle theta}$ je

${ displaystyle operatorname {P} (R mid theta) = int _ {R} { mathcal {L}} ( theta mid x) , operatorname {d} x ,.}$

Pro test s kritickou oblastí ${ displaystyle R _ { text {A}}}$ mít úroveň významnosti ${ displaystyle alpha}$, to musí být pravda ${ displaystyle alpha geqslant operatorname {P} (R _ { text {A}} mid theta _ {0})}$, proto

${ displaystyle alpha = operatorname {P} (R _ { text {NP}} mid theta _ {0}) geqslant operatorname {P} (R _ { text {A}} mid theta _ {0}) ,.}$

Bude užitečné je rozdělit na integrály v různých oblastech:

${ displaystyle { begin {aligned} operatorname {P} (R _ { text {NP}} mid theta) & = operatorname {P} (R _ { text {NP}} cap R _ { text {A}} mid theta) + operatorname {P} (R _ { text {NP}} cap R _ { text {A}} ^ {c} mid theta) operatorname {P} (R _ { text {A}} mid theta) & = operatorname {P} (R _ { text {NP}} cap R _ { text {A}} mid theta) + operatorname {P } (R _ { text {NP}} ^ {c} cap R _ { text {A}} mid theta) end {zarovnáno}}}$

kde ${ displaystyle R ^ {c} equiv {x: x notin R }}$ je doplněk regionu RNastavení ${ displaystyle theta = theta _ {0}}$, tyto dva výrazy a výše uvedená nerovnost to přinášejí

${ displaystyle operatorname {P} (R _ { text {NP}} cap R _ { text {A}} ^ {c} mid theta _ {0}) geqslant P (R _ { text {NP }} ^ {c} cap R _ { text {A}} mid theta _ {0}) ,.}$

Pravomoci těchto dvou testů jsou ${ displaystyle operatorname {P} (R _ { text {NP}} mid theta _ {1})}$ a ${ displaystyle operatorname {P} (R _ { text {A}} mid theta _ {1})}$, a rádi bychom dokázali, že:

${ displaystyle operatorname {P} (R _ { text {NP}} mid theta _ {1}) geqslant operatorname {P} (R _ { text {A}} mid theta _ {1} )}$

Jak je však uvedeno výše, odpovídá to:

${ displaystyle operatorname {P} (R _ { text {NP}} cap R _ { text {A}} ^ {c} mid theta _ {1}) geqslant operatorname {P} (R_ { text {NP}} ^ {c} cap R _ { text {A}} mid theta _ {1})}$

v následujícím textu ukážeme, že výše nerovnost drží:

${ displaystyle { begin {aligned} operatorname {P} (R _ { text {NP}} cap R _ { text {A}} ^ {c} mid theta _ {1}) & = int _ {R _ { text {NP}} cap R _ { text {A}} ^ {c}} { mathcal {L}} ( theta _ {1} mid x) , operatorname {d} x [4pt] & geqslant { frac {1} { eta}} int _ {R _ { text {NP}} cap R _ { text {A}} ^ {c}} { mathcal {L}} ( theta _ {0} mid x) , operatorname {d} x && { text {podle definice}} R _ { text {NP}} { text {to platí pro jeho podmnožinu }} [4pt] & = { frac {1} { eta}} operatorname {P} (R _ { text {NP}} cap R _ { text {A}} ^ {c} mid theta _ {0}) && { text {podle definice}} operatorname {P} (R mid theta) [4pt] & geqslant { frac {1} { eta}} operatorname {P} (R _ { text {NP}} ^ {c} cap R _ { text {A}} mid theta _ {0}) [4pt] & = { frac {1} { eta}} int _ {R _ { text {NP}} ^ {c} cap R _ { text {A}}} { mathcal {L}} ( theta _ {0} mid x) , operatorname {d} x [4pt] &> int _ {R _ { text {NP}} ^ {c} cap R _ { text {A}}} { mathcal {L}} ( theta _ {1} mid x) , operatorname {d} x && { text {podle definice}} R _ { text {NP}} { text {to platí pro jeho doplněk a dílčí doplněk sady}} [4pt] & = operatorname {P} (R _ { text {NP}} ^ {c} cap R _ { text {A}} mid theta _ {1}) end { zarovnaný}}}$

Příklad

Nechat ${ displaystyle X_ {1}, tečky, X_ {n}}$ být náhodný vzorek z ${ displaystyle { mathcal {N}} ( mu, sigma ^ {2})}$ distribuce, kde průměr ${ displaystyle mu}$ je známo, a předpokládejme, že si přejeme otestovat ${ displaystyle H_ {0}: sigma ^ {2} = sigma _ {0} ^ {2}}$ proti ${ displaystyle H_ {1}: sigma ^ {2} = sigma _ {1} ^ {2}}$. Pravděpodobnost této sady normálně distribuováno data jsou

${ displaystyle { mathcal {L}} vlevo ( sigma ^ {2} uprostřed mathbf {x} vpravo) propto vlevo ( sigma ^ {2} vpravo) ^ {- n / 2} exp left {- { frac { sum _ {i = 1} ^ {n} (x_ {i} - mu) ^ {2}} {2 sigma ^ {2}}} right }.}$

Můžeme vypočítat míra pravděpodobnosti najít klíčovou statistiku v tomto testu a jeho vliv na výsledek testu:

${ displaystyle Lambda ( mathbf {x}) = { frac {{ mathcal {L}} vlevo ({ sigma _ {0}} ^ {2} mid mathbf {x} vpravo)} {{ mathcal {L}} left ({ sigma _ {1}} ^ {2} mid mathbf {x} right)}} = left ({ frac { sigma _ {0} ^ {2}} { sigma _ {1} ^ {2}}} vpravo) ^ {- n / 2} exp left {- { frac {1} {2}} ( sigma _ {0 } ^ {- 2} - sigma _ {1} ^ {- 2}) sum _ {i = 1} ^ {n} (x_ {i} - mu) ^ {2} right }.}$

Tento poměr závisí pouze na procházejících datech ${ displaystyle sum _ {i = 1} ^ {n} (x_ {i} - mu) ^ {2}}$. Proto podle lemu Neyman – Pearson nejvíce silný test tohoto typu hypotéza protože tato data budou záviset pouze na ${ displaystyle sum _ {i = 1} ^ {n} (x_ {i} - mu) ^ {2}}$. Inspekcí také zjistíme, že pokud ${ displaystyle sigma _ {1} ^ {2}> sigma _ {0} ^ {2}}$, pak ${ displaystyle Lambda ( mathbf {x})}$ je klesající funkce z ${ displaystyle sum _ {i = 1} ^ {n} (x_ {i} - mu) ^ {2}}$. Měli bychom tedy odmítnout ${ displaystyle H_ {0}}$ -li ${ displaystyle sum _ {i = 1} ^ {n} (x_ {i} - mu) ^ {2}}$ je dostatečně velká. Prahová hodnota pro odmítnutí závisí na velikost testu. V tomto příkladu může být statistika testu ukázána jako škálovaná náhodná proměnná s distribucí chí-kvadrát a lze získat přesnou kritickou hodnotu.

Aplikace v ekonomii

Varianta Neymanova-Pearsonova lemmatu našla uplatnění ve zdánlivě nesouvisející oblasti ekonomiky hodnoty půdy. Jedním ze základních problémů v teorie spotřebitele vypočítává funkce poptávky spotřebitele vzhledem k cenám. Zejména s ohledem na heterogenní pozemek, cenovou míru nad zemí a subjektivní míru užitku nad zemí je problémem spotřebitele spočítat nejlepší pozemek, který může koupit - tj. Pozemek s největším užitkem, jehož cena je nanejvýš jeho rozpočet. Ukázalo se, že tento problém je velmi podobný problému hledání nejsilnějšího statistického testu, a proto lze použít Neymanovo-Pearsonovo lema.^[2]

Využití v elektrotechnice

Lymma Neyman – Pearson je docela užitečná elektronika, zejména při navrhování a používání radar systémy, digitální komunikační systémy a v zpracování signálu systémy. V radarových systémech se Neymanovo-Pearsonovo lema používá při prvním nastavení rychlosti zmeškané detekce na požadovanou (nízkou) úroveň a poté minimalizovat rychlost falešné poplachy, nebo naopak. Falešné poplachy ani zmeškané detekce nelze nastavit na libovolně nízké rychlosti, včetně nuly. Všechno výše uvedené platí i pro mnoho systémů při zpracování signálu.

Využití ve fyzice částic

Neymanovo-Pearsonovo lema se aplikuje na konstrukci analyticky specifických poměrů pravděpodobnosti, zvyklých např. test na podpisy nová fyzika proti nominálnímu Standardní model predikce v souborech dat o srážkách proton-proton shromážděných na LHC.

Viz také

• Statistická síla
• Fisherův F-test
• Chybové exponenty při testování hypotéz
• Wilksova věta

Reference

• E. L. Lehmann, Joseph P. Romano, Testování statistických hypotéz, Springer, 2008, s. 60

externí odkazy

• Cosma Shalizi poskytuje intuitivní odvození Neymanova-Pearsonova lemmatu pomocí myšlenek z ekonomiky
• cnx.org: Kritérium Neyman – Pearson