Lindleyův paradox - Lindleys paradox - Wikipedia

Lindleyův paradox je neintuitivní situace v statistika ve kterém Bayesian a častý přístupy k a testování hypotéz problém dát různé výsledky pro určité volby předchozí distribuce. Problém neshody mezi těmito dvěma přístupy byl diskutován v Harold Jeffreys „Učebnice z roku 1939;^[1] později se stal známým jako Lindleyův paradox Dennis Lindley nazval nesouhlas a paradox v papíru z roku 1957.^[2]

Ačkoli se označuje jako a paradoxlze odlišit výsledky Bayesovského a frekventovaného přístupu tím, že je použijeme k zodpovězení zásadně odlišných otázek, spíše než ke skutečnému nesouhlasu mezi těmito dvěma metodami.

Nicméně u velké třídy předních jsou rozdíly mezi frekventovaným a bayesovským přístupem způsobeny udržováním pevné úrovně významnosti: jak dokonce Lindley uznal, „teorie neospravedlňuje praxi udržování pevné úrovně významnosti“ a dokonce „některé výpočty profesora Pearsona v diskusi k tomuto článku zdůraznily, jak by se úroveň významnosti musela měnit s velikostí vzorku, pokud by byly ztráty a předchozí pravděpodobnosti udržovány pevné. ''^[2] Ve skutečnosti, pokud se kritická hodnota zvyšuje s velikostí vzorku vhodně rychle, pak se neshoda mezi častým a bayesovským přístupem stává zanedbatelnou, jak se velikost vzorku zvyšuje.^[3]

Popis paradoxu

Výsledek ${ displaystyle textstyle x}$ experimentu má dvě možná vysvětlení, hypotézy ${ displaystyle textstyle H_ {0}}$ a ${ displaystyle textový styl H_ {1}}$a některé předchozí distribuce ${ displaystyle textstyle pi}$ představující nejistotu ohledně toho, která hypotéza je přesnější, než se zohlední ${ displaystyle textstyle x}$.

Lindleyův paradox nastane, když

1. Výsledek ${ displaystyle textstyle x}$ je „významný“ podle testu prováděného často ${ displaystyle textstyle H_ {0}}$, což naznačuje dostatečné důkazy k odmítnutí ${ displaystyle textstyle H_ {0}}$řekněme na 5% úrovni a
2. The zadní pravděpodobnost z ${ displaystyle textstyle H_ {0}}$ daný ${ displaystyle textstyle x}$ je vysoká, což naznačuje silné důkazy o tom ${ displaystyle textstyle H_ {0}}$ je v lepší shodě s ${ displaystyle textstyle x}$ než ${ displaystyle textový styl H_ {1}}$.

Tyto výsledky mohou nastat současně ${ displaystyle textstyle H_ {0}}$ je velmi konkrétní, ${ displaystyle textstyle H_ {1}}$ více rozptýlené a předchozí distribuce silně neupřednostňuje jedno nebo druhé, jak je vidět níže.

Numerický příklad

Následující numerický příklad ilustruje Lindleyův paradox. V určitém městě se za určité časové období narodilo 49 581 chlapců a 48 870 dívek. Pozorovaný podíl ${ displaystyle textstyle x}$ narozených mužů je tedy 49 581/98 451 ≈ 0,5036. Předpokládáme, že podíl narozených mužů je a binomická proměnná s parametrem ${ displaystyle textstyle theta}$. Máme zájem otestovat, zda ${ displaystyle textstyle theta}$ je 0,5 nebo jiná hodnota. To znamená, že naše nulová hypotéza je ${ displaystyle textstyle H_ {0}: theta = 0,5}$ a alternativa je ${ displaystyle textstyle H_ {1}: theta neq 0,5}$.

Častý přístup

Častý přístup k testování ${ displaystyle textstyle H_ {0}}$ je vypočítat a p-hodnota, pravděpodobnost pozorování zlomku chlapců minimálně stejně velkých jako ${ displaystyle textstyle x}$ za předpokladu ${ displaystyle textstyle H_ {0}}$ je pravda. Protože je počet porodů velmi vysoký, můžeme použít a normální aproximace za zlomek narozených mužů ${ displaystyle textstyle X sim N ( mu, sigma ^ {2})}$, s ${ displaystyle textstyle mu = np = n theta = 98 451 krát 0,5 = 49 225 255}$ a ${ displaystyle textstyle sigma ^ {2} = n theta (1- theta) = 98 451 krát 0,5 krát 0,5 = 24 612,75}$, vypočítat

${ displaystyle { begin {zarovnáno} P (X geq x mid mu = 49225.5) = int _ {x = 49581} ^ {98451} { frac {1} { sqrt {2 pi sigma ^ {2}}}} e ^ {- ({ frac {u- mu} { sigma}}) ^ {2} / 2} du = int _ {x = 49581} ^ {98451} { frac {1} { sqrt {2 pi (24 612,75)}}} e ^ {- { frac {(u-49225.5) ^ {2}} {24612.75}} / 2} du přibližně 0,0117. konec {zarovnáno}}}$

Byli bychom stejně překvapeni, kdybychom viděli 49 581 narozených žen, tj. ${ displaystyle textstyle x přibližně 0,4964}$, takže frekventant by obvykle provedl a oboustranný test, pro který by byla p-hodnota ${ displaystyle textstyle p přibližně 2 krát 0,0117 = 0,0235}$. V obou případech je hodnota p nižší než úroveň významnosti α, 5%, takže častý přístup odmítá ${ displaystyle textstyle H_ {0}}$ protože nesouhlasí s pozorovanými údaji.

Bayesovský přístup

Za předpokladu, že není důvod upřednostňovat jednu hypotézu před druhou, by Bayesiánský přístup spočíval v přiřazení předchozích pravděpodobností ${ displaystyle textstyle pi (H_ {0}) = pi (H_ {1}) = 0,5}$ a jednotné rozdělení do ${ displaystyle textstyle theta}$ pod ${ displaystyle H_ {1}}$a poté vypočítat zadní pravděpodobnost ${ displaystyle textstyle H_ {0}}$ použitím Bayesova věta,

${ displaystyle P (H_ {0} mid k) = { frac {P (k mid H_ {0}) pi (H_ {0})} {P (k mid H_ {0}) pi (H_ {0}) + P (k mid H_ {1}) pi (H_ {1})}}.}$

Po pozorování ${ displaystyle textstyle k = 49 581}$ chlapci ven ${ displaystyle textstyle n = 98 451}$ narození, můžeme vypočítat zadní pravděpodobnost každé hypotézy pomocí funkce pravděpodobnostní hmotnosti pro binomickou proměnnou,

${ displaystyle { begin {zarovnáno} P (k mid H_ {0}) & = {n zvolit k} (0,5) ^ {k} (1-0,5) ^ {nk} přibližně 1,95 krát 10 ^ {-4} P (k mid H_ {1}) & = int _ {0} ^ {1} {n vyberte k} theta ^ {k} (1- theta) ^ {nk} d theta = {n vyberte k} mathrm { mathrm {B}} (k + 1, n-k + 1) = 1 / (n + 1) přibližně 1,02 krát 10 ^ {- 5} konec {zarovnáno}}}$

kde ${ displaystyle textstyle mathrm { mathrm {B}} (a, b)}$ je Funkce Beta.

Z těchto hodnot zjistíme zadní pravděpodobnost ${ displaystyle P ( textstyle H_ {0} mid k) přibližně 0,95}$, což silně upřednostňuje ${ displaystyle textstyle H_ {0}}$ přes ${ displaystyle textový styl H_ {1}}$.

Zdá se, že dva přístupy - Bayesian a Frequist - jsou v konfliktu, a to je „paradox“.

Sladění bayesovských a frekventovaných přístupů

Alespoň v Lindleyově příkladu, vezmeme-li posloupnost úrovní významnosti, α_n, takový, že α_n = n^−k s k > 1/2, pak zadní pravděpodobnost nuly konverguje k 0, což je v souladu s odmítnutím nuly.^[3] V tomto číselném příkladu vezmeme k = 1/2, má za následek hladinu významnosti 0,00318, takže frekventant by neodmítl nulovou hypotézu, což je zhruba v souladu s bayesovským přístupem.

Distribuce p pod nulovou hypotézou a zadní distribucí p.

Pokud použijeme neinformativní předchozí a otestovat hypotézu podobnou té v častém přístupu, paradox zmizí.

Například pokud vypočítáme zadní rozdělení ${ displaystyle textový styl P ( theta střední x, n)}$pomocí jednotné předchozí distribuce dne ${ displaystyle textstyle theta}$ (tj. ${ displaystyle textstyle pi ( theta v [0,1]) = 1}$), shledáváme

${ displaystyle P ( theta mid k, n) = mathrm { mathrm {B}} (k + 1, n-k + 1).}$

Použijeme-li to ke kontrole pravděpodobnosti, že novorozenec bude s větší pravděpodobností chlapec než dívka, tj. ${ displaystyle P ( theta> 0,5 střední k, n)}$, shledáváme

${ displaystyle  int _ {0,5} ^ {1}  mathrm { mathrm {B}} (49582 48871)  přibližně 0,983.}$

Jinými slovy, je velmi pravděpodobné, že podíl narozených mužů je vyšší než 0,5.

Ani jedna z analýz neposkytuje odhad velikost efektu přímo, ale oba lze použít k určení například toho, zda je pravděpodobné, že podíl porodů chlapců bude nad určitou hranicí.

Chybějící skutečný paradox

Tato část obsahuje a seznam doporučení, související čtení nebo externí odkazy, ale její zdroje zůstávají nejasné, protože jí chybí vložené citace. Prosím pomozte zlepšit tuto část představuji přesnější citace. (Červenec 2012) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

Zjevný nesouhlas mezi těmito dvěma přístupy je způsoben kombinací faktorů. Za prvé, častý přístup nad testy ${ displaystyle textstyle H_ {0}}$ bez odkazu na ${ displaystyle textstyle H_ {1}}$. Bayesovský přístup hodnotí ${ displaystyle textstyle H_ {0}}$ jako alternativa k ${ displaystyle textstyle H_ {1}}$, a shledává první, která lépe souhlasí s pozorováním. Je to proto, že druhá hypotéza je mnohem rozptýlenější ${ displaystyle textstyle theta}$ může být kdekoli ${ displaystyle textstyle [0,1]}$, což má za následek velmi nízkou zadní pravděpodobnost. Abychom pochopili proč, je užitečné považovat tyto dvě hypotézy za generátory pozorování:

• Pod ${ displaystyle textstyle H_ {0}}$, vybíráme si ${ displaystyle textstyle theta přibližně 0,500}$, a zeptejte se, jak je pravděpodobné, že uvidíte 49 581 chlapců v 98 451 porodech.
• Pod ${ displaystyle textový styl H_ {1}}$, vybíráme si ${ displaystyle textstyle theta}$ náhodně odkudkoli v rozmezí 0 až 1 a položit stejnou otázku.

Většina možných hodnot pro ${ displaystyle textstyle theta}$ pod ${ displaystyle textový styl H_ {1}}$ jsou velmi špatně podporována pozorováním. V zásadě zjevný nesouhlas mezi metodami vůbec není neshodou, ale spíše dvěma různými výroky o tom, jak hypotézy souvisejí s údaji:

• Častý to zjistí ${ displaystyle textstyle H_ {0}}$ je špatné vysvětlení pozorování.
• Bayesian to zjistil ${ displaystyle textstyle H_ {0}}$ je mnohem lepším vysvětlením pozorování než ${ displaystyle textový styl H_ {1}}$.

Poměr pohlaví novorozenců je podle testu frekventanta nepravděpodobně 50/50 muž / žena. Přesto 50/50 je lepší aproximace než většina ostatních, ale ne Všechno, jiné poměry. Hypotéza ${ displaystyle textstyle theta přibližně 0,504}$ by vyhovovalo pozorování mnohem lépe než téměř všechny ostatní poměry, včetně ${ displaystyle textstyle theta přibližně 0,500}$.

Například tato volba hypotéz a předchozích pravděpodobností implikuje tvrzení: „pokud ${ displaystyle textstyle theta}$ > 0,49 a ${ displaystyle textstyle theta}$ <0,51, pak předchozí pravděpodobnost ${ displaystyle theta}$ být přesně 0,5 je 0,50 / 0,51 ${ displaystyle přibližně}$ 98%. “Vzhledem k takové silné preferenci pro ${ displaystyle theta = 0,5}$, je snadné pochopit, proč je bayesovský přístup upřednostňován ${ displaystyle H_ {0}}$ tváří v tvář ${ displaystyle x přibližně 0,5036}$, i když pozorovaná hodnota ${ displaystyle x}$ lži ${ displaystyle 2.28 sigma}$ od 0,5. Odchylka více než 2 sigma od ${ displaystyle H_ {0}}$ je považován za významný v frekventovaném přístupu, ale jeho význam je potlačen předchozím v Bayesianském přístupu.

Podíváme-li se na to jiným způsobem, vidíme, že předchozí distribuce je v podstatě plochá s delta funkcí na ${ displaystyle textstyle theta = 0,5}$. Je zřejmé, že je to pochybné. Ve skutečnosti, pokud byste si měli představovat reálná čísla jako spojitá, pak by bylo logičtější předpokládat, že by bylo nemožné, aby jakékoli dané číslo bylo přesně hodnotou parametru, tj. Měli bychom předpokládat P (theta = 0,5) = 0.

Realističtější distribuce pro ${ displaystyle textstyle theta}$ v alternativní hypotéze vytváří méně překvapivý výsledek pro zadní část ${ displaystyle textstyle H_ {0}}$. Například pokud nahradíme ${ displaystyle textový styl H_ {1}}$ s ${ displaystyle textstyle H_ {2}: theta = x}$, tj odhad maximální věrohodnosti pro ${ displaystyle textstyle theta}$, zadní pravděpodobnost ${ displaystyle textstyle H_ {0}}$ by bylo jen 0,07 ve srovnání s 0,93 pro ${ displaystyle textový styl H_ {2}}$ (Samozřejmě nelze ve skutečnosti použít MLE jako součást předchozí distribuce).

Nedávná diskuse

Paradox je i nadále zdrojem aktivní diskuse.^[3][4][5][6]

Viz také

• Bayesův faktor

Poznámky

Další čtení

• Shafer, Glenn (1982). „Lindleyův paradox“. Journal of the American Statistical Association. 77 (378): 325–334. doi:10.2307/2287244. JSTOR  2287244. PAN  0664677.