Nestranný odhad minimální odchylky - Minimum-variance unbiased estimator

v statistika A objektivní odhad minimální odchylky (MVUE) nebo rovnoměrně nestranný odhad s minimální odchylkou (UMVUE) je nezaujatý odhad který má nižší rozptyl než jakýkoli jiný nezaujatý odhad pro všechny možné hodnoty parametru.

U praktických statistických problémů je důležité určit hodnotu MVUE, pokud existuje, protože by se přirozeně zabránilo méně než optimálním postupům, jiné věci by byly stejné. To vedlo k podstatnému rozvoji statistické teorie související s problémem optimálního odhadu.

Při kombinaci omezení nezaujatost s metrikou vhodnosti nejméně rozptyl vede k dobrým výsledkům v nejpraktičtějších podmínkách - činí z MVUE přirozený výchozí bod pro širokou škálu analýz - cílená specifikace může pro daný problém fungovat lépe; MVUE tedy není vždy nejlepší zastávkou.

Definice

Zvažte odhad ${ displaystyle g ( theta)}$ na základě údajů ${ displaystyle X_ {1}, X_ {2}, ldots, X_ {n}}$ i.i.d. od nějakého člena rodiny hustoty ${ displaystyle p _ { theta}, theta v Omega}$ , kde ${ displaystyle Omega}$ je prostor parametrů. Nestranný odhad ${ displaystyle delta (X_ {1}, X_ {2}, ldots, X_ {n})}$ z ${ displaystyle g ( theta)}$ je UMVUE -li ${ displaystyle forall theta in Omega}$ ,

{ displaystyle operatorname {var} ( delta (X_ {1}, X_ {2}, ldots, X_ {n})) leq operatorname {var} ({ tilde { delta}} (X_ { 1}, X_ {2}, ldots, X_ {n}))}

pro jakýkoli jiný nezaujatý odhad ${ displaystyle { tilde { delta}}.}$

Pokud je nezaujatý odhadce ${ displaystyle g ( theta)}$ existuje, pak lze prokázat, že existuje v podstatě jedinečný MVUE.^[1] Za použití Rao – Blackwellova věta lze také dokázat, že stanovení hodnoty MVUE je prostě otázkou nalezení a kompletní dostatečný statistika pro rodinu ${ displaystyle p _ { theta}, theta v Omega}$ a klimatizace žádný nezaujatý odhad.

Dále tím, že Lehmann – Schefféova věta, nezaujatý odhad, který je funkcí úplné a dostatečné statistiky, je odhad UMVUE.

Formálně řečeno, předpokládejme ${ displaystyle delta (X_ {1}, X_ {2}, ldots, X_ {n})}$ je nezaujatý pro ${ displaystyle g ( theta)}$ , a to ${ displaystyle T}$ je úplná dostatečná statistika pro rodinu hustot. Pak

{ displaystyle eta (X_ {1}, X_ {2}, ldots, X_ {n}) = operatorname {E} ( delta (X_ {1}, X_ {2}, ldots, X_ {n }) střední T) ,}

je MVUE pro ${ displaystyle g ( theta).}$

A Bayesian analog je a Bayes odhadce, zejména s minimální střední kvadratická chyba (MMSE).

Výběr odhadce

An efektivní odhad nemusí existovat, ale pokud ano a je nestranný, je to MVUE. Protože střední čtvercová chyba (MSE) odhadce δ je

{ displaystyle operatorname {MSE} ( delta) = operatorname {var} ( delta) + [ operatorname {zkreslení} ( delta)] ^ {2} }

MVUE minimalizuje MSE mezi nezaujatými odhady. V některých případech mají zkreslené odhady nižší MSE, protože mají menší rozptyl než jakýkoli nestranný odhad; vidět zkreslení odhadu.

Příklad

Považujte data za jediné pozorování z absolutně kontinuální distribuce na ${ displaystyle mathbb {R}}$ s hustotou

{ displaystyle p _ { theta} (x) = { frac { theta e ^ {- x}} {(1 + e ^ {- x}) ^ { theta +1}}}}

a rádi bychom našli odhad UMVU

{ displaystyle g ( theta) = { frac {1} { theta ^ {2}}}}

Nejprve si uvědomíme, že hustotu lze zapsat jako

{ displaystyle { frac {e ^ {- x}} {1 + e ^ {- x}}} exp (- theta log (1 + e ^ {- x}) + log ( theta) )}

Což je exponenciální rodina dostatečná statistika ${ displaystyle T = log (1 + e ^ {- x})}$ . Ve skutečnosti se jedná o exponenciální rodinu plné hodnosti, a proto ${ displaystyle T}$ je úplné dostačující. Vidět exponenciální rodina pro odvození, které ukazuje

{ displaystyle operatorname {E} (T) = { frac {1} { theta}}, quad operatorname {var} (T) = { frac {1} { theta ^ {2}}} }

Proto,

{ displaystyle operatorname {E} (T ^ {2}) = { frac {2} { theta ^ {2}}}}

Tady používáme Lehmann-Schefféovu větu pro získání MVUE

Jasně ${ displaystyle delta (X) = { frac {T ^ {2}} {2}}}$ je nezaujatý a ${ displaystyle T = log (1 + e ^ {- x})}$ je zcela dostačující, tudíž odhad UMVU je

{ displaystyle eta (X) = operatorname {E} ( delta (X) mid T) = operatorname {E} left ( left. { frac {T ^ {2}} {2}} , right | , T right) = { frac {T ^ {2}} {2}} = { frac { log (1 + e ^ {- X}) ^ {2}} {2 }}}

Tento příklad ukazuje, že nestrannou funkcí úplné dostatečné statistiky bude UMVU, as Lehmann – Schefféova věta státy.

Další příklady

Pro normální rozdělení s neznámým průměrem a rozptylem platí průměr vzorku a (nezaujatý) rozptyl vzorku jsou hodnoty MVUE pro průměr a rozptyl populace.
Nicméně standardní směrodatná odchylka není nestranný pro směrodatnou odchylku populace - viz nestranný odhad směrodatné odchylky.
Dále pro ostatní distribuce průměr vzorku a rozptyl vzorku nejsou obecně MVUE - pro a rovnoměrné rozdělení s neznámou horní a dolní mezí, střední rozsah je MVUE pro průměrnou populaci.
Li k exempláře jsou vybrány (bez náhrady) z a diskrétní rovnoměrné rozdělení přes množinu {1, 2, ...,N} s neznámou horní mezí N, MVUE pro N je

{ displaystyle { frac {k + 1} {k}} m-1,}

kde m je maximální vzorek. Jedná se o zmenšenou a posunutou (tak nestrannou) transformaci maxima vzorku, což je dostatečná a úplná statistika. Vidět Problém německého tanku pro detaily.

Viz také

Bayesovské analogy

Reference

^ Lee, A. J., 1946- (1990). U-statistika: teorie a praxe. New York: M. Dekker. ISBN 0824782534. OCLC 21523971.CS1 maint: více jmen: seznam autorů (odkaz)

Keener, Robert W. (2006). Statistická teorie: Poznámky ke kurzu teoretické statistiky. Springer. 47–48, 57–58.
Voinov V. G., Nikulin M.S. (1993). Nestranné odhady a jejich aplikace, svazek 1: Univariate case. Kluwer Academic Publishers. 521 s.

[1] Lee, A. J., 1946- (1990). U-statistika: teorie a praxe. New York: M. Dekker. ISBN 0824782534. OCLC 21523971.CS1 maint: více jmen: seznam autorů (odkaz)

[1]