Škálované inverzní rozdělení chí-kvadrát - Scaled inverse chi-squared distribution

Škálovaný inverzní chi-kvadrát

Funkce hustoty pravděpodobnosti
Funkce kumulativní distribuce
Parametry	${ displaystyle nu> 0 ,}$ ${ displaystyle tau ^ {2}> 0 ,}$
Podpěra, podpora	${ displaystyle x in (0, infty)}$
PDF	${ displaystyle { frac {( tau ^ {2} nu / 2) ^ { nu / 2}} { Gamma ( nu / 2)}} ~ { frac { exp left [{ frac {- nu tau ^ {2}} {2x}} doprava]} {x ^ {1+ nu / 2}}}}$
CDF	${ displaystyle Gamma left ({ frac { nu} {2}}, { frac { tau ^ {2} nu} {2x}} right) left / Gamma left ({ frac { nu} {2}} vpravo) vpravo.}$
Znamenat	${ displaystyle { frac { nu tau ^ {2}} { nu -2}}}$ pro ${ displaystyle nu> 2 ,}$
Režim	${ displaystyle { frac { nu tau ^ {2}} { nu +2}}}$
Rozptyl	${ displaystyle { frac {2 nu ^ {2} tau ^ {4}} {( nu -2) ^ {2} ( nu -4)}}}$pro ${ displaystyle nu> 4 ,}$
Šikmost	${ displaystyle { frac {4} { nu -6}} { sqrt {2 ( nu -4)}}}$pro ${ displaystyle nu> 6 ,}$
Př. špičatost	${ displaystyle { frac {12 (5 nu -22)} {( nu -6) ( nu -8)}}}$pro ${ displaystyle nu> 8 ,}$
Entropie	${ displaystyle { frac { nu} {2}} ! + ! ln left ({ frac { tau ^ {2} nu} {2}} Gamma left ({ frac { nu} {2}} vpravo) vpravo)}$ ${ displaystyle ! - ! vlevo (1 ! + ! { frac { nu} {2}} vpravo) psi vlevo ({ frac { nu} {2}} vpravo) }$
MGF	${ displaystyle { frac {2} { Gamma ({ frac { nu} {2}})}} vlevo ({ frac {- tau ^ {2} nu t} {2}} vpravo) ^ {! ! { frac { nu} {4}}} ! ! K _ { frac { nu} {2}} vlevo ({ sqrt {-2 tau ^ {2 } nu t}} vpravo)}$
CF	${ displaystyle { frac {2} { Gamma ({ frac { nu} {2}})}} vlevo ({ frac {-i tau ^ {2} nu t} {2}} right) ^ {! ! { frac { nu} {4}}} ! ! K _ { frac { nu} {2}} left ({ sqrt {-2i tau ^ { 2} nu t}} vpravo)}$

The škálované inverzní rozdělení chí-kvadrát je distribuce pro X = 1/s², kde s² je ukázkový průměr čtverců nezávislého ν normální náhodné proměnné, které mají průměr 0 a inverzní rozptyl 1 / σ² = τ². Distribuce je tedy parametrizována dvěma veličinami ν a τ², označovaný jako počet chí-kvadrát stupňů volnosti a parametr měřítka, resp.

Tato rodina zmenšených inverzních distribucí chí-kvadrát úzce souvisí s dalšími dvěma distribučními rodinami, z rodiny inverzní-chi-kvadrát distribuce a inverzní gama distribuce. Ve srovnání s inverzní-chi-kvadrát distribucí má škálovaná distribuce další parametr τ², který zmenší distribuci vodorovně a svisle, což představuje inverzní rozptyl původního základního procesu. Rovněž zmenšené inverzní rozdělení chí-kvadrát je prezentováno jako distribuce pro inverzi znamenat ν na druhou se odchyluje, spíše než inverzní k jejich součet. Obě distribuce tedy mají vztah, že pokud

${ displaystyle X sim { mbox {Scale-inv -}} chi ^ {2} ( nu, tau ^ {2})}$ pak ${ displaystyle { frac {X} { tau ^ {2} nu}} sim { mbox {inv -}} chi ^ {2} ( nu)}$

Ve srovnání s inverzní distribucí gama popisuje škálované inverzní rozdělení chí-kvadrát stejnou distribuci dat, ale s použitím jiného parametrizace, což může být za určitých okolností pohodlnější. Konkrétně pokud

${ displaystyle X sim { mbox {Scale-inv -}} chi ^ {2} ( nu, tau ^ {2})}$ pak ${ displaystyle X sim { textrm {Inv-gama}} vlevo ({ frac { nu} {2}}, { frac { nu tau ^ {2}} {2}} vpravo) }$

K vyjádření maximální entropie distribuce pro pevnou první inverzi okamžik ${ displaystyle (E (1 / X))}$ a první logaritmický okamžik ${ displaystyle (E ( ln (X))}$.

Škálované inverzní rozdělení chí-kvadrát má také zvláštní použití v Bayesovské statistiky, poněkud nesouvisí s jeho použitím jako prediktivní distribuce pro X = 1/s². Konkrétně lze použít zmenšené inverzní rozdělení chí-kvadrát jako před konjugátem pro rozptyl parametr a normální distribuce. V této souvislosti je parametr změny měřítka označen σ₀² spíše než τ², a má jinou interpretaci. Aplikace byla obvykleji prezentována pomocí inverzní gama distribuce formulace místo; nicméně, někteří autoři, následovat zvláště Gelman et al. (1995/2004) tvrdí, že inverzní chí-kvadrát parametrizace je intuitivnější.

Charakterizace

The funkce hustoty pravděpodobnosti škálované inverzní chí-kvadrát distribuce přesahuje doménu ${ displaystyle x> 0}$ a je

${ displaystyle f (x; nu, tau ^ {2}) = { frac {( tau ^ {2} nu / 2) ^ { nu / 2}} { Gamma ( nu / 2 )}} ~ { frac { exp left [{ frac {- nu tau ^ {2}} {2x}} right]} {x ^ {1+ nu / 2}}}}$

kde ${ displaystyle nu}$ je stupně svobody parametr a ${ displaystyle tau ^ {2}}$ je parametr měřítka. Funkce kumulativní distribuce je

${ displaystyle F (x; nu, tau ^ {2}) = Gamma vlevo ({ frac { nu} {2}}, { frac { tau ^ {2} nu} {2x }} right) left / Gamma left ({ frac { nu} {2}} right) right.}$

${ displaystyle = Q left ({ frac { nu} {2}}, { frac { tau ^ {2} nu} {2x}} right)}$

kde ${ displaystyle Gamma (a, x)}$ je neúplná funkce gama, ${ displaystyle Gamma (x)}$ je funkce gama a ${ displaystyle Q (a, x)}$ je regularizovaná funkce gama. The charakteristická funkce je

${ displaystyle varphi (t; nu, tau ^ {2}) =}$

${ displaystyle { frac {2} { Gamma ({ frac { nu} {2}})}} vlevo ({ frac {-i tau ^ {2} nu t} {2}} right) ^ {! ! { frac { nu} {4}}} ! ! K _ { frac { nu} {2}} left ({ sqrt {-2i tau ^ { 2} nu t}} vpravo),}$

kde ${ displaystyle K _ { frac { nu} {2}} (z)}$ je upravený Besselova funkce druhého druhu.

Odhad parametrů

The odhad maximální věrohodnosti z ${ displaystyle tau ^ {2}}$ je

${ displaystyle tau ^ {2} = n / součet _ {i = 1} ^ {n} { frac {1} {x_ {i}}}.}$

Maximální odhad pravděpodobnosti ${ displaystyle { frac { nu} {2}}}$ lze najít pomocí Newtonova metoda na:

${ displaystyle ln left ({ frac { nu} {2}} right) - psi left ({ frac { nu} {2}} right) = sum _ {i = 1 } ^ {n} ln left (x_ {i} right) -n ln left ( tau ^ {2} right),}$

kde ${ displaystyle psi (x)}$ je funkce digamma. Počáteční odhad lze najít tak, že vezmeme vzorec pro střední hodnotu a vyřešíme ji pro ${ displaystyle nu.}$ Nechat ${ displaystyle { bar {x}} = { frac {1} {n}} součet _ {i = 1} ^ {n} x_ {i}}$ být průměr vzorku. Pak počáteční odhad pro ${ displaystyle nu}$ darováno:

${ displaystyle { frac { nu} {2}} = { frac { bar {x}} {{bar {x}} - tau ^ {2}}}.}$

Bayesiánský odhad rozptylu normálního rozdělení

Škálované inverzní rozdělení chí-kvadrát má druhou důležitou aplikaci, v Bayesiánském odhadu rozptylu normálního rozdělení.

Podle Bayesova věta, zadní rozdělení pravděpodobnosti pro zájmová množství je úměrná součinu a předchozí distribuce pro množství a funkce pravděpodobnosti:

${ displaystyle p ( sigma ^ {2} | D, I) propto p ( sigma ^ {2} | I) ; p (D | sigma ^ {2})}$

kde D představuje data a Já představuje počáteční informace o σ² které už možná máme.

Nejjednodušší scénář nastane, pokud je průměr μ již znám; nebo alternativně, pokud se jedná o podmíněné rozdělení z σ² která je hledána pro konkrétní předpokládanou hodnotu μ.

Potom termín pravděpodobnosti L(σ²|D) = p(D| σ²) má známou formu

${ displaystyle { mathcal {L}} ( sigma ^ {2} | D, mu) = { frac {1} { vlevo ({ sqrt {2 pi}} sigma vpravo) ^ { n}}} ; exp left [- { frac { sum _ {i} ^ {n} (x_ {i} - mu) ^ {2}} {2 sigma ^ {2}}} že jo]}$

Kombinovat to s rescaling-invariant předchozí p (σ²|Já) = 1 / σ², o kterém lze tvrdit (např. po Jeffreysovi ) být nejméně informativní před σ² v tomto problému dává kombinovanou zadní pravděpodobnost

${ displaystyle p ( sigma ^ {2} | D, I, mu) propto { frac {1} { sigma ^ {n + 2}}} exp left [- { frac { sum _ {i} ^ {n} (x_ {i} - mu) ^ {2}} {2 sigma ^ {2}}} vpravo]}$

Tuto formu lze rozpoznat jako formu zmenšené inverzní chí-kvadrát distribuce s parametry ν = n a τ² = s² = (1/n) Σ (x_i-μ)²

Gelman et al poznamenat, že znovuobjevení této distribuce, dříve viděné v kontextu vzorkování, se může zdát pozoruhodné; ale vzhledem k volbě předchozího „výsledek není překvapující“.^[1]

Zejména volba invariantu pro změnu měřítka pro σ² má za následek, že pravděpodobnost pro poměr σ² / s² má stejnou formu (nezávisle na proměnné podmínění), když je podmíněno s² jako při podmínce na σ²:

${ displaystyle p ({ tfrac { sigma ^ {2}} {s ^ {2}}} | s ^ {2}) = p ({ tfrac { sigma ^ {2}} {s ^ {2 }}} | sigma ^ {2})}$

V případě teorie vzorkování, podmíněné na σ², rozdělení pravděpodobnosti pro (1 / s²) je zmenšené inverzní rozdělení chí-kvadrát; a tedy rozdělení pravděpodobnosti pro σ² podmíněno s², vzhledem k tomu, že předtím byl měřítkem agnostik, je také zmenšené inverzní rozdělení chí-kvadrát.

Použijte jako informativní předchozí

Pokud je známo více o možných hodnotách σ², distribuce ze škálované inverzní rodiny chí-kvadrátů, jako je Scale-inv-χ²(n₀, s₀²) může být vhodnou formou, která představuje méně neinformativní předchozí pro σ², jako by z výsledku n₀ předchozí pozorování (ačkoli n₀ nemusí být nutně celé číslo):

${ displaystyle p ( sigma ^ {2} | I ^ { prime}, mu) propto { frac {1} { sigma ^ {n_ {0} +2}}} ; exp vlevo [- { frac {n_ {0} s_ {0} ^ {2}} {2 sigma ^ {2}}} vpravo]}$

Takový předchozí by vedl k zadní distribuci

${ displaystyle p ( sigma ^ {2} | D, I ^ { prime}, mu) propto { frac {1} { sigma ^ {n + n_ {0} +2}}} ; exp left [- { frac { sum {ns ^ {2} + n_ {0} s_ {0} ^ {2}}} {2 sigma ^ {2}}} right]}$

což je samo o sobě zmenšené inverzní rozdělení chí-kvadrát. Škálované inverzní rozdělení chí-kvadrát je tedy výhodné před konjugátem rodina pro σ² odhad.

Odhad rozptylu, když průměr není znám

Pokud průměr není znám, nejvíce neinformativní prioritou, kterou lze za to vzít, je pravděpodobně překladově invariantní priorita p(μ |Já) ∝ const., Která udává následující společné zadní rozdělení pro μ a σ²,

${ displaystyle { begin {zarovnaný} p ( mu, sigma ^ {2} mid D, I) & propto { frac {1} { sigma ^ {n + 2}}} exp left [- { frac { sum _ {i} ^ {n} (x_ {i} - mu) ^ {2}} {2 sigma ^ {2}}} vpravo] & = { frac {1} { sigma ^ {n + 2}}} exp left [- { frac { sum _ {i} ^ {n} (x_ {i} - { bar {x}}) ^ { 2}} {2 sigma ^ {2}}} vpravo] exp vlevo [- { frac { sum _ {i} ^ {n} ( mu - { bar {x}}) ^ { 2}} {2 sigma ^ {2}}} doprava] end {zarovnáno}}}$

Okrajová zadní distribuce pro σ² se získá ze společné zadní distribuce integrací přes μ,

${ displaystyle { begin {zarovnáno} p ( sigma ^ {2} | D, I) ; propto ; & { frac {1} { sigma ^ {n + 2}}}} ; exp left [- { frac { sum _ {i} ^ {n} (x_ {i} - { bar {x}}) ^ {2}} {2 sigma ^ {2}}} right] ; int _ {- infty} ^ { infty} exp left [- { frac { sum _ {i} ^ {n} ( mu - { bar {x}}) ^ {2 }} {2 sigma ^ {2}}} vpravo] d mu = ; & { frac {1} { sigma ^ {n + 2}}} ; exp left [- { frac { sum _ {i} ^ {n} (x_ {i} - { bar {x}}) ^ {2}} {2 sigma ^ {2}}} vpravo] ; { sqrt {2 pi sigma ^ {2} / n}} propto ; & ( sigma ^ {2}) ^ {- (n + 1) / 2} ; exp left [- { frac {(n-1) s ^ {2}} {2 sigma ^ {2}}} right] end {zarovnáno}}}$

Toto je opět škálované inverzní rozdělení chí-kvadrát s parametry ${ displaystyle scriptstyle {n-1} ;}$ a ${ displaystyle scriptstyle {s ^ {2} = součet (x_ {i} - { bar {x}}) ^ {2} / (n-1)}}$.

Související distribuce

• Li ${ displaystyle X sim { mbox {Scale-inv -}} chi ^ {2} ( nu, tau ^ {2})}$ pak ${ displaystyle kX sim { mbox {Scale-inv -}} chi ^ {2} ( nu, k tau ^ {2}) ,}$
• Li ${ displaystyle X sim { mbox {inv -}} chi ^ {2} ( nu) ,}$ (Inverzní-chi-kvadrát distribuce ) pak ${ displaystyle X sim { mbox {Scale-inv -}} chi ^ {2} ( nu, 1 / nu) ,}$
• Li ${ displaystyle X sim { mbox {Scale-inv -}} chi ^ {2} ( nu, tau ^ {2})}$ pak ${ displaystyle { frac {X} { tau ^ {2} nu}} sim { mbox {inv -}} chi ^ {2} ( nu) ,}$ (Inverzní-chi-kvadrát distribuce )
• Li ${ displaystyle X sim { mbox {Scale-inv -}} chi ^ {2} ( nu, tau ^ {2})}$ pak ${ displaystyle X sim { textrm {Inv-gama}} vlevo ({ frac { nu} {2}}, { frac { nu tau ^ {2}} {2}} vpravo) }$ (Distribuce inverzní gama )
• Škálované inverzní rozdělení chí kvadrát je speciální případ typu 5 Pearsonova distribuce

Reference

• Gelman A. et al (1995), Bayesovská analýza dat, str. 474–475; také str. 47, 480