Beta-binomická distribuce - Beta-binomial distribution - Wikipedia

Funkce pravděpodobnostní hmotnosti
Funkce kumulativní distribuce
Parametry	n ∈ N0 - počet pokusů ${ displaystyle alpha> 0}$ (nemovitý ) ${ displaystyle beta> 0}$ (nemovitý )
Podpěra, podpora	k ∈ { 0, …, n }
PMF	${ displaystyle { binom {n} {k}} { frac { mathrm {B} (k + alpha, n-k + beta)} { mathrm {B} ( alpha, beta)}} !}$
CDF	${ displaystyle { begin {cases} 0, & k <0 { binom {n} {k}} { tfrac { mathrm {B} (k + alpha, n-k + beta)} { mathrm {B} ( alpha, beta)}} {} _ {3} ! F_ {2} ({ boldsymbol {a}}, { boldsymbol {b}}, k), & 0 leq k$ kde 3F2(A,b, k) je generalizovaná hypergeometrická funkce ${ displaystyle {} _ {3} ! F_ {2} (1, -k, n ! - ! k ! + ! beta; n ! - ! k ! - ! 1, 1 ! - ! K ! - ! Alfa; 1) !}$
Znamenat	${ displaystyle { frac {n alpha} { alpha + beta}} !}$
Rozptyl	${ displaystyle { frac {n alpha beta ( alpha + beta + n)} {( alpha + beta) ^ {2} ( alpha + beta +1)}} !}$
Šikmost	${ displaystyle { tfrac {( alpha + beta + 2n) ( beta - alpha)} {( alpha + beta +2)}} { sqrt { tfrac {1+ alpha + beta } {n alpha beta (n + alpha + beta)}}} !}$
Př. špičatost	Viz text
MGF	${ displaystyle _ {2} F_ {1} (- n, alpha; alpha + beta; 1-e ^ {t}) !}$ ${ displaystyle { text {for}} t < log _ {e} (2)}$
CF	${ displaystyle _ {2} F_ {1} (- n, alpha; alpha + beta; 1-e ^ {it}) !}$
PGF	${ displaystyle { frac {_ {2} F_ {1} (- n, alpha; - beta -n + 1; z)} {_ {2} F_ {1} (- n, alpha; - beta -n + 1; 1)}}}$

v teorie pravděpodobnosti a statistika, beta-binomická distribuce je rodina diskrétních rozdělení pravděpodobnosti na konečnou Podpěra, podpora nezáporných celých čísel vznikajících, když je pravděpodobnost úspěchu v každém pevném nebo známém počtu Bernoulliho zkoušky je neznámý nebo náhodný. Beta-binomická distribuce je binomická distribuce ve kterém je pravděpodobnost úspěchu u každého z n pokusy nejsou opraveny, ale jsou náhodně vybrány z a beta distribuce. Často se používá v Bayesovské statistiky, empirické Bayesovy metody a klasická statistika zachytit nadměrný rozptyl v binomickém typu distribuovaných dat.

Snižuje se na Bernoulliho distribuce jako zvláštní případ, kdy n = 1. Pro α = β = 1, to je diskrétní rovnoměrné rozdělení od 0 don. Rovněž přibližuje binomická distribuce libovolně dobře pro velké α aβ. Podobně obsahuje negativní binomické rozdělení v limitu s velkými β a n. Beta-binomický je jednorozměrná verze Dirichletovo-multinomické rozdělení protože binomická a beta distribuce jsou jednorozměrné verze multinomiální a Dirichletovy distribuce resp.

Motivace a derivace

Jako složená distribuce

The Distribuce beta je distribuce konjugátu z binomická distribuce. Tato skutečnost vede k analyticky přijatelnému výsledku složená distribuce kde lze myslet na ${ displaystyle p}$ parametr v binomické distribuci jako náhodně vylosovaný z beta distribuce. Jmenovitě, pokud

${ displaystyle X sim operatorname {Bin} (n, p)}$

pak

${ Displaystyle P (X = k mid p, n) = L (p mid k) = {n zvolit k} p ^ {k} (1-p) ^ {n-k}}$

kde Bin (n,str) je zkratka pro binomická distribuce, a kde str je náhodná proměnná s beta distribuce.

${ displaystyle { begin {aligned} pi (p mid alpha, beta) & = mathrm {Beta} ( alpha, beta) [5pt] & = { frac {p ^ { alpha -1} (1-p) ^ { beta -1}} { mathrm {B} ( alpha, beta)}} quad { text {pro}} 0 leq p leq 1, konec {zarovnáno}}}$

pak je distribuce sloučeniny dána vztahem

${ displaystyle { begin {zarovnáno} f (k mid n, alpha, beta) & = int _ {0} ^ {1} L (p mid k) pi (p mid alpha, beta) , dp [6pt] & = {n vyberte k} { frac {1} { mathrm {B} ( alpha, beta)}} int _ {0} ^ {1} p ^ {k + alpha -1} (1-p) ^ {n-k + beta -1} , dp [6pt] & = {n vyberte k} { frac { mathrm {B} ( k + alpha, n-k + beta)} { mathrm {B} ( alpha, beta)}}. end {zarovnáno}}}$

Pomocí vlastností funkce beta, toto lze alternativně napsat

${ displaystyle f (k mid n, alpha, beta) = { frac { gama (n + 1)} { gama (k + 1) gama (n-k + 1)}} { frac { Gamma (k + alpha) Gamma (n-k + beta)} { Gamma (n + alpha + beta)}} { frac { Gamma ( alpha + beta)} { Gamma ( alpha) Gamma ( beta)}}.}$

Beta-binomický model urny

Distribuci beta-binomií lze také motivovat prostřednictvím urnový model pro pozitivní celé číslo hodnoty α a β, známý jako Model urny Pólya. Konkrétně si představte urnu obsahující α červené koule a β černé koule, kde se náhodně losují. Pokud je pozorována červená koule, jsou dvě červené koule vráceny do urny. Podobně, pokud je nakreslena černá koule, jsou dvě černé koule vráceny do urny. Pokud se to opakuje n čas, pak pravděpodobnost pozorování k červené koule následuje beta-binomické rozdělení s parametry n, α aβ.

Pokud jsou náhodné losování s jednoduchou výměnou (do urny se nepřidávají žádné koule nad a nad pozorovanou kouli), pak rozdělení následuje binomické rozdělení a pokud jsou náhodné losování provedeny bez náhrady, rozdělení následuje a hypergeometrická distribuce.

Okamžiky a vlastnosti

První tři syrové momenty jsou

${ displaystyle { begin {aligned} mu _ {1} & = { frac {n alpha} { alpha + beta}} [8pt] mu _ {2} & = { frac { n alpha [n (1+ alpha) + beta]} {( alpha + beta) (1+ alpha + beta)}} [8pt] mu _ {3} & = { frac {n alpha [n ^ {2} (1+ alpha) (2+ alpha) + 3n (1+ alpha) beta + beta ( beta - alpha)]} {( alpha + beta) (1+ alpha + beta) (2+ alpha + beta)}} end {zarovnáno}}}$

a špičatost je

${ displaystyle beta _ {2} = { frac {( alpha + beta) ^ {2} (1+ alpha + beta)} {n alpha beta ( alpha + beta +2) ( alpha + beta +3) ( alpha + beta + n)}} left [( alpha + beta) ( alpha + beta -1 + 6n) +3 alpha beta (n- 2) + 6n ^ {2} - { frac {3 alpha beta n (6-n)} { alpha + beta}} - { frac {18 alpha beta n ^ {2}} { ( alpha + beta) ^ {2}}} vpravo].}$

Pronájem ${ displaystyle pi = { frac { alpha} { alpha + beta}} !}$ poznamenáváme sugestivně, že průměr lze zapsat jako

${ displaystyle mu = { frac {n alpha} { alpha + beta}} = n pi !}$

a rozptyl jako

${ displaystyle sigma ^ {2} = { frac {n alpha beta ( alpha + beta + n)} {( alpha + beta) ^ {2} ( alpha + beta +1) }} = n pi (1- pi) { frac { alpha + beta + n} { alpha + beta +1}} = n pi (1- pi) [1+ (n- 1) rho] !}$

kde ${ displaystyle rho = { tfrac {1} { alpha + beta +1}} !}$. Parametr ${ displaystyle rho !}$ je známá jako korelace „uvnitř třídy“ nebo „uvnitř klastru“. Právě tato pozitivní korelace vede k nadměrnému rozptylu.

Bodové odhady

Metoda momentů

The metoda momentů odhady lze získat uvedením prvního a druhého momentu beta-binomia

${ displaystyle { begin {aligned} mu _ {1} & = { frac {n alpha} { alpha + beta}} [6pt] mu _ {2} & = { frac { n alpha [n (1+ alpha) + beta]} {( alpha + beta) (1+ alpha + beta)}} end {zarovnáno}}}$

a nastavení těchto surových momentů rovných prvnímu a druhému surovému ukázkové momenty resp

${ displaystyle { begin {aligned} { widehat { mu}} _ {1} &: = m_ {1} = { frac {1} {N}} sum _ {i = 1} ^ {N } X_ {i} [6pt] { widehat { mu}} _ {2} &: = m_ {2} = { frac {1} {N}} sum _ {i = 1} ^ { N} X_ {i} ^ {2} end {zarovnáno}}}$

a řešení pro α a β dostaneme

${ displaystyle { begin {aligned} { widehat { alpha}} & = { frac {nm_ {1} -m_ {2}} {n ({ frac {m_ {2}} {m_ {1} }} - m_ {1} -1) + m_ {1}}} [5pt] { widehat { beta}} & = { frac {(n-m_ {1}) (n - { frac {m_ {2}} {m_ {1}}})}} n ({ frac {m_ {2}} {m_ {1}}} - m_ {1} -1) + m_ {1}}}. end {zarovnáno}}}$

Tyto odhady mohou být nesmyslově negativní, což je důkazem toho, že data jsou v porovnání s binomickým rozdělením buď nedispergovaná, nebo nedispergována. V tomto případě je binomické rozdělení a hypergeometrická distribuce jsou alternativní kandidáti.

Odhad maximální pravděpodobnosti

V uzavřené formě odhady maximální věrohodnosti jsou nepraktické, protože pdf se skládá z běžných funkcí (funkce gama a / nebo beta), lze je snadno najít pomocí přímé numerické optimalizace. Odhady maximální pravděpodobnosti z empirických dat lze vypočítat pomocí obecných metod pro přizpůsobení multinomálních distribucí Pólya, jejichž metody jsou popsány v (Minka 2003). The R balíček VGAM prostřednictvím funkce vglm, s maximální pravděpodobností, usnadňuje montáž glm modely typu s odpověďmi distribuovanými podle beta-binomické distribuce. Neexistuje požadavek, aby n bylo v průběhu pozorování fixováno.

Příklad

Následující údaje uvádějí počet mužských dětí mezi prvními 12 dětmi velikosti rodiny 13 v 6 115 rodinách převzatých z nemocničních záznamů v 19. století Sasko (Sokal a Rohlf, str. 59 od Lindsey). 13. dítě je ignorováno, aby se utlumil účinek rodin, které se náhodně nezastaví, když je dosaženo požadovaného pohlaví.

První dva ukázkové momenty jsou

${ displaystyle { begin {zarovnáno} m_ {1} & = 6,23 m_ {2} & = 42,31 n & = 12 end {zarovnáno}}}$

a proto je metoda odhadů momentů

${ displaystyle { begin {aligned} { widehat { alpha}} & = 34,1350 { widehat { beta}} & = 31,6085. end {aligned}}}$

The maximální pravděpodobnost odhady lze najít numericky

${ displaystyle { begin {aligned} { widehat { alpha}} _ { mathrm {mle}} & = 34,09558 { widehat { beta}} _ { mathrm {mle}} & = 31,5715 konec {zarovnáno}}}$

a maximální logaritmická pravděpodobnost je

${ displaystyle log { mathcal {L}} = - 12492,9}$

ze kterého najdeme AIC

${ displaystyle { mathit {AIC}} = 24989,74.}$

AIC pro konkurenční binomický model je AIC = 25070,34, a proto vidíme, že beta-binomický model poskytuje lepší přizpůsobení datům, tj. Existují důkazy o nadměrné disperzi. Trivers a Willard předpokládají teoretické zdůvodnění heterogenity (známé také jako „roztržení ") v genderové náchylnosti mezi savčí potomstvo (tj. přehnanost).

Vynikající střih je patrný zejména mezi ocasy

Další Bayesovské úvahy

Je vhodné změnit parametry distribucí tak, aby očekávaný průměr předchozí hodnoty byl jediný parametr: Let

${ displaystyle { begin {aligned} pi ( theta mid mu, M) & = operatorname {Beta} (M mu, M (1- mu)) [6pt] & = { frac { Gamma (M)} { Gamma (M mu) Gamma (M (1- mu))}} theta ^ {M mu -1} (1- theta) ^ {M (1 - mu) -1} end {zarovnáno}}}$

kde

${ displaystyle { begin {aligned} mu & = { frac { alpha} { alpha + beta}} [6pt] M & = alpha + beta end {zarovnáno}}}$

aby

${ displaystyle { begin {aligned} operatorname {E} ( theta mid mu, M) & = mu [6pt] operatorname {Var} ( theta mid mu, M) & = { frac { mu (1- mu)} {M + 1}}. end {zarovnáno}}}$

The zadní distribuce ρ(θ | k) je také distribucí beta verze:

${ displaystyle { begin {zarovnáno} rho ( theta mid k) & propto ell (k mid theta) pi ( theta mid mu, M) [6pt] & = operatorname {Beta} (k + M mu, n-k + M (1- mu)) [6pt] & = { frac { Gamma (M)} { Gamma (M mu) Gamma (M (1- mu))}} {n zvolte k} theta ^ {k + M mu -1} (1- theta) ^ {n-k + M (1- mu) -1 } end {zarovnáno}}}$

A

${ displaystyle operatorname {E} ( theta mid k) = { frac {k + M mu} {n + M}}.}$

zatímco okrajové rozdělení m(k|μ, M) darováno

${ displaystyle { begin {zarovnáno} m (k mid mu, M) & = int _ {0} ^ {1} ell (k mid theta) pi ( theta mid mu, M) , d theta [6pt] & = { frac { Gamma (M)} { Gamma (M mu) Gamma (M (1- mu))}} {n vyberte k } int _ {0} ^ {1} theta ^ {k + M mu -1} (1- theta) ^ {n-k + M (1- mu) -1} , d theta [6pt] & = { frac { Gamma (M)} { Gamma (M mu) Gamma (M (1- mu))}} {n vyberte k} { frac { Gamma (k + M mu) Gamma (n-k + M (1- mu))} { Gamma (n + M)}}. end {zarovnáno}}}$

Nahrazení zpět M a μ, pokud jde o ${ displaystyle alpha}$ a ${ displaystyle beta}$, toto se stává:

${ displaystyle m (k mid alpha, beta) = { frac { gama (n + 1)} { gama (k + 1) gama (n-k + 1)}} { frac { Gamma (k + alpha) Gamma (n-k + beta)} { Gamma (n + alpha + beta)}} { frac { Gamma ( alpha + beta)} { Gamma ( alfa ) Gamma ( beta)}}.}$

což je očekávané beta-binomické rozdělení s parametry ${ displaystyle n, alpha}$ a ${ displaystyle beta}$.

Můžeme také použít metodu iterovaných očekávání k nalezení očekávaná hodnota okrajových momentů. Napíšeme náš model jako dvoustupňový složený vzorkovací model. Nechat k_i být počet úspěchů z n_i zkoušky pro událost i:

${ displaystyle { begin {aligned} k_ {i} & sim operatorname {Bin} (n_ {i}, theta _ {i}) [6pt] theta _ {i} & sim operatorname {Beta} ( mu, M), mathrm {iid} end {zarovnáno}}}$

Můžeme najít iterované odhady momentů pro průměr a rozptyl pomocí momentů pro distribuce ve dvoustupňovém modelu:

${ displaystyle operatorname {E} left ({ frac {k} {n}} right) = operatorname {E} left [ operatorname {E} left ( left. { frac {k} {n}} right | theta right) right] = operatorname {E} ( theta) = mu}$

${ displaystyle { begin {zarovnáno} operatorname {var} left ({ frac {k} {n}} right) & = operatorname {E} left [ operatorname {var} left ( left . { frac {k} {n}} right | theta right) right] + operatorname {var} left [ operatorname {E} left ( left. { frac {k} {n }} right | theta right) right] [6pt] & = operatorname {E} left [ left ( left. { frac {1} {n}} right) theta ( 1- theta) right | mu, M right] + operatorname {var} left ( theta mid mu, M right) [6pt] & = { frac {1} {n }} left ( mu (1- mu) right) + { frac {n-1} {n}} { frac {( mu (1- mu))} {M + 1}} [6pt] & = { frac { mu (1- mu)} {n}} vlevo (1 + { frac {n-1} {M + 1}} vpravo). End { zarovnaný}}}$

(Zde jsme použili zákon úplného očekávání a zákon totální odchylky.)

Chceme bodové odhady pro ${ displaystyle mu}$ a ${ displaystyle M}$. Odhadovaný průměr ${ displaystyle { widehat { mu}}}$ se počítá ze vzorku

${ displaystyle { widehat { mu}} = { frac { sum _ {i = 1} ^ {N} k_ {i}} { sum _ {i = 1} ^ {N} n_ {i} }}.}$

Odhad hyperparametru M se získá pomocí okamžitých odhadů pro rozptyl dvoustupňového modelu:

${ displaystyle s ^ {2} = { frac {1} {N}} sum _ {i = 1} ^ {N} operatorname {var} left ({ frac {k_ {i}} {n_ {i}}} right) = { frac {1} {N}} sum _ {i = 1} ^ {N} { frac {{ widehat { mu}} (1 - { widehat { mu}})} {n_ {i}}} vlevo [1 + { frac {n_ {i} -1} {{ widehat {M}} + 1}} vpravo]}$

Řešení:

${ displaystyle { widehat {M}} = { frac {{ widehat { mu}} (1 - { widehat { mu}}) - s ^ {2}} {s ^ {2} - { frac {{ widehat { mu}} (1 - { widehat { mu}})} {N}} sum _ {i = 1} ^ {N} 1 / n_ {i}}},}$

kde

${ displaystyle s ^ {2} = { frac {N sum _ {i = 1} ^ {N} n_ {i} ({ widehat { theta _ {i}}} - { widehat { mu }}) ^ {2}} {(N-1) sum _ {i = 1} ^ {N} n_ {i}}}.}$

Protože nyní máme odhady bodových parametrů, ${ displaystyle { widehat { mu}}}$ a ${ displaystyle { widehat {M}}}$, pro podkladovou distribuci bychom chtěli najít bodový odhad ${ displaystyle { tilde { theta}} _ {i}}$ pro pravděpodobnost úspěchu události i. Toto je vážený průměr odhadu události ${ displaystyle { widehat { theta _ {i}}} = k_ {i} / n_ {i}}$ a ${ displaystyle { widehat { mu}}}$. Vzhledem k našim bodovým odhadům pro předchozí můžeme nyní tyto hodnoty připojit, abychom našli bodový odhad pro zadní část

${ displaystyle { tilde { theta _ {i}}} = operatorname {E} ( theta mid k_ {i}) = { frac {k_ {i} + { widehat {M}} { widehat { mu}}} {n_ {i} + { widehat {M}}}} = { frac { widehat {M}} {n_ {i} + { widehat {M}}}} { widehat { mu}} + { frac {n_ {i}} {n_ {i} + { widehat {M}}}} { frac {k_ {i}} {n_ {i}}}.}$

Faktory smrštění

Můžeme napsat zadní odhad jako vážený průměr:

${ displaystyle { tilde { theta}} _ {i} = { widehat {B}} _ {i} , { widehat { mu}} + (1 - { widehat {B}} _ { i}) { widehat { theta}} _ {i}}$

kde ${ displaystyle { widehat {B}} _ {i}}$ se nazývá faktor smrštění.

${ displaystyle { widehat {B_ {i}}} = { frac { widehat {M}} {{ widehat {M}} + n_ {i}}}}$

Související distribuce

• ${ Displaystyle BB (1,1, n) sim U (0, n) ,}$ kde ${ displaystyle U (a, b) ,}$ je diskrétní rovnoměrné rozdělení.

Viz také

• Dirichletovo-multinomické rozdělení

Reference

• Minka, Thomas P. (2003). Odhad distribuce Dirichlet. Technická zpráva společnosti Microsoft.

externí odkazy

• Využití beta-binomické distribuce k hodnocení výkonu biometrického identifikačního zařízení
• Fastfit obsahuje kód Matlab pro přizpůsobení beta-binomických distribucí (ve formě dvourozměrných distribucí Pólya) k datům.
• Interaktivní grafika: Jednorozměrné distribuční vztahy
• Beta-binomické funkce v balíčku VGAM R.
• Beta-binomická distribuce v knihovně Java Cognitive Foundry Java Sandia National Labs