Zobecněná Dirichletova distribuce - Generalized Dirichlet distribution

v statistika, zobecněná Dirichletova distribuce (GD) je zobecněním Dirichletova distribuce s obecnější kovarianční strukturou a téměř dvojnásobným počtem parametrů. Náhodné proměnné s distribucí GD nejsou úplně neutrální .^[1]

Funkce hustoty ${displaystyle p_ {1}, ldots, p_ {k-1}}$ je

${displaystyle left [prod _ {i = 1} ^ {k-1} B (a_ {i}, b_ {i}) ight] ^ {- 1} p_ {k} ^ {b_ {k-1} -1 } prod _ {i = 1} ^ {k-1} left [p_ {i} ^ {a_ {i} -1} left (sum _ {j = i} ^ {k} p_ {j} ight) ^ { b_ {i-1} - (a_ {i} + b_ {i})} vpravo]}$

kde definujeme ${displaystyle p_ {k} = 1-součet _ {i = 1} ^ {k-1} p_ {i}}$. Tady ${displaystyle B (x, y)}$ označuje Funkce Beta. Tím se sníží na standardní distribuci Dirichlet, pokud ${displaystyle b_ {i-1} = a_ {i} + b_ {i}}$ pro ${displaystyle 2leqslant ileqslant k-1}$ (${displaystyle b_ {0}}$ je libovolný).

Například pokud k = 4, pak hustota funkce ${displaystyle p_ {1}, p_ {2}, p_ {3}}$ je

${displaystyle left [prod _ {i = 1} ^ {3} B (a_ {i}, b_ {i}) ight] ^ {- 1} p_ {1} ^ {a_ {1} -1} p_ {2 } ^ {a_ {2} -1} p_ {3} ^ {a_ {3} -1} p_ {4} ^ {b_ {3} -1} vlevo (p_ {2} + p_ {3} + p_ { 4} ight) ^ {b_ {1} -left (a_ {2} + b_ {2} ight)} vlevo (p_ {3} + p_ {4} ight) ^ {b_ {2} -left (a_ {3 } + b_ {3} ight)}}$

kde ${displaystyle p_ {1} + p_ {2} + p_ {3} <1}$ a ${displaystyle p_ {4} = 1-p_ {1} -p_ {2} -p_ {3}}$.

Connor a Mosimann definují PDF jako z následujícího důvodu. Definujte náhodné proměnné ${displaystyle z_ {1}, ldots, z_ {k-1}}$ s ${displaystyle z_ {1} = p_ {1}, z_ {2} = p_ {2} / left (1-p_ {1} ight), z_ {3} = p_ {3} / left (1- (p_ { 1} + p_ {2}) ight), ldots, z_ {i} = p_ {i} / left (1-left (p_ {1} + cdots + p_ {i-1} ight) ight)}$. Pak ${displaystyle p_ {1}, ldots, p_ {k}}$ mít zobecněné Dirichletovo rozdělení jako parametrizované výše, pokud ${displaystyle z_ {i}}$ jsou nezávislé beta s parametry ${displaystyle a_ {i}, b_ {i}}$, ${displaystyle i = 1, ldots, k-1}$.

Alternativní forma daná Wongem

Wong ^[2] dává trochu stručnější formu pro ${displaystyle x_ {1} + cdots + x_ {k} leqslant 1}$

${displaystyle prod _ {i = 1} ^ {k} {frac {x_ {i} ^ {alpha _ {i} -1} vlevo (1-x_ {1} -cdots -x_ {i} ight) ^ {gamma _ {i}}} {B (alpha _ {i}, eta _ {i})}}}$

kde ${displaystyle gamma _ {j} = eta _ {j} -alpha _ {j + 1} - eta _ {j + 1}}$ pro ${displaystyle 1leqslant jleqslant k-1}$ a ${displaystyle gamma _ {k} = eta _ {k} -1}$. Všimněte si, že Wong definuje distribuci přes a ${displaystyle k}$ dimenzionální prostor (implicitně definující ${displaystyle x_ {k + 1} = 1-součet _ {i = 1} ^ {k} x_ {i}}$) zatímco Connor a Mosiman používají a ${displaystyle k-1}$ rozměrný prostor s ${displaystyle x_ {k} = 1-součet _ {i = 1} ^ {k-1} x_ {i}}$.

Obecná momentová funkce

Li ${displaystyle X = left (X_ {1}, ldots, X_ {k} ight) sim GD_ {k} left (alpha _ {1}, ldots, alpha _ {k}; eta _ {1}, ldots, eta _ {k} ight)}$, pak

${displaystyle Eleft [X_ {1} ^ {r_ {1}} X_ {2} ^ {r_ {2}} cdots X_ {k} ^ {r_ {k}} ight] = prod _ {j = 1} ^ { k} {frac {Gamma left (alpha _ {j} + eta _ {j} ight) Gamma left (alpha _ {j} + r_ {j} ight) Gamma left (eta _ {j} + delta _ {j} ight)} {Gamma left (alpha _ {j} ight) Gamma left (eta _ {j} ight) Gamma left (alpha _ {j} + eta _ {j} + r_ {j} + delta _ {j} ight )}}}$

kde ${displaystyle delta _ {j} = r_ {j + 1} + r_ {j + 2} + cdots + r_ {k}}$ pro ${displaystyle j = 1,2, cdots, k-1}$ a ${displaystyle delta _ {k} = 0}$. Tím pádem

${displaystyle Eleft (X_ {j} ight) = {frac {alpha _ {j}} {alpha _ {j} + eta _ {j}}} prod _ {m = 1} ^ {j-1} {frac { eta _ {m}} {alpha _ {m} + eta _ {m}}}.}$

Redukce na standardní Dirichletovu distribuci

Jak je uvedeno výše, pokud ${displaystyle b_ {i-1} = a_ {i} + b_ {i}}$ pro ${displaystyle 2leqslant ileqslant k}$ pak se distribuce sníží na standardní Dirichlet. Tato podmínka se liší od obvyklého případu, kdy nastavení dalších parametrů zobecněného rozdělení na nulu má za následek původní rozdělení. V případě GDD to však vede k velmi komplikované funkci hustoty.

Bayesovská analýza

Předpokládat ${displaystyle X = left (X_ {1}, ldots, X_ {k} ight) sim GD_ {k} left (alpha _ {1}, ldots, alpha _ {k}; eta _ {1}, ldots, eta _ {k} ight)}$ je zobecněný Dirichlet, a to ${displaystyle Ymid X}$ je multinomiální s ${displaystyle n}$ zkoušky (zde ${displaystyle Y = left (Y_ {1}, ldots, Y_ {k} ight)}$). Psaní ${displaystyle Y_ {j} = y_ {j}}$ pro ${displaystyle 1leqslant jleqslant k}$ a ${displaystyle y_ {k + 1} = n-součet _ {i = 1} ^ {k} y_ {i}}$ kloub zadní ${displaystyle X | Y}$ je zobecněná Dirichletova distribuce s

${displaystyle Xmid Ysim GD_ {k} vlevo ({alpha '} _ {1}, ldots, {alpha'} _ {k}; {eta '} _ {1}, ldots, {eta'} _ {k} ight )}$

kde ${displaystyle {alpha '} _ {j} = alfa _ {j} + y_ {j}}$ a ${displaystyle {eta '} _ {j} = eta _ {j} + součet _ {i = j + 1} ^ {k + 1} y_ {i}}$ pro ${displaystyle 1leqslant k.}$

Experiment vzorkování

Wong uvádí následující systém jako příklad toho, jak se liší Dirichletovo a zobecněné Dirichletovo rozdělení. Předpokládá, že velká urna obsahuje koule ${displaystyle k + 1}$ různé barvy. Podíl každé barvy není znám. Psát si ${displaystyle X = (X_ {1}, ldots, X_ {k})}$ pro podíl kuliček s barvou ${displaystyle j}$ v urně.

Experiment 1. Analytik 1 tomu věří ${displaystyle Xsim D (alpha _ {1}, ldots, alpha _ {k}, alpha _ {k + 1})}$ (tj, ${displaystyle X}$ je Dirichlet s parametry ${displaystyle alpha _ {i}}$). Analytik poté provede ${displaystyle k + 1}$ skleněné krabice a klade ${displaystyle alpha _ {i}}$ barevné kuličky ${displaystyle i}$ doručená pošta ${displaystyle i}$ (předpokládá se, že ${displaystyle alpha _ {i}}$ jsou celá čísla ${displaystyle geq 1}$). Poté analytik 1 vytáhne z urny kouli a sleduje její barvu (řekněme barvu ${displaystyle j}$) a vloží jej do krabice ${displaystyle j}$. Může identifikovat správné pole, protože jsou průhledné a barvy kuliček uvnitř jsou viditelné. Proces pokračuje až do ${displaystyle n}$ koule byly nakresleny. Zadní distribuce je pak Dirichlet s parametry, které jsou počtem kuliček v každém poli.

Experiment 2. Analytik 2 tomu věří ${displaystyle X}$ následuje zobecněné Dirichletovo rozdělení: ${displaystyle Xsim GD (alpha _ {1}, ldots, alpha _ {k}; eta _ {1}, ldots, eta _ {k})}$. Všechny parametry se opět považují za kladná celá čísla. Analytik dělá ${displaystyle k + 1}$ dřevěné krabice. Krabice mají dvě oblasti: jednu pro koule a jednu pro kuličky. Koule jsou barevné, ale kuličky nejsou barevné. Pak pro ${displaystyle j = 1, ldots, k}$, říká ${displaystyle alpha _ {j}}$ barevné koule ${displaystyle j}$, a ${displaystyle eta _ {j}}$ kuličky, do krabice ${displaystyle j}$. Poté položí barevnou kouli ${displaystyle k + 1}$ doručená pošta ${displaystyle k + 1}$. Analytik poté z urny vytáhne míč. Vzhledem k tomu, že krabice jsou dřevěné, analytik nemůže určit, do které krabice má míč umístit (jak mohl v experimentu 1 výše); má také špatnou paměť a nepamatuje si, která krabička obsahuje které barevné kuličky. Musí zjistit, do které krabice je ten správný, do kterého má míč umístit. Udělá to otevřením pole 1 a porovnáním koulí v ní s taženým míčem. Pokud se barvy liší, je políčko špatné. Analytik vloží mramor (sic) do rámečku 1 a postoupí do rámečku 2. Tento postup opakuje, dokud se koule v rámečku neshodují s taženým míčem, a poté vloží míč (sic) do rámečku s ostatními míčky odpovídající barva. Analytik poté vytáhne z urny další míč a opakuje do ${displaystyle n}$ koule jsou nakresleny. Zadní je pak zobecněn Dirichlet s parametry ${displaystyle alpha}$ je počet míčků a ${displaystyle eta}$ počet kuliček v každém poli.

Všimněte si, že v experimentu 2 má změna pořadí políček netriviální účinek, na rozdíl od experimentu 1.

Viz také

• Dirichletovo-multinomické rozdělení
• Lukacsova věta o poměru a součtu nezávislosti

Reference