Součet normálně distribuovaných náhodných proměnných - Sum of normally distributed random variables

v teorie pravděpodobnosti, výpočet součet normálně distribuovaných náhodných proměnných je instance aritmetiky náhodné proměnné, což může být na základě rozdělení pravděpodobnosti zúčastněných náhodných proměnných a jejich vztahů.

To nelze zaměňovat s součet normálních rozdělení který tvoří a distribuce směsi.

Nezávislé náhodné proměnné

Nechat X a Y být nezávislý náhodné proměnné to jsou normálně distribuováno (a tedy také společně), pak je jejich součet také normálně rozdělen. tj. pokud

${ displaystyle X sim N ( mu _ {X}, sigma _ {X} ^ {2})}$

${ displaystyle Y sim N ( mu _ {Y}, sigma _ {Y} ^ {2})}$

${ displaystyle Z = X + Y,}$

pak

${ displaystyle Z sim N ( mu _ {X} + mu _ {Y}, sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}).}$

To znamená, že součet dvou nezávislých normálně distribuovaných náhodných proměnných je normální, přičemž jeho průměr je součtem dvou průměrů a jeho rozptyl je součtem dvou odchylek (tj. Čtverec směrodatné odchylky je součtem čtverce směrodatných odchylek).^[1]

Aby tento výsledek mohl platit, předpokládá se, že X a Y jsou nezávislé nelze zrušit, i když je možné je oslabit za předpokladu, že X a Y jsou společně, spíše než samostatně, běžně distribuováno.^[2] (Vidět zde pro příklad.)

Výsledek o průměru platí ve všech případech, zatímco výsledek pro rozptyl vyžaduje nesoulad, ale ne nezávislost.

Důkazy

Důkaz pomocí charakteristických funkcí

The charakteristická funkce

${ displaystyle varphi _ {X + Y} (t) = operatorname {E} vlevo (e ^ {it (X + Y)} vpravo)}$

součtu dvou nezávislých náhodných proměnných X a Y je pouze produktem dvou samostatných charakteristických funkcí:

${ displaystyle varphi _ {X} (t) = operatorname {E} left (e ^ {itX} right), qquad varphi _ {Y} (t) = operatorname {E} left ( e ^ {itY} vpravo)}$

z X a Y.

Charakteristická funkce normálního rozdělení s očekávanou hodnotou μ a rozptylem σ² je

${ displaystyle varphi (t) = exp vlevo (it mu - { sigma ^ {2} t ^ {2} přes 2} vpravo).}$

Tak

${ displaystyle { begin {zarovnáno} varphi _ {X + Y} (t) = varphi _ {X} (t) varphi _ {Y} (t) & = exp left (it mu _ {X} - { sigma _ {X} ^ {2} t ^ {2} přes 2} doprava) exp doleva (to mu _ {Y} - { sigma _ {Y} ^ {2 } t ^ {2} nad 2} vpravo) [6pt] & = exp vlevo (it ( mu _ {X} + mu _ {Y}) - {( sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}) t ^ {2} nad 2} vpravo). End {zarovnáno}}}$

Toto je charakteristická funkce normálního rozdělení s očekávanou hodnotou ${ displaystyle mu _ {X} + mu _ {Y}}$ a rozptyl ${ displaystyle sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}}$

Na závěr si připomeňme, že žádná dvě odlišná rozdělení nemohou mít stejnou charakteristickou funkci, takže rozdělení X + Y musí být právě toto normální rozdělení.

Důkaz pomocí závitu

Pro nezávislé náhodné proměnné X a Y, distribuce F_Z z Z = X + Y rovná se konvoluce F_X a F_Y:

${ displaystyle f_ {Z} (z) = int _ {- infty} ^ { infty} f_ {Y} (z-x) f_ {X} (x) , dx}$

Vzhledem k tomu F_X a F_Y jsou normální hustoty,

${ displaystyle { begin {aligned} f_ {X} (x) = { mathcal {N}} (x; mu _ {X}, sigma _ {X} ^ {2}) = { frac { 1} {{ sqrt {2 pi}} sigma _ {X}}} e ^ {- (x- mu _ {X}) ^ {2} / (2 sigma _ {X} ^ {2 })} [5pt] f_ {Y} (y) = { mathcal {N}} (y; mu _ {Y}, sigma _ {Y} ^ {2}) = { frac {1 } {{ sqrt {2 pi}} sigma _ {Y}}} e ^ {- (y- mu _ {Y}) ^ {2} / (2 sigma _ {Y} ^ {2} )} end {zarovnáno}}}$

Nahrazení do konvoluce:

${ displaystyle { begin {zarovnáno} f_ {Z} (z) & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} sigma _ {Y}}} exp left [- {(zx- mu _ {Y}) ^ {2} nad 2 sigma _ {Y} ^ {2}} right] { frac {1} { { sqrt {2 pi}} sigma _ {X}}} exp left [- {(x- mu _ {X}) ^ {2} nad 2 sigma _ {X} ^ {2 }} right] , dx [6pt] & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} { sqrt {2 pi}} sigma _ {X} sigma _ {Y}}} exp left [- { frac { sigma _ {X} ^ {2} (zx- mu _ {Y}) ^ {2 } + sigma _ {Y} ^ {2} (x- mu _ {X}) ^ {2}} {2 sigma _ {X} ^ {2} sigma _ {Y} ^ {2}} } right] , dx [6pt] & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} { sqrt {2 pi }} sigma _ {X} sigma _ {Y}}} exp left [- { frac { sigma _ {X} ^ {2} (z ^ {2} + x ^ {2} + mu _ {Y} ^ {2} -2xz-2z mu _ {Y} + 2x mu _ {Y}) + sigma _ {Y} ^ {2} (x ^ {2} + mu _ { X} ^ {2} -2x mu _ {X})} {2 sigma _ {Y} ^ {2} sigma _ {X} ^ {2}}} vpravo] , dx [6 bodů ] & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} { sqrt {2 pi}} sigma _ {X} sigma _ {Y}}} exp left [- { frac {x ^ {2} ( sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}) - 2x ( sigma _ { X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X}) + si gma _ {X} ^ {2} (z ^ {2} + mu _ {Y} ^ {2} -2z mu _ {Y}) + sigma _ {Y} ^ {2} mu _ { X} ^ {2}} {2 sigma _ {Y} ^ {2} sigma _ {X} ^ {2}}} right] , dx [6pt] end {zarovnáno}}}$

Definování ${ displaystyle sigma _ {Z} = { sqrt { sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}}}}$, a dokončení náměstí:

${ displaystyle { begin {zarovnáno} f_ {Z} (z) & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} sigma _ {Z}}} { frac {1} {{ sqrt {2 pi}} { frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}}}}} exp left [- { frac {x ^ {2} -2x { frac { sigma _ {X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2 } mu _ {X}} { sigma _ {Z} ^ {2}}} + { frac { sigma _ {X} ^ {2} (z ^ {2} + mu _ {Y} ^ {2} -2z mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X} ^ {2}} { sigma _ {Z} ^ {2}}}} {2 left ({ frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}} right) ^ {2}}} right] , dx [6pt] & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} sigma _ {Z}}} { frac {1} {{ sqrt {2 pi}} { frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}}}} exp left [- { frac { left (x - { frac { sigma _ {X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X}} { sigma _ {Z} ^ {2} }} right) ^ {2} - left ({ frac { sigma _ {X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X}} { sigma _ {Z} ^ {2}}} vpravo) ^ {2} + { frac { sigma _ {X} ^ {2} (z- mu _ {Y}) ^ {2} + sigma _ {Y} ^ {2} mu _ {X} ^ {2}} { sigma _ {Z} ^ {2}}}} {2 vlevo ({ frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}} doprava) ^ {2}}} doprava] , dx [6pt] & = int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} sigma _ {Z}}} exp left [- { frac { sigma _ { Z} ^ {2} left ( sigma _ {X} ^ {2} (z- mu _ {Y}) ^ {2} + sigma _ {Y} ^ {2} mu _ {X} ^ {2} right) - left ( sigma _ {X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X} right ) ^ {2}} {2 sigma _ {Z} ^ {2} left ( sigma _ {X} sigma _ {Y} right) ^ {2}}} right] { frac {1 } {{ sqrt {2 pi}} { frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}}}} exp left [- { frac { vlevo (x - { frac { sigma _ {X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X}} { sigma _ {Z} ^ {2}}} vpravo) ^ {2}} {2 vlevo ({ frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}}} vpravo ) ^ {2}}} vpravo] , dx [6pt] & = { frac {1} {{ sqrt {2 pi}} sigma _ {Z}}} exp left [- {(z - ( mu _ {X} + mu _ {Y})) ^ {2} nad 2 sigma _ {Z} ^ {2}} vpravo] int _ {- infty} ^ { infty} { frac {1} {{ sqrt {2 pi}} { frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}}}}} exp left [- { frac { left (x - { frac { sigma _ {X} ^ {2} (z- mu _ {Y}) + sigma _ {Y} ^ {2} mu _ {X}} { sigma _ {Z} ^ {2}}} vpravo) ^ {2}} {2 vlevo ({ frac { sigma _ {X} sigma _ {Y}} { sigma _ {Z}}} doprava) ^ {2}}} doprava] , dx end {zarovnáno} }}$

Výraz v integrálu je normální rozdělení hustoty na X, a tak se integrál vyhodnotí na 1. Následuje požadovaný výsledek:

${ displaystyle f_ {Z} (z) = { frac {1} {{ sqrt {2 pi}} sigma _ {Z}}} exp left [- {(z - ( mu _ { X} + mu _ {Y})) ^ {2} nad 2 sigma _ {Z} ^ {2}} vpravo]}$

Za použití konvoluční věta

Je možné ukázat, že Fourierova transformace Gaussian, ${ displaystyle f_ {X} (x) = { mathcal {N}} (x; mu _ {X}, sigma _ {X} ^ {2})}$, je^[3]

${ displaystyle { mathcal {F}} {f_ {X} } = F_ {X} ( omega) = exp left [-j omega mu _ {X} right] exp left [- { tfrac { sigma _ {X} ^ {2} omega ^ {2}} {2}} vpravo]}$

Podle konvoluční věta:

${ displaystyle { begin {aligned} f_ {Z} (z) & = (f_ {X} * f_ {Y}) (z) [5pt] & = { mathcal {F}} ^ {- 1 } { big {} { mathcal {F}} {f_ {X} } cdot { mathcal {F}} {f_ {Y} } { big }} [5 bodů] & = { mathcal {F}} ^ {- 1} { big {} exp left [-j omega mu _ {X} right] exp left [- { tfrac { sigma _ {X} ^ {2} omega ^ {2}} {2}} doprava] exp doleva [-j omega mu _ {Y} doprava] exp doleva [- { tfrac { sigma _ {Y} ^ {2} omega ^ {2}} {2}} vpravo] { big }} [5pt] & = { mathcal {F}} ^ {- 1} { big {} exp left [-j omega ( mu _ {X} + mu _ {Y}) right] exp left [- { tfrac {( sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}) omega ^ {2}} {2}} vpravo] { big }} [5pt] & = { mathcal {N}} (z; mu _ {X} + mu _ {Y}, sigma _ {X} ^ {2} + sigma _ {Y} ^ {2}) end {zarovnáno}}}$

Geometrický důkaz

Nejprve zvažte normalizovaný případ, když X, Y ~ N(0, 1), takže jejich Soubory PDF jsou

${ displaystyle f (x) = { frac {1} { sqrt {2 pi ,}}} e ^ {- x ^ {2} / 2}}$

a

${ displaystyle g (y) = { frac {1} { sqrt {2 pi ,}}} e ^ {- y ^ {2} / 2}.}$

Nechat Z = X + Y. Pak CDF pro Z bude

${ Displaystyle z mapsto int _ {x + y leq z} f (x) g (y) , dx , dy.}$

Tento integrál je nad polorovinou, která leží pod přímkou X+y = z.

Klíčovým poznatkem je funkce

${ displaystyle f (x) g (y) = { frac {1} {2 pi}} e ^ {- (x ^ {2} + y ^ {2}) / 2} ,}$

je radiálně symetrický. Otočíme tedy souřadnicovou rovinu kolem počátku a vybereme nové souřadnice ${ displaystyle x ', y'}$ takové, že linka X+y = z je popsána rovnicí ${ displaystyle x '= c}$ kde ${ displaystyle c = c (z)}$ je stanovena geometricky. Kvůli radiální symetrii máme ${ displaystyle f (x) g (y) = f (x ') g (y')}$a CDF pro Z je

${ displaystyle int _ {x ' leq c, y' in mathbb {R}} f (x ') g (y') , dx ', dy'.}$

To je snadné integrovat; zjistíme, že CDF pro Z je

${ displaystyle int _ {- infty} ^ {c (z)} f ​​(x ') , dx' = Phi (c (z)).}$

K určení hodnoty ${ displaystyle c (z)}$Všimněte si, že jsme otočili rovinu tak, aby čára X+y = z nyní běží svisle s X-intercept se rovná C. Tak C je jen vzdálenost od počátku k přímce X+y = z podél kolmé přímky, která se v tomto případě setkává s přímkou ​​v nejbližším bodě k počátku ${ displaystyle (z / 2, z / 2) ,}$. Takže vzdálenost je ${ displaystyle c = { sqrt {(z / 2) ^ {2} + (z / 2) ^ {2}}} = z / { sqrt {2}} ,}$a CDF pro Z je ${ displaystyle Phi (z / { sqrt {2}})}$, tj., ${ displaystyle Z = X + Y sim N (0,2).}$

Teď když A, b jsou jakékoli skutečné konstanty (ne obě nulové!), pak pravděpodobnost, že ${ displaystyle aX + bY leq z}$ je nalezen stejným integrálem jako výše, ale s hraniční čárou ${ displaystyle ax + by = z}$. Stejná metoda rotace funguje a v tomto obecnějším případě zjistíme, že nejbližší bod na přímce k počátku je umístěn (podepsanou) vzdálenost

${ displaystyle { frac {z} { sqrt {a ^ {2} + b ^ {2}}}}}$

pryč, takže

${ displaystyle aX + bY sim N (0, a ^ {2} + b ^ {2}).}$

Stejný argument ve vyšších dimenzích ukazuje, že pokud

${ displaystyle X_ {i} sim N (0, sigma _ {i} ^ {2}), qquad i = 1, tečky, n,}$

pak

${ displaystyle X_ {1} + cdots + X_ {n} sim N (0, sigma _ {1} ^ {2} + cdots + sigma _ {n} ^ {2}).}$

Nyní jsme v podstatě hotovi, protože

${ displaystyle X sim N ( mu, sigma ^ {2}) Leftrightarrow { frac {1} { sigma}} (X- mu) sim N (0,1).}$

Takže obecně, pokud

${ displaystyle X_ {i} sim N ( mu _ {i}, sigma _ {i} ^ {2}), qquad i = 1, tečky, n,}$

pak

${ displaystyle sum _ {i = 1} ^ {n} a_ {i} X_ {i} sim N left ( sum _ {i = 1} ^ {n} a_ {i} mu _ {i }, sum _ {i = 1} ^ {n} (a_ {i} sigma _ {i}) ^ {2} vpravo).}$

Korelované náhodné proměnné

V případě, že proměnné X a Y jsou tedy společně normálně distribuované náhodné proměnné X + Y je stále normálně distribuován (viz Vícerozměrné normální rozdělení ) a průměr je součet průměrů. Odchylky však nejsou aditivní kvůli korelaci. Vskutku,

${ displaystyle sigma _ {X + Y} = { sqrt { sigma _ {X} ^ {2} + sigma _ {Y} ^ {2} +2 rho sigma _ {X} sigma _ {Y}}},}$

kde ρ je korelace. Zejména kdykoli ρ <0, pak je odchylka menší než součet odchylek X a Y.

Rozšíření tohoto výsledku lze vytvořit pro více než dvě náhodné proměnné pomocí kovarianční matice.

Důkaz

V tomto případě (s X a Y s nulovými prostředky), je třeba zvážit

${ displaystyle { frac {1} {2 pi sigma _ {x} sigma _ {y} { sqrt {1- rho ^ {2}}}}} iint _ {x , y} exp left [- { frac {1} {2 (1- rho ^ {2})}} left ({ frac {x ^ {2}} { sigma _ {x} ^ {2} }} + { frac {y ^ {2}} { sigma _ {y} ^ {2}}} - { frac {2 rho xy} { sigma _ {x} sigma _ {y}} } right) right] delta (z- (x + y)) , mathrm {d} x , mathrm {d} y.}$

Jak je uvedeno výše, jeden provede střídání ${ displaystyle y rightarrow z-x}$

Tento integrál je složitější analyticky zjednodušit, ale lze ho snadno provést pomocí symbolického matematického programu. Rozdělení pravděpodobnosti F_Z(z) je v tomto případě dán

${ displaystyle f_ {Z} (z) = { frac {1} {{ sqrt {2 pi}} sigma _ {+}}} exp left (- { frac {z ^ {2} } {2 sigma _ {+} ^ {2}}} vpravo)}$

kde

${ displaystyle sigma _ {+} = { sqrt { sigma _ {x} ^ {2} + sigma _ {y} ^ {2} +2 rho sigma _ {x} sigma _ {y }}}.}$

Pokud místo toho někdo uvažuje Z = X − Y, pak jeden získá

${ displaystyle f_ {Z} (z) = { frac {1} { sqrt {2 pi ( sigma _ {x} ^ {2} + sigma _ {y} ^ {2} -2 rho sigma _ {x} sigma _ {y})}}}} exp left (- { frac {z ^ {2}} {2 ( sigma _ {x} ^ {2} + sigma _ { y} ^ {2} -2 rho sigma _ {x} sigma _ {y})}} vpravo)}$

který lze také přepsat pomocí

${ displaystyle sigma _ {-} = { sqrt { sigma _ {x} ^ {2} + sigma _ {y} ^ {2} -2 rho sigma _ {x} sigma _ {y }}}.}$

Standardní odchylky každé distribuce jsou zřejmé ve srovnání se standardní normální distribucí.

Reference

Viz také

• Šíření nejistoty
• Algebra náhodných proměnných
• Stabilní distribuce
• Standardní chyba (statistika)
• Poměrové rozdělení
• Distribuce produktu
• Lomítko distribuce
• Seznam konvolucí rozdělení pravděpodobnosti