Normální distribuce - Normal distribution

Normální distribuce

Funkce hustoty pravděpodobnosti Červená křivka je standardní normální rozdělení
Funkce kumulativní distribuce
Zápis	${displaystyle {mathcal {N}} (mu, sigma ^ {2})}$
Parametry	${displaystyle mu in mathbb {R}}$ = průměr (umístění ) ${displaystyle sigma ^ {2}> 0}$ = rozptyl (na druhou měřítko )
Podpěra, podpora	${displaystyle xin mathbb {R}}$
PDF	${displaystyle {frac {1} {sigma {sqrt {2pi}}}} e ^ {- {frac {1} {2}} vlevo ({frac {x-mu} {sigma}} vpravo) ^ {2}} }$
CDF	${displaystyle {frac {1} {2}} left [1 + operatorname {erf} left ({frac {x-mu} {sigma {sqrt {2}}}} ight)}$
Kvantilní	${displaystyle mu + sigma {sqrt {2}} operatorname {erf} ^ {- 1} (2p-1)}$
Znamenat	${displaystyle mu}$
Medián	${displaystyle mu}$
Režim	${displaystyle mu}$
Rozptyl	${displaystyle sigma ^ {2}}$
ŠÍLENÝ	${displaystyle sigma {sqrt {2 / pi}}}$
Šikmost	${displaystyle 0}$
Př. špičatost	${displaystyle 0}$
Entropie	${displaystyle {frac {1} {2}} log (2pi esigma ^ {2})}$
MGF	${displaystyle exp (mu t + sigma ^ {2} t ^ {2} / 2)}$
CF	${displaystyle exp (imu t-sigma ^ {2} t ^ {2} / 2)}$
Fisher informace	${displaystyle {mathcal {I}} (mu, sigma) = {egin {pmatrix} 1 / sigma ^ {2} & 0 0 & 2 / sigma ^ {2} end {pmatrix}}}$ ${displaystyle {mathcal {I}} (mu, sigma ^ {2}) = {egin {pmatrix} 1 / sigma ^ {2} & 0 0 & 1 / (2sigma ^ {4}) end {pmatrix}}}$
Kullback-Leiblerova divergence	${displaystyle {1 přes 2} vlevo {vlevo ({frac {sigma _ {0}} {sigma _ {1}}} vpravo) ^ {2} + {frac {(mu _ {1} -mu _ {0} ) ^ {2}} {sigma _ {1} ^ {2}}} - 1 + 2ln {sigma _ {1} nad sigma _ {0}} ight}}$

v teorie pravděpodobnosti, a normální (nebo Gaussian nebo Gauss nebo Laplace – Gauss) rozdělení je typ spojité rozdělení pravděpodobnosti pro skutečný náhodná proměnná. Obecná forma jeho funkce hustoty pravděpodobnosti je

${displaystyle f (x) = {frac {1} {sigma {sqrt {2pi}}}} e ^ {- {frac {1} {2}} vlevo ({frac {x-mu} {sigma}} vpravo) ^ {2}}}$

Parametr ${displaystyle mu}$ je znamenat nebo očekávání distribuce (a také její medián a režimu ), zatímco parametr ${displaystyle sigma}$ je jeho standardní odchylka.^[1] The rozptyl distribuce je ${displaystyle sigma ^ {2}}$.^[2] Říká se, že je náhodná proměnná s Gaussovým rozdělením normálně distribuováno, a nazývá se a normální odchylka.

Normální distribuce jsou důležité v statistika a jsou často používány v přírodní a společenské vědy představovat skutečnou hodnotu náhodné proměnné jejichž distribuce nejsou známa.^[3][4] Jejich význam je částečně způsoben teorém centrálního limitu. Uvádí, že za určitých podmínek je průměr mnoha vzorků (pozorování) náhodné proměnné s konečným průměrem a rozptylem sám o sobě náhodnou proměnnou - jejíž distribuce konverguje na normální distribuci, jak se zvyšuje počet vzorků. Proto se předpokládá, že fyzikální veličiny budou součtem mnoha nezávislých procesů, jako např chyby měření, často mají distribuce, které jsou téměř normální.^[5]

Gaussovské distribuce navíc mají některé jedinečné vlastnosti, které jsou cenné v analytických studiích. Například jakákoli lineární kombinace pevné kolekce normálních odchylek je normální odchylka. Mnoho výsledků a metod, jako např šíření nejistoty a nejmenší čtverce přizpůsobení parametrů, lze odvodit analyticky v explicitní formě, když jsou příslušné proměnné normálně distribuovány.

Normální distribuce se někdy neformálně nazývá a křivka zvonu.^[6] Mnoho dalších distribucí je však ve tvaru zvonu (například Cauchy, Studentské t, a logistické distribuce).

Definice

Standardní normální rozdělení

Nejjednodušší případ normálního rozdělení je známý jako standardní normální rozdělení. Toto je zvláštní případ, kdy ${displaystyle mu = 0}$ a ${displaystyle sigma = 1}$, a je to popsáno tímto funkce hustoty pravděpodobnosti:^[1]

${displaystyle varphi (x) = {frac {1} {sqrt {2pi}}} e ^ {- {frac {1} {2}} x ^ {2}}}$

Tady je faktor ${displaystyle 1 / {sqrt {2pi}}}$ zajišťuje, že celková plocha pod křivkou ${displaystyle varphi (x)}$ se rovná jedné.^{[poznámka 1]} Faktor ${displaystyle 1/2}$ v exponentu zajišťuje, že distribuce má jednotkovou odchylku (tj. odchylku rovnou jedné), a proto také jednotkovou směrodatnou odchylku. Tato funkce je symetrická kolem ${displaystyle x = 0}$, kde dosahuje své maximální hodnoty ${displaystyle 1 / {sqrt {2pi}}}$ a má inflexní body na ${displaystyle x = + 1}$ a ${displaystyle x = -1}$.

Autoři se liší v tom, které normální rozdělení by se mělo nazývat „standardní“. Carl Friedrich Gauss například definoval standardní normu jako rozptyl ${displaystyle sigma ^ {2} = 1/2}$. To je:

${displaystyle varphi (x) = {frac {e ^ {- x ^ {2}}} {sqrt {pi}}}}$

Na druhou stranu, Stephen Stigler^[7] jde ještě dále a definuje standardní normu jako rozptyl ${displaystyle sigma ^ {2} = 1 / (2pi)}$:

${displaystyle varphi (x) = e ^ {- pi x ^ {2}}}$

Obecné normální rozdělení

Každá normální distribuce je verzí standardní normální distribuce, jejíž doména byla natažena o faktor ${displaystyle sigma}$ (směrodatná odchylka) a poté přeloženo pomocí ${displaystyle mu}$ (střední hodnota):

${displaystyle f (xmid mu, sigma ^ {2}) = {frac {1} {sigma}} varphi left ({frac {x-mu} {sigma}} ight)}$

Hustota pravděpodobnosti musí být zmenšena o ${displaystyle 1 / sigma}$ takže integrál je stále 1.

Li ${displaystyle Z}$ je standardní normální odchylka, pak ${displaystyle X = sigma Z + mu}$ bude mít normální rozdělení s očekávanou hodnotou ${displaystyle mu}$ a směrodatná odchylka ${displaystyle sigma}$. Naopak, pokud ${displaystyle X}$ je normální odchylka od parametrů ${displaystyle mu}$ a ${displaystyle sigma ^ {2}}$, pak distribuce ${displaystyle Z = (X-mu) / sigma}$ bude mít standardní normální rozdělení. Tato varianta se také nazývá standardizovaná forma ${displaystyle X}$.

Zápis

Hustota pravděpodobnosti standardního Gaussova rozdělení (standardní normální rozdělení, s nulovým průměrem a jednotkovou odchylkou) je často označována řeckým písmenem ${displaystyle phi}$ (phi ).^[8] Alternativní forma řeckého písmene phi, ${displaystyle varphi}$, se také používá poměrně často.^[1]

Normální rozdělení se často označuje jako ${displaystyle N (mu, sigma ^ {2})}$ nebo ${displaystyle {mathcal {N}} (mu, sigma ^ {2})}$.^[1][9] Tedy když náhodná proměnná ${displaystyle X}$ je normálně distribuován se střední hodnotou ${displaystyle mu}$ a směrodatná odchylka ${displaystyle sigma}$, jeden může psát

${displaystyle Xsim {mathcal {N}} (mu, sigma ^ {2}).}$

Alternativní parametrizace

Někteří autoři obhajují používání přesnost ${displaystyle au}$ jako parametr definující šířku distribuce, místo odchylky ${displaystyle sigma}$ nebo rozptyl ${displaystyle sigma ^ {2}}$. Přesnost je obvykle definována jako převrácená hodnota rozptylu, ${displaystyle 1 / sigma ^ {2}}$.^[10] Vzorec pro distribuci se pak stane

${displaystyle f (x) = {sqrt {frac {au} {2pi}}} e ^ {- au (x-mu) ^ {2} / 2}.}$

Tvrdí se, že tato volba má výhody v numerických výpočtech, když ${displaystyle sigma}$ je velmi blízko k nule a zjednodušuje vzorce v některých kontextech, například v Bayesovský závěr proměnných s vícerozměrné normální rozdělení.

Alternativně převrácená hodnota směrodatné odchylky ${displaystyle au ^ {prime} = 1 / sigma}$ lze definovat jako přesnost, v takovém případě se stane výrazem normálního rozdělení

${displaystyle f (x) = {frac {au ^ {prime}} {sqrt {2pi}}} e ^ {- (au ^ {prime}) ^ {2} (x-mu) ^ {2} / 2} .}$

Podle Stiglera je tato formulace výhodná z důvodu mnohem jednoduššího a lépe zapamatovatelného vzorce a jednoduchých přibližných vzorců pro kvantily distribuce.

Normální rozdělení tvoří exponenciální rodina s přirozené parametry ${displaystyle extstyle heta _ {1} = {frac {mu} {sigma ^ {2}}}}$ a ${displaystyle extstyle heta _ {2} = {frac {-1} {2sigma ^ {2}}}}$a přírodní statistiky X a X². Parametry dvojího očekávání pro normální rozdělení jsou η₁ = μ a η₂ = μ² + σ².

Funkce kumulativní distribuce

The kumulativní distribuční funkce (CDF) standardního normálního rozdělení, obvykle označovaného velkým řeckým písmenem ${displaystyle Phi}$ (phi ),^[1] je integrál

${displaystyle Phi (x) = {frac {1} {sqrt {2pi}}} int _ {- infty} ^ {x} e ^ {- t ^ {2} / 2}, dt}$

Související chybová funkce ${displaystyle operatorname {erf} (x)}$ udává pravděpodobnost náhodné proměnné, přičemž normální rozdělení střední hodnoty 0 a rozptyl 1/2 klesají v rozsahu ${displaystyle [-x, x]}$. To je:^[1]

${displaystyle operatorname {erf} (x) = {frac {2} {sqrt {pi}}} int _ {0} ^ {x} e ^ {- t ^ {2}}, dt}$

Tyto integrály nelze vyjádřit pomocí elementárních funkcí a často se o nich říká speciální funkce. Je však známo mnoho numerických aproximací; vidět níže více.

Obě funkce spolu úzce souvisejí

${displaystyle Phi (x) = {frac {1} {2}} vlevo [1 + operatorname {erf} vlevo ({frac {x} {sqrt {2}}} ight) ight]}$

Pro obecné normální rozdělení s hustotou ${displaystyle f}$, znamenat ${displaystyle mu}$ a odchylka ${displaystyle sigma}$, funkce kumulativní distribuce je

${displaystyle F (x) = Phi left ({frac {x-mu} {sigma}} ight) = {frac {1} {2}} left [1 + operatorname {erf} left ({frac {x-mu} {sigma {sqrt {2}}}} hned) hned]}$

Doplněk standardního normálního CDF, ${displaystyle Q (x) = 1-Phi (x)}$, se často nazývá Q-funkce, zejména v technických textech.^[11][12] Dává pravděpodobnost, že hodnota standardní normální náhodné proměnné ${displaystyle X}$ překročí ${displaystyle x}$: ${displaystyle P (X> x)}$. Další definice ${displaystyle Q}$-funkce, z nichž všechny jsou jednoduché transformace ${displaystyle Phi}$, jsou také používány příležitostně.^[13]

The graf standardního normálního CDF ${displaystyle Phi}$ má 2krát rotační symetrie kolem bodu (0,1 / 2); to je ${displaystyle Phi (-x) = 1-Phi (x)}$. Své primitivní (neurčitý integrál) lze vyjádřit takto:

${displaystyle int Phi (x), dx = xPhi (x) + varphi (x) + C.}$

CDF standardního normálního rozdělení lze rozšířit o Integrace po částech do série:

${displaystyle Phi (x) = {frac {1} {2}} + {frac {1} {sqrt {2pi}}} cdot e ^ {- x ^ {2} / 2} vlevo [x + {frac {x ^ {3}} {3}} + {frac {x ^ {5}} {3cdot 5}} + cdots + {frac {x ^ {2n + 1}} {(2n + 1) !!}} + cdots ight ]}$

kde ${displaystyle !!}$ označuje dvojitý faktoriál.

An asymptotická expanze CDF pro velké X lze také odvodit pomocí integrace po částech. Více viz Chybná funkce # Asymptotická expanze.^[14]

Směrodatná odchylka a pokrytí

U normálního rozdělení tvoří hodnoty menší než jedna standardní odchylka od střední hodnoty 68,27% množiny; zatímco dvě standardní odchylky od průměru představují 95,45%; a tři standardní odchylky představují 99,73%.

Asi 68% hodnot získaných z normálního rozdělení je v rámci jedné standardní odchylky σ daleko od průměru; asi 95% hodnot leží ve dvou standardních odchylkách; a asi 99,7% je v rozmezí tří standardních odchylek.^[6] Tato skutečnost je známá jako 68-95-99,7 (empirické) pravidlo, nebo Pravidlo 3-sigma.

Přesněji řečeno, pravděpodobnost, že se odchylka normálu nachází v rozmezí mezi ${displaystyle mu -nsigma}$ a ${displaystyle mu + nsigma}$ darováno

${displaystyle F (mu + nsigma) -F (mu -nsigma) = Phi (n) -Phi (-n) = operatorname {erf} left ({frac {n} {sqrt {2}}} ight).}$

Na 12 platných čísel, hodnoty pro ${displaystyle n = 1,2, ldots, 6}$ jsou:^[15]

${displaystyle n}$	${displaystyle p = F (mu + nsigma) -F (mu -nsigma)}$	${displaystyle {ext {tj. }} 1-p}$	${displaystyle {ext {or}} 1 {ext {in}} p}$	OEIS
1	0.682689492137	0.317310507863	3 .15148718753	OEIS: A178647
2	0.954499736104	0.045500263896	21 .9778945080	OEIS: A110894
3	0.997300203937	0.002699796063	370 .398347345	OEIS: A270712
4	0.999936657516	0.000063342484	15787 .1927673
5	0.999999426697	0.000000573303	1744277 .89362
6	0.999999998027	0.000000001973	506797345 .897

Pro velké ${displaystyle n}$, lze použít aproximaci ${displaystyle 1-papprox {frac {e ^ {- n ^ {2} / 2}} {n {sqrt {pi / 2}}}}}$.

Kvantilní funkce

The kvantilová funkce distribuce je inverzní funkcí kumulativní distribuční funkce. Kvantilní funkce standardního normálního rozdělení se nazývá probitová funkce, a lze jej vyjádřit inverzně chybová funkce:

${displaystyle Phi ^ {- 1} (p) = {sqrt {2}} operatorname {erf} ^ {- 1} (2p-1), quad pin (0,1).}$

Pro normální náhodnou proměnnou se střední hodnotou ${displaystyle mu}$ a rozptyl ${displaystyle sigma ^ {2}}$, funkce kvantilu je

${displaystyle F ^ {- 1} (p) = mu + sigma Phi ^ {- 1} (p) = mu + sigma {sqrt {2}} operatorname {erf} ^ {- 1} (2p-1), čtyřkolka špendlík (0,1).}$

The kvantil ${displaystyle Phi ^ {- 1} (p)}$ standardního normálního rozdělení se běžně označuje jako ${displaystyle z_ {p}}$. Tyto hodnoty se používají v testování hypotéz, konstrukce intervaly spolehlivosti a Q-Q grafy. Normální náhodná proměnná ${displaystyle X}$ překročí ${displaystyle mu + z_ {p} sigma}$ s pravděpodobností ${displaystyle 1-p}$, a bude ležet mimo interval ${displaystyle mu pm z_ {p} sigma}$ s pravděpodobností ${displaystyle 2 (1-p)}$. Zejména kvantil ${displaystyle z_ {0.975}}$ je 1.96; proto bude normální náhodná proměnná ležet mimo interval ${displaystyle mu pm 1,96sigma}$ pouze v 5% případů.

Následující tabulka uvádí kvantil ${displaystyle z_ {p}}$ takhle ${displaystyle X}$ bude ležet v dosahu ${displaystyle mu pm z_ {p} sigma}$ se stanovenou pravděpodobností ${displaystyle p}$. Tyto hodnoty jsou užitečné k určení toleranční interval pro průměry vzorku a další statistické odhady s normální (nebo asymptoticky normální) distribuce :.^[16][17] POZNÁMKA: ukazuje následující tabulka ${displaystyle {sqrt {2}} operatorname {erf} ^ {- 1} (p) = Phi ^ {- 1} vlevo ({frac {p + 1} {2}} vpravo)}$, ne ${displaystyle Phi ^ {- 1} (p)}$ jak je definováno výše.

${displaystyle p}$	${displaystyle z_ {p}}$		${displaystyle p}$	${displaystyle z_ {p}}$
0.80	1.281551565545		0.999	3.290526731492
0.90	1.644853626951		0.9999	3.890591886413
0.95	1.959963984540		0.99999	4.417173413469
0.98	2.326347874041		0.999999	4.891638475699
0.99	2.575829303549		0.9999999	5.326723886384
0.995	2.807033768344		0.99999999	5.730728868236
0.998	3.090232306168		0.999999999	6.109410204869

Pro malé ${displaystyle p}$, funkce kvantilu má užitečnou asymptotickou expanzi ${displaystyle Phi ^ {- 1} (p) = - {sqrt {ln {frac {1} {p ^ {2}}} - ln ln {frac {1} {p ^ {2}}} - ln (2pi )}} + {mathcal {o}} (1).}$

Vlastnosti

Normální rozdělení je jediné rozdělení, jehož kumulanty za první dva (tj. jiné než střední a rozptyl ) jsou nulové. Je to také kontinuální distribuce s maximální entropie pro specifikovaný průměr a rozptyl.^[18][19] Geary ukázal, za předpokladu, že průměr a rozptyl jsou konečné, že normální rozdělení je jediné rozdělení, kde průměr a rozptyl vypočítané ze sady nezávislých remíz jsou na sobě nezávislé.^[20][21]

Normální rozdělení je podtřídou eliptické distribuce. Normální rozdělení je symetrický o své střední hodnotě a je nenulová po celé reálné ose. Jako takový nemusí být vhodný model pro proměnné, které jsou ze své podstaty pozitivní nebo silně zkosené, jako například hmotnost osoby nebo cena a podíl. Takové proměnné lze lépe popsat jinými distribucemi, například normální distribuce protokolu nebo Paretova distribuce.

Hodnota normálního rozdělení je při hodnotě prakticky nulová ${displaystyle x}$ leží více než pár standardní odchylky mimo průměr (např. rozpětí tří standardních odchylek pokrývá všechny, kromě 0,27% z celkového rozdělení). Proto se nemusí jednat o vhodný model, pokud lze očekávat významný zlomek odlehlé hodnoty - hodnoty, které leží mnoho standardních odchylek od průměru - a nejmenší čtverce a další statistická inference metody, které jsou optimální pro normálně distribuované proměnné, se při použití na taková data často stávají vysoce nespolehlivými. V těchto případech více těžký ocas distribuce by měla být předpokládána a vhodná robustní statistická inference použité metody.

Gaussova distribuce patří do rodiny stabilní distribuce které přitahují součty nezávislé, identicky distribuované distribuce bez ohledu na to, zda je průměr nebo rozptyl konečný. Kromě Gaussian, který je omezujícím případem, mají všechny stabilní distribuce těžké ocasy a nekonečnou variabilitu. Je to jedna z mála distribucí, která je stabilní a má funkce hustoty pravděpodobnosti, které lze vyjádřit analyticky, ostatní jsou Cauchyovo rozdělení a Lévyho distribuce.

Symetrie a derivace

Normální rozdělení s hustotou ${displaystyle f (x)}$ (znamenat ${displaystyle mu}$ a směrodatná odchylka ${displaystyle sigma> 0}$) má následující vlastnosti:

• Je symetrický kolem bodu ${displaystyle x = mu,}$ který je zároveň režimu, medián a znamenat distribuce.^[22]
• to je unimodální: je to první derivát je pozitivní pro ${displaystyle x$ negativní pro ${displaystyle x> mu,}$ a nula pouze v ${displaystyle x = mu.}$
• Oblast pod křivkou a nad ${displaystyle x}$-os je jednota (tj. rovná se jedné).
• Jeho první derivát je ${displaystyle f ^ {prime} (x) = - {frac {x-mu} {sigma ^ {2}}} f (x).}$
• Jeho hustota má dvě inflexní body (kde druhá derivace ${displaystyle f}$ je nula a znaménko změn), umístěné o jednu směrodatnou odchylku od střední hodnoty, konkrétně na ${displaystyle x = mu -sigma}$ a ${displaystyle x = mu + sigma.}$^[22]
• Jeho hustota je log-konkávní.^[22]
• Jeho hustota je nekonečná rozlišitelný, Vskutku supersmooth objednávky 2.^[23]

Dále hustota ${displaystyle varphi}$ standardního normálního rozdělení (tj. ${displaystyle mu = 0}$ a ${displaystyle sigma = 1}$) má také následující vlastnosti:

• Jeho první derivát je ${displaystyle varphi ^ {prime} (x) = - xvarphi (x).}$
• Jeho druhou derivací je ${displaystyle varphi ^ {prime prime} (x) = (x ^ {2} -1) varphi (x)}$
• Obecněji řečeno nth derivát je ${displaystyle varphi ^ {(n)} (x) = (- 1) ^ {n} operatorname {He} _ {n} (x) varphi (x),}$ kde ${displaystyle operatorname {He} _ {n} (x)}$ je nth (pravděpodobnost) Poustevnický polynom.^[24]
• Pravděpodobnost, že normálně distribuovaná proměnná ${displaystyle X}$ se známým ${displaystyle mu}$ a ${displaystyle sigma}$ je v konkrétní sadě, lze vypočítat pomocí skutečnosti, že zlomek ${displaystyle Z = (X-mu) / sigma}$ má standardní normální rozdělení.

Okamžiky

Prostý a absolutní momenty proměnné ${displaystyle X}$ jsou očekávané hodnoty ${displaystyle X ^ {p}}$ a ${displaystyle | X | ^ {p}}$, resp. Pokud očekávaná hodnota ${displaystyle mu}$ z ${displaystyle X}$ je nula, tyto parametry se nazývají ústřední momenty. Obvykle nás zajímají pouze momenty s celočíselným pořadím ${displaystyle p}$.

Li ${displaystyle X}$ má normální rozdělení, tyto momenty existují a jsou konečné pro všechny ${displaystyle p}$ jehož skutečná část je větší než -1. Pro jakékoli nezáporné celé číslo ${displaystyle p}$, prosté centrální momenty jsou:^[25]

${displaystyle operatorname {E} left [(X-mu) ^ {p} ight] = {egin {cases} 0 & {ext {if}} p {ext {is odd,}} sigma ^ {p} (p- 1) !! & {ext {if}} p {ext {is even.}} End {cases}}}$

Tady ${displaystyle n !!}$ označuje dvojitý faktoriál, tj. součin všech čísel z ${displaystyle n}$ na 1, které mají stejnou paritu jako ${displaystyle n.}$

Centrální absolutní momenty se shodují s prostými momenty pro všechny sudé objednávky, ale jsou nenulové pro liché objednávky. Pro jakékoli nezáporné celé číslo ${displaystyle p,}$

${displaystyle {egin {aligned} operatorname {E} left [| X-mu | ^ {p} ight] & = sigma ^ {p} (p-1) !! cdot {egin {cases} {sqrt {frac {2 } {pi}}} & {ext {if}} p {ext {is odd}} 1 & {ext {if}} p {ext {is even}} end {cases}} & = sigma ^ {p} cdot {frac {2 ^ {p / 2} Gamma left ({frac {p + 1} {2}} ight)} {sqrt {pi}}}. end {aligned}}}$

Poslední vzorec platí také pro jakékoli jiné než celé číslo ${displaystyle p> -1.}$ Když průměr ${displaystyle mu eq 0,}$ prostý a absolutní moment lze vyjádřit pomocí konfluentní hypergeometrické funkce ${displaystyle {} _ {1} F_ {1}}$ a ${displaystyle U.}$^{[Citace je zapotřebí ]}

${displaystyle {egin {aligned} operatorname {E} left [X ^ {p} ight] & = sigma ^ {p} cdot (-i {sqrt {2}}) ^ {p} Uleft (- {frac {p} {2}}, {frac {1} {2}}, - {frac {1} {2}} vlevo ({frac {mu} {sigma}} ight) ^ {2} ight), operatorname {E} left [| X | ^ {p} ight] & = sigma ^ {p} cdot 2 ^ {p / 2} {frac {Gamma left ({frac {1 + p} {2}} ight)} {sqrt {pi }}} {} _ {1} F_ {1} vlevo (- {frac {p} {2}}, {frac {1} {2}}, - {frac {1} {2}} vlevo ({frac {mu} {sigma}} ight) ^ {2} ight) .end {aligned}}}$

Tyto výrazy zůstávají platné, i když ${displaystyle p}$ není celé číslo. Viz také zobecněné Hermitovy polynomy.

Objednat	Necentrální moment	Centrální moment
1	${displaystyle mu}$	${displaystyle 0}$
2	${displaystyle mu ^ {2} + sigma ^ {2}}$	${displaystyle sigma ^ {2}}$
3	${displaystyle mu ^ {3} + 3mu sigma ^ {2}}$	${displaystyle 0}$
4	${displaystyle mu ^ {4} + 6mu ^ {2} sigma ^ {2} + 3sigma ^ {4}}$	${displaystyle 3sigma ^ {4}}$
5	${displaystyle mu ^ {5} + 10mu ^ {3} sigma ^ {2} + 15mu sigma ^ {4}}$	${displaystyle 0}$
6	${displaystyle mu ^ {6} + 15mu ^ {4} sigma ^ {2} + 45mu ^ {2} sigma ^ {4} + 15sigma ^ {6}}$	${displaystyle 15sigma ^ {6}}$
7	${displaystyle mu ^ {7} + 21mu ^ {5} sigma ^ {2} + 105mu ^ {3} sigma ^ {4} + 105mu sigma ^ {6}}$	${displaystyle 0}$
8	${displaystyle mu ^ {8} + 28mu ^ {6} sigma ^ {2} + 210mu ^ {4} sigma ^ {4} + 420mu ^ {2} sigma ^ {6} + 105sigma ^ {8}}$	${displaystyle 105sigma ^ {8}}$

Očekávání ${displaystyle X}$ podmíněn událostí, která ${displaystyle X}$ leží v intervalu ${displaystyle [a, b]}$ darováno

${displaystyle operatorname {E} left [Xmid a$

kde ${displaystyle f}$ a ${displaystyle F}$ respektive jsou hustota a kumulativní distribuční funkce ${displaystyle X}$. Pro ${displaystyle b = infty}$ toto je známé jako inverzní Millsův poměr. Všimněte si, že výše, hustota ${displaystyle f}$ z ${displaystyle X}$ se používá místo standardní normální hustoty jako v inverzním Millsově poměru, takže tady máme ${displaystyle sigma ^ {2}}$ namísto ${displaystyle sigma}$.

Fourierova transformace a charakteristická funkce

The Fourierova transformace normální hustoty ${displaystyle f}$ s průměrem ${displaystyle mu}$ a směrodatná odchylka ${displaystyle sigma}$ je^[26]

${displaystyle {hat {f}} (t) = int _ {- infty} ^ {infty} f (x) e ^ {- itx}, dx = e ^ {- imu t} e ^ {- {frac {1 } {2}} (sigma t) ^ {2}}}$

kde ${displaystyle i}$ je imaginární jednotka. Pokud to znamená ${displaystyle mu = 0}$, první faktor je 1 a Fourierova transformace je kromě konstantního faktoru normální hustota na frekvenční doména, se střední hodnotou 0 a směrodatnou odchylkou ${displaystyle 1 / sigma}$. Zejména standardní normální rozdělení ${displaystyle varphi}$ je vlastní funkce Fourierovy transformace.

V teorii pravděpodobnosti je Fourierova transformace rozdělení pravděpodobnosti reálné náhodné proměnné ${displaystyle X}$ je úzce spjat s charakteristická funkce ${displaystyle varphi _ {X} (t)}$ této proměnné, která je definována jako očekávaná hodnota z ${displaystyle e ^ {itX}}$, jako funkce reálné proměnné ${displaystyle t}$ (dále jen frekvence parametr Fourierovy transformace). Tuto definici lze analyticky rozšířit na proměnnou komplexní hodnoty ${displaystyle t}$.^[27] Vztah mezi oběma je:

${displaystyle varphi _ {X} (t) = {hat {f}} (- t)}$

Funkce generující momenty a kumulanty

The funkce generování momentů skutečné náhodné proměnné ${displaystyle X}$ je očekávaná hodnota ${displaystyle e ^ {tX}}$, jako funkce skutečného parametru ${displaystyle t}$. Pro normální rozdělení s hustotou ${displaystyle f}$, znamenat ${displaystyle mu}$ a odchylka ${displaystyle sigma}$, funkce generující moment existuje a je rovna

${displaystyle M (t) = operatorname {E} [e ^ {tX}] = {hat {f}} (it) = e ^ {mu t} e ^ {{frac {1} {2}} sigma ^ { 2} t ^ {2}}}$

The funkce generující kumulant je logaritmus funkce generující moment, jmenovitě

${displaystyle g (t) = ln M (t) = mu t + {frac {1} {2}} sigma ^ {2} t ^ {2}}$

Protože se jedná o kvadratický polynom v ${displaystyle t}$, pouze první dva kumulanty jsou nenulové, jmenovitě průměr${displaystyle mu}$ a rozptyl${displaystyle sigma ^ {2}}$.

Steinův operátor a třída

V rámci Steinova metoda operátor Stein a třída náhodné proměnné ${displaystyle Xsim {mathcal {N}} (mu, sigma ^ {2})}$ jsou ${displaystyle {mathcal {A}} f (x) = sigma ^ {2} f '(x) - (x-mu) f (x)}$ a ${displaystyle {mathcal {F}}}$ třída všech absolutně spojitých funkcí ${displaystyle f: mathbb {R} o mathbb {R} {mbox {such that}} mathbb {E} [| f '(X) |]$.

Limit nulové variance

V omezit když ${displaystyle sigma}$ má tendenci k nule, hustota pravděpodobnosti ${displaystyle f (x)}$ nakonec má sklon k nule kdykoli ${displaystyle xeq mu}$, ale roste bez omezení, pokud ${displaystyle x = mu}$, zatímco jeho integrál zůstává roven 1. Normální rozdělení tedy nelze definovat jako obyčejné funkce když ${displaystyle sigma = 0}$.

Lze však definovat normální rozdělení s nulovým rozptylem jako a zobecněná funkce; konkrétně jako Diracova „delta funkce“ ${displaystyle delta}$ přeloženo průměrem ${displaystyle mu}$, to je ${displaystyle f (x) = delta (x-mu).}$Jeho CDF je pak Funkce Heaviside step přeloženo průměrem ${displaystyle mu}$, jmenovitě

${displaystyle F (x) = {egin {cases} 0 & {ext {if}} x$

Maximální entropie

Ze všech rozdělení pravděpodobnosti přes reálné oblasti se stanoveným průměrem ${displaystyle mu}$ a rozptyl${displaystyle sigma ^ {2}}$, normální rozdělení ${displaystyle N (mu, sigma ^ {2})}$ je ten s maximální entropie.^[28] Li ${displaystyle X}$ je spojitá náhodná proměnná s hustota pravděpodobnosti ${displaystyle f (x)}$, pak entropie ${displaystyle X}$ je definován jako^[29][30][31]

${displaystyle H (X) = - int _ {- infty} ^ {infty} f (x) log f (x), dx}$

kde ${displaystyle f (x) log f (x)}$ je chápáno jako nula kdykoli ${displaystyle f (x) = 0}$. Tuto funkci lze maximalizovat, s výhradou omezení, že distribuce je správně normalizovaná a má specifikovanou odchylku, pomocí variační počet. Funkce se dvěma Lagrangeovy multiplikátory je definováno:

${displaystyle L = int _ {- infty} ^ {infty} f (x) ln (f (x)), dx-lambda _ {0} left (mu -int _ {- infty} ^ {infty} f (x ), dxight) -lambda left (sigma ^ {2} -int _ {- infty} ^ {infty} f (x) (x-mu) ^ {2}, dxight)}$

kde ${displaystyle f (x)}$ je prozatím považována za nějakou funkci hustoty se střední hodnotou ${displaystyle mu}$ a směrodatná odchylka ${displaystyle sigma}$.

Při maximální entropii malá variace ${displaystyle delta f (x)}$ o ${displaystyle f (x)}$ vytvoří variantu ${displaystyle delta L}$ o ${displaystyle L}$ což se rovná 0:

${displaystyle 0 = delta L = int _ {- infty} ^ {infty} delta f (x) left (ln (f (x)) + 1 + lambda _ {0} + lambda (x-mu) ^ {2} ight), dx}$

Protože to musí platit pro všechny malé ${displaystyle delta f (x)}$, výraz v závorkách musí být nula a řešení pro ${displaystyle f (x)}$ výnosy:

${displaystyle f (x) = e ^ {- lambda _ {0} -1-lambda (x-mu) ^ {2}}}$

Využití omezovacích rovnic k řešení ${displaystyle lambda _ {0}}$ a ${displaystyle lambda}$ získá hustotu normálního rozdělení:

${displaystyle f (x, mu, sigma) = {frac {1} {sqrt {2pi sigma ^ {2}}}} e ^ {- {frac {(x-mu) ^ {2}} {2sigma ^ {2 }}}}}$

Entropie normálního rozdělení se rovná

${displaystyle H (x) = {frac {1} {2}} (1 + log (2sigma ^ {2} pi))}$

Provoz na normální odchylky

Rodina normálních distribucí je uzavřena lineárními transformacemi: pokud ${displaystyle X}$ je normálně distribuován se střední hodnotou ${displaystyle mu}$ a směrodatná odchylka ${displaystyle sigma}$, pak proměnná ${displaystyle Y = aX + b}$, pro všechna reálná čísla ${displaystyle a}$ a ${displaystyle b}$, je také normálně distribuován, se střední hodnotou ${displaystyle amu + b}$ a směrodatná odchylka ${displaystyle | a | sigma}$.

Také pokud ${displaystyle X_ {1}}$ a ${displaystyle X_ {2}}$ jsou dva nezávislý normální náhodné proměnné, s prostředky ${displaystyle mu _ {1}}$, ${displaystyle mu _ {2}}$ a směrodatné odchylky ${displaystyle sigma _ {1}}$, ${displaystyle sigma _ {2}}$, pak jejich součet ${displaystyle X_ {1} + X_ {2}}$ budou také normálně distribuovány,^[důkaz] s průměrem ${displaystyle mu _ {1} + mu _ {2}}$ a rozptyl ${displaystyle sigma _ {1} ^ {2} + sigma _ {2} ^ {2}}$.

Zejména pokud ${displaystyle X}$ a ${displaystyle Y}$ jsou nezávislé normální odchylky s nulovým průměrem a rozptylem ${displaystyle sigma ^ {2}}$, pak ${displaystyle X + Y}$ a ${displaystyle X-Y}$ jsou také nezávislé a normálně distribuované, s nulovým průměrem a rozptylem ${displaystyle 2sigma ^ {2}}$. Toto je zvláštní případ polarizační identita.^[32]

Také pokud ${displaystyle X_ {1}}$, ${displaystyle X_ {2}}$ jsou dvě nezávislé normální odchylky se střední hodnotou ${displaystyle mu}$ a odchylka ${displaystyle sigma}$, a ${displaystyle a}$, ${displaystyle b}$ jsou libovolná reálná čísla, pak proměnná

${displaystyle X_ {3} = {frac {aX_ {1} + bX_ {2} - (a + b) mu} {sqrt {a ^ {2} + b ^ {2}}}} + mu}$

je také normálně distribuován se střední hodnotou ${displaystyle mu}$ a odchylka ${displaystyle sigma}$. Z toho vyplývá, že normální rozdělení je stabilní (s exponentem ${displaystyle alpha = 2}$).

Obecněji libovolné lineární kombinace nezávislých normálních odchylek je normální odchylka.

Nekonečná dělitelnost a Cramérova věta

Pro jakékoli kladné celé číslo ${displaystyle {ext {n}}}$, jakékoli normální rozdělení se střední hodnotou ${displaystyle mu}$ a rozptyl ${displaystyle sigma ^ {2}}$ je rozdělení součtu ${displaystyle {ext {n}}}$ nezávislá normální odchylka, každá se střední hodnotou ${displaystyle {frac {mu} {n}}}$ a rozptyl ${displaystyle {frac {sigma ^ {2}} {n}}}$. Tato vlastnost se nazývá nekonečná dělitelnost.^[33]

Naopak, pokud ${displaystyle X_ {1}}$ a ${displaystyle X_ {2}}$ jsou nezávislé náhodné veličiny a jejich součet ${displaystyle X_ {1} + X_ {2}}$ má normální rozdělení, pak obě ${displaystyle X_ {1}}$ a ${displaystyle X_ {2}}$ musí být normální odchylky.^[34]

Tento výsledek je znám jako Cramérova věta o rozkladu, a je ekvivalentní s tím, že konvoluce dvou distribucí je normální právě tehdy, pokud jsou obě normální. Cramérova věta naznačuje, že lineární kombinace nezávislých negaussovských proměnných nikdy nebude mít přesně normální rozdělení, i když se k ní může libovolně přiblížit.^[35]

Bernsteinova věta

Bernsteinova věta říká, že pokud ${displaystyle X}$ a ${displaystyle Y}$ jsou nezávislé a ${displaystyle X + Y}$ a ${displaystyle X-Y}$ jsou také nezávislé, pak obě X a Y musí nutně mít normální distribuce.^[36][37]

Obecněji, pokud ${displaystyle X_ {1}, ldots, X_ {n}}$ jsou nezávislé náhodné proměnné, pak dvě odlišné lineární kombinace ${displaystyle sum {a_ {k} X_ {k}}}$ a ${displaystyle sum {b_ {k} X_ {k}}}$bude nezávislý tehdy a jen tehdy, pokud vše ${displaystyle X_ {k}}$ jsou normální a ${displaystyle sum {a_ {k} b_ {k} sigma _ {k} ^ {2} = 0}}$, kde ${displaystyle sigma _ {k} ^ {2}}$ označuje rozptyl ${displaystyle X_ {k}}$.^[36]

Další vlastnosti

Související distribuce

Teorém centrálního limitu

Jak se zvyšuje počet jednotlivých událostí, funkce se začíná podobat normálnímu rozdělení

Porovnání funkcí hustoty pravděpodobnosti, ${displaystyle p (k)}$ pro součet ${displaystyle n}$ spravedlivé šestistranné kostky, které ukazují jejich konvergenci k normálnímu rozdělení s rostoucí ${displaystyle na}$, v souladu s centrální limitní větou. V grafu vpravo dole jsou vyhlazené profily předchozích grafů změněny, překryty a porovnány s normálním rozdělením (černá křivka).

Centrální limitní věta uvádí, že za určitých (poměrně běžných) podmínek bude mít součet mnoha náhodných proměnných přibližně normální rozdělení. Přesněji, kde ${displaystyle X_ {1}, ldots, X_ {n}}$ jsou nezávislé a identicky distribuované náhodné proměnné se stejným libovolným rozdělením, nulovým průměrem a rozptylem ${displaystyle sigma ^ {2}}$ a ${displaystyle Z}$ je jejich průměr zmenšen o ${displaystyle {sqrt {n}}}$

${displaystyle Z = {sqrt {n}} left ({frac {1} {n}} sum _ {i = 1} ^ {n} X_ {i} ight)}$

Pak jako ${displaystyle n}$ zvyšuje, rozdělení pravděpodobnosti ${displaystyle Z}$ bude mít tendenci k normálnímu rozdělení s nulovým průměrem a rozptylem ${displaystyle sigma ^ {2}}$.

Věta může být rozšířena na proměnné ${displaystyle (X_ {i})}$ které nejsou nezávislé a / nebo nejsou identicky distribuovány, pokud jsou kladena určitá omezení na stupeň závislosti a momenty distribucí.

Mnoho statistika testů, skóre, a odhady v praxi se vyskytují součty určitých náhodných proměnných a ještě více odhadů může být reprezentováno jako součet náhodných proměnných pomocí ovlivňovat funkce. Z centrální limitní věty vyplývá, že tyto statistické parametry budou mít asymptoticky normální rozdělení.

Centrální limitní věta také znamená, že určitá rozdělení lze aproximovat normálním rozdělením, například:

• The binomická distribuce ${displaystyle B (n, p)}$ je přibližně normální s průměrem ${displaystyle np}$ a rozptyl ${displaystyle np (1-p)}$ pro velké ${displaystyle n}$ a pro ${displaystyle p}$ není příliš blízko k 0 nebo 1.
• The Poissonovo rozdělení s parametrem ${displaystyle lambda}$ je přibližně normální s průměrem ${displaystyle lambda}$ a rozptyl ${displaystyle lambda}$, pro velké hodnoty ${displaystyle lambda}$.^[43]
• The distribuce chí-kvadrát ${displaystyle chi ^ {2} (k)}$ je přibližně normální s průměrem ${displaystyle k}$ a rozptyl ${displaystyle 2k}$, pro velké ${displaystyle k}$.
• The Studentova t-distribuce ${displaystyle t (u)}$ je přibližně normální s průměrem 0 a odchylkou 1, když ${displaystyle u}$ je velký.

Zda jsou tyto aproximace dostatečně přesné, závisí na účelu, pro který jsou potřebné, a na rychlosti konvergence k normálnímu rozdělení. Typicky je tomu tak, že takové aproximace jsou méně přesné v koncích distribuce.

Obecná horní hranice pro aproximační chybu v centrální limitní větě je dána vztahem Berry – Esseenova věta, vylepšení aproximace jsou dána Edgeworth expanze.

Operace s jednou náhodnou proměnnou

Li X je distribuován normálně se střední hodnotou μ a rozptyl σ², pak

• Exponenciál X je distribuován normálně: E^X ~ ln (N (μ, σ²)).
• Absolutní hodnota X má složené normální rozdělení: |X| ~ N_F (μ, σ²). Li μ = 0 toto je známé jako poloviční normální rozdělení.
• Absolutní hodnota normalizovaných reziduí,X − μ|/σ, má distribuce chi s jedním stupněm volnosti: |X − μ|/σ ~ ${displaystyle chi _ {1}}$.
• Náměstí X/σ má necentrální distribuce chí-kvadrát s jedním stupněm volnosti: X²/σ² ~ ${displaystyle chi _ {1} ^ {2}}$(μ²/σ²). Li μ = 0, distribuce se nazývá jednoduše chi-kvadrát.
• Rozdělení proměnné X omezeno na interval [A, b] se nazývá zkrácené normální rozdělení.
• (X − μ)⁻² má Lévyho distribuce s umístěním 0 a měřítkem σ⁻².

Kombinace dvou nezávislých náhodných proměnných

Li ${displaystyle X_ {1}}$ a ${displaystyle X_ {2}}$ jsou dvě nezávislé standardní normální náhodné proměnné se střední hodnotou 0 a rozptylem 1

• Jejich součet a rozdíl se normálně rozdělí se střední nulou a rozptylem dva: ${displaystyle X_ {1} odpoledne X_ {2} sim N (0,2)}$.
• Jejich produkt ${displaystyle Z = X_ {1} X_ {2}}$ následuje Distribuce produktu^[44] s funkcí hustoty ${displaystyle f_ {Z} (z) = pi ^ {- 1} K_ {0} (| z |)}$ kde ${displaystyle K_ {0}}$ je modifikovaná Besselova funkce druhého druhu. Toto rozdělení je symetrické kolem nuly, neomezené na ${displaystyle z = 0}$, a má charakteristická funkce ${displaystyle phi _ {Z} (t) = (1 + t ^ {2}) ^ {- 1/2}}$.
• Jejich poměr odpovídá standardu Cauchyovo rozdělení: ${displaystyle X_ {1} / X_ {2} sim operatorname {Cauchy} (0,1)}$.
• Jejich euklidovská norma ${displaystyle {sqrt {X_ {1} ^ {2} + X_ {2} ^ {2}}}}$ má Rayleighova distribuce.

Kombinace dvou nebo více nezávislých náhodných proměnných

• Li ${displaystyle X_ {1}, X_ {2}, ldots, X_ {n}}$ jsou nezávislé standardní normální náhodné proměnné, pak součet jejich čtverců má distribuce chí-kvadrát s ${displaystyle {ext {n}}}$ stupně svobody

${displaystyle X_ {1} ^ {2} + cdots + X_ {n} ^ {2} sim chi _ {n} ^ {2}.}$

• Li ${displaystyle X_ {1}, X_ {2}, ldots, X_ {n}}$ jsou nezávislé normálně distribuované náhodné proměnné s prostředky ${displaystyle mu}$ a odchylky ${displaystyle sigma ^ {2}}$, pak jejich průměr vzorku je nezávislá na vzorku standardní odchylka,^[45] které lze demonstrovat pomocí Basuova věta nebo Cochranova věta.^[46] Poměr těchto dvou veličin bude mít Studentova t-distribuce s ${displaystyle {ext {n}} - 1}$ stupně svobody:

${displaystyle t = {frac {{overline {X}} - mu} {S / {sqrt {n}}}} = {frac {{frac {1} {n}} (X_ {1} + cdots + X_ { n}) - mu} {sqrt {{frac {1} {n (n-1)}} vlevo [(X_ {1} - {overline {X}}) ^ {2} + cdots + (X_ {n} - {overline {X}}) ^ {2} ight]}}} sim t_ {n-1}.}$

• Li ${displaystyle X_ {1}, X_ {2}, ldots, X_ {n}}$, ${displaystyle Y_ {1}, Y_ {2}, ldots, Y_ {m}}$ jsou nezávislé standardní normální náhodné proměnné, pak poměr jejich normalizovaných součtů čtverců bude mít F-distribuce s (n, m) stupně svobody:^[47]