Cochransova věta - Cochrans theorem - Wikipedia

v statistika, Cochranova věta, vymyslel William G. Cochran,^[1] je teorém slouží k ospravedlnění výsledků týkajících se rozdělení pravděpodobnosti statistik, které se používají v analýza rozptylu.^[2]

Prohlášení

Předpokládat U₁, ..., U_N jsou i.i.d. Standard normálně distribuováno náhodné proměnné a existují pozitivní semidefinitní matice ${ displaystyle B ^ {(1)}, B ^ {(2)}, ldots, B ^ {(k)}}$, s ${ displaystyle sum _ {i = 1} ^ {k} B ^ {(i)} = I_ {N}}$. Dále předpokládejme, že ${ displaystyle r_ {1} + cdots + r_ {k} = N}$, kde r_i je hodnost z ${ displaystyle B ^ {(i)}}$. Pokud píšeme

${ displaystyle Q_ {i} = součet _ {j = 1} ^ {N} součet _ { ell = 1} ^ {N} U_ {j} B_ {j, ell} ^ {(i)} U _ { ell}}$

takže Q_i jsou kvadratické formy, pak Cochranova věta uvádí, že Q_i jsou nezávislý a každý Q_i má distribuce chí-kvadrát s r_i stupně svobody.^[1]

Méně formálně je to počet lineárních kombinací zahrnutých do součtu definujících čtverců Q_i, za předpokladu, že tyto lineární kombinace jsou lineárně nezávislé.

Důkaz

Nejprve ukážeme, že matice B⁽ⁱ⁾ může být současně diagonalizováno a že jejich nenulová vlastní čísla jsou všechny rovny +1. Poté použijeme vektorový základ které je diagonalizují, aby zjednodušily jejich charakteristická funkce a ukázat jejich nezávislost a distribuci.^[3]

Každá z matic B⁽ⁱ⁾ má hodnost r_i a tudíž r_i nenulový vlastní čísla. Pro každého i, součet ${ displaystyle C ^ {(i)} ekviv součet _ {j neq i} B ^ {(j)}}$ má nanejvýš hodnost ${ displaystyle sum _ {j neq i} r_ {j} = N-r_ {i}}$. Od té doby ${ displaystyle B ^ {(i)} + C ^ {(i)} = I_ {N krát N}}$, z toho vyplývá, že C⁽ⁱ⁾ má přesně hodnost N − r_i.

Proto B⁽ⁱ⁾ a C⁽ⁱ⁾ může být současně diagonalizováno. To lze ukázat první diagonalizací B⁽ⁱ⁾. Na tomto základě má formu:

${ displaystyle { begin {bmatrix} lambda _ {1} & 0 & 0 & cdots & cdots && 0 0 & lambda _ {2} & 0 & cdots & cdots && 0 0 & 0 & ddots &&&& vdots vdots & vdots && lambda _ {r_ {i}} && vdots & vdots &&& 0 & 0 & vdots &&&& ddots 0 & 0 & ldots &&& 0 end {bmatrix}}.}$

Tedy nižší ${ displaystyle (N-r_ {i})}$ řádky jsou nulové. Od té doby ${ displaystyle C ^ {(i)} = I-B ^ {(i)}}$, z toho vyplývá, že tyto řádky v C⁽ⁱ⁾ na tomto základě obsahují pravý blok, který je a ${ displaystyle (N-r_ {i}) krát (N-r_ {i})}$ unit matrix, s nulami ve zbytku těchto řádků. Ale od C⁽ⁱ⁾ má hodnost N − r_i, jinde to musí být nula. I na tomto základě je tedy diagonální. Z toho vyplývá, že všechny nenulové vlastní čísla oba B⁽ⁱ⁾ a C⁽ⁱ⁾ jsou +1. Výše uvedená analýza může být navíc opakována na diagonálním základě pro ${ displaystyle C ^ {(1)} = B ^ {(2)} + sum _ {j> 2} B ^ {(j)}}$. Na tomto základě ${ displaystyle C ^ {(1)}}$ je identita ${ displaystyle (N-r_ {1}) krát (N-r_ {1})}$ vektorový prostor, takže z toho vyplývá, že obojí B⁽²⁾ a ${ displaystyle sum _ {j> 2} B ^ {(j)}}$ jsou současně diagonalizovatelné v tomto vektorovém prostoru (a tedy také společně s B⁽¹⁾). Z iterace vyplývá, že vše B- jsou současně diagonalizovatelné.

Existuje tedy ortogonální matice ${ displaystyle S}$ takové, že pro všechny ${ displaystyle i}$, ${ displaystyle S ^ { mathrm {T}} B ^ {(i)} S ekviv B ^ {(i) prime}}$ je úhlopříčka, kde je jakýkoli záznam ${ displaystyle B_ {x, y} ^ {(i) prime}}$ s indexy ${ displaystyle x = y}$, ${ displaystyle sum _ {j = 1} ^ {i-1} r_ {j}$, se rovná 1, zatímco jakýkoli záznam s jinými indexy se rovná 0.

Nechat ${ displaystyle U_ {i} ^ { prime}}$ označit nějakou konkrétní lineární kombinaci všech ${ displaystyle U_ {i}}$ po transformaci ${ displaystyle S}$. Všimněte si, že ${ displaystyle sum _ {i = 1} ^ {N} (U_ {i} ^ { prime}) ^ {2} = sum _ {i = 1} ^ {N} U_ {i} ^ {2 }}$ z důvodu zachování délky ortogonální matice S, že Jacobian lineární transformace je matice spojená s lineární transformací samotnou a že determinant ortogonální matice má modul 1.

Charakteristická funkce Q_i je:

${ displaystyle { begin {seřazeno} varphi _ {i} (t) = {} & (2 pi) ^ {- N / 2} int du_ {1} int du_ {2} cdots int du_ {N} e ^ {itQ_ {i}} cdot e ^ {- u_ {1} ^ {2} / 2} cdot e ^ {- u_ {2} ^ {2} / 2} cdots e ^ {-u_ {N} ^ {2} / 2} = {} & (2 pi) ^ {- N / 2} left ( prod _ {j = 1} ^ {N} int du_ { j} right) e ^ {itQ_ {i}} cdot e ^ {- sum _ {j = 1} ^ {N} u_ {j} ^ {2} / 2} = {} & (2 pi) ^ {- N / 2} left ( prod _ {j = 1} ^ {N} int du_ {j} ^ { prime} right) e ^ {it cdot sum _ {m = r_ {1} + cdots + r_ {i-1} +1} ^ {r_ {1} + cdots + r_ {i}} (u_ {m} ^ { prime}) ^ {2}} cdot e ^ {- sum _ {j = 1} ^ {N} {u_ {j} ^ { prime}} ^ {2} / 2} = {} & (2 pi) ^ {- N / 2} left ( int e ^ {u ^ {2} (it - { frac {1} {2}})} du right) ^ {r_ {i}} left ( int e ^ { - { frac {u ^ {2}} {2}}} du right) ^ {N-r_ {i}} = {} & (1-2it) ^ {- r_ {i} / 2} end {zarovnáno}}}$

To je Fourierova transformace z distribuce chí-kvadrát s r_i stupně svobody. Toto je tedy distribuce Q_i.

Kromě toho je charakteristická funkce společného rozdělení všech Q_is je:

${ displaystyle { begin {aligned} varphi (t_ {1}, t_ {2}, ldots, t_ {k}) & = (2 pi) ^ {- N / 2} left ( prod _ {j = 1} ^ {N} int dU_ {j} vpravo) e ^ {i sum _ {i = 1} ^ {k} t_ {i} cdot Q_ {i}} cdot e ^ { - sum _ {j = 1} ^ {N} U_ {j} ^ {2} / 2} & = (2 pi) ^ {- N / 2} left ( prod _ {j = 1 } ^ {N} int dU_ {j} ^ { prime} vpravo) e ^ {i cdot sum _ {i = 1} ^ {k} t_ {i} sum _ {k = r_ {1 } + cdots + r_ {i-1} +1} ^ {r_ {1} + cdots + r_ {i}} (U_ {k} ^ { prime}) ^ {2}} cdot e ^ { - sum _ {j = 1} ^ {N} {U_ {j} ^ { prime}} ^ {2} / 2} & = (2 pi) ^ {- N / 2} prod _ {i = 1} ^ {k} left ( int e ^ {u ^ {2} (it_ {i} - { frac {1} {2}})} du right) ^ {r_ {i} } & = prod _ {i = 1} ^ {k} (1-2it_ {i}) ^ {- r_ {i} / 2} = prod _ {i = 1} ^ {k} varphi _ {i} (t_ {i}) end {zarovnáno}}}$

Z toho vyplývá, že všechny Q_ijsou nezávislé.

Příklady

Průměr vzorku a rozptyl vzorku

Li X₁, ..., X_n jsou nezávislé normálně distribuované náhodné proměnné s průměrem μ a směrodatná odchylka σ pak

${ displaystyle U_ {i} = { frac {X_ {i} - mu} { sigma}}}$

je standardní normální pro každého i. Všimněte si, že celkem Q se rovná součtu čtverců Us, jak je znázorněno zde:

${ displaystyle sum _ {i} Q_ {i} = sum _ {ijk} U_ {j} B_ {jk} ^ {(i)} U_ {k} = sum _ {jk} U_ {j} U_ {k} sum _ {i} B_ {jk} ^ {(i)} = sum _ {jk} U_ {j} U_ {k} delta _ {jk} = sum _ {j} U_ {j } ^ {2}}$

který vychází z původního předpokladu, že ${ displaystyle B_ {1} + B_ {2} ldots = I}$.Takže místo toho toto množství vypočítáme a později rozdělíme na Q_ije. Je možné psát

${ displaystyle sum _ {i = 1} ^ {n} U_ {i} ^ {2} = sum _ {i = 1} ^ {n} left ({ frac {X_ {i} - { overline {X}}} { sigma}} right) ^ {2} + n left ({ frac {{ overline {X}} - mu} { sigma}} right) ^ {2} }$

(tady ${ displaystyle { overline {X}}}$ je průměr vzorku ). Chcete-li zobrazit tuto identitu, vynásobte ji ${ displaystyle sigma ^ {2}}$ a všimněte si toho

${ displaystyle sum (X_ {i} - mu) ^ {2} = sum (X_ {i} - { overline {X}} + { overline {X}} - mu) ^ {2} }$

a rozšířit dávat

${ displaystyle sum (X_ {i} - mu) ^ {2} = sum (X_ {i} - { overline {X}}) ^ {2} + sum ({ overline {X}} - mu) ^ {2} +2 sum (X_ {i} - { overline {X}}) ({ overline {X}} - mu).}$

Třetí člen je nula, protože se rovná konstantním časům

${ displaystyle sum ({ overline {X}} - X_ {i}) = 0,}$

a druhý termín má právě n shodné pojmy. Tím pádem

${ displaystyle sum (X_ {i} - mu) ^ {2} = sum (X_ {i} - { overline {X}}) ^ {2} + n ({ overline {X}} - mu) ^ {2},}$

a tudíž

${ displaystyle sum left ({ frac {X_ {i} - mu} { sigma}} right) ^ {2} = sum left ({ frac {X_ {i} - { overline {X}}} { sigma}} right) ^ {2} + n left ({ frac {{ overline {X}} - mu} { sigma}} right) ^ {2} = overbrace { sum _ {i} left (U_ {i} - { frac {1} {n}} sum _ {j} {U_ {j}} right) ^ {2}} ^ {Q_ {1}} + overbrace {{ frac {1} {n}} left ( sum _ {j} {U_ {j}} right) ^ {2}} ^ {Q_ {2}} = Q_ {1} + Q_ {2}.}$

Nyní ${ displaystyle B ^ {(2)} = { frac {J_ {n}} {n}}}$ s ${ displaystyle J_ {n}}$ the matice jedniček který má pořadí 1. Na druhé straně ${ displaystyle B ^ {(1)} = I_ {n} - { frac {J_ {n}} {n}}}$ vzhledem k tomu ${ displaystyle I_ {n} = B ^ {(1)} + B ^ {(2)}}$. Tento výraz lze získat také rozšířením ${ displaystyle Q_ {1}}$ v maticové notaci. Je možné ukázat, že hodnost ${ displaystyle B ^ {(1)}}$ je ${ displaystyle n-1}$ protože přidání všech jeho řádků se rovná nule. Tím jsou splněny podmínky pro Cochranovu větu.

Cochranova věta to pak uvádí Q₁ a Q₂ jsou nezávislé, s distribucí chí-kvadrát s n - 1 a 1 stupeň volnosti. To ukazuje, že vzorek znamená a rozptyl vzorku jsou nezávislé. To může zobrazit také Basuova věta a ve skutečnosti tato vlastnost charakterizuje normální rozdělení - pro žádné jiné rozdělení není průměr vzorku a rozptyl vzorku nezávislý.^[4]

Distribuce

Výsledek distribucí je zapsán symbolicky jako

${ displaystyle sum left (X_ {i} - { overline {X}} right) ^ {2} sim sigma ^ {2} chi _ {n-1} ^ {2}.}$

${ displaystyle n ({ overline {X}} - mu) ^ {2} sim sigma ^ {2} chi _ {1} ^ {2},}$

Obě tyto náhodné proměnné jsou úměrné skutečné, ale neznámé odchylce σ². Jejich poměr tedy nezávisí na σ² a protože jsou statisticky nezávislé. Rozdělení jejich poměru je dáno vztahem

${ displaystyle { frac {n left ({ overline {X}} - mu right) ^ {2}} {{ frac {1} {n-1}} sum left (X_ {i } - { overline {X}} right) ^ {2}}} sim { frac { chi _ {1} ^ {2}} {{ frac {1} {n-1}} chi _ {n-1} ^ {2}}} sim F_ {1, n-1}}$

kde F_1,n − 1 je F-distribuce s 1 a n - 1 stupeň volnosti (viz také Studentova t-distribuce ). Posledním krokem je zde efektivně definice náhodné proměnné s F-distribucí.

Odhad rozptylu

Odhadnout rozptyl σ², jeden odhad, který se někdy používá, je maximální pravděpodobnost odhad rozptylu normálního rozdělení

${ displaystyle { widehat { sigma}} ^ {2} = { frac {1} {n}} sum left (X_ {i} - { overline {X}} right) ^ {2} .}$

Cochranova věta to ukazuje

${ displaystyle { frac {n { widehat { sigma}} ^ {2}} { sigma ^ {2}}} sim chi _ {n-1} ^ {2}}$

a vlastnosti distribuce chí-kvadrát to ukazují

${ displaystyle { begin {zarovnáno} E left ({ frac {n { widehat { sigma}} ^ {2}} { sigma ^ {2}}} right) & = E left ( chi _ {n-1} ^ {2} right) { frac {n} { sigma ^ {2}}} E left ({ widehat { sigma}} ^ {2} right) & = (n-1) E left ({ widehat { sigma}} ^ {2} right) & = { frac { sigma ^ {2} (n-1)} {n}} end {zarovnáno}}}$

Alternativní formulace

Následující verze je často vidět při zvažování lineární regrese.^[5] Předpokládejme to ${ displaystyle Y sim N_ {n} (0, sigma ^ {2} I_ {n})}$ je standard vícerozměrný normální náhodný vektor (tady ${ displaystyle I_ {n}}$ označuje n-podle-n matice identity ), a pokud ${ displaystyle A_ {1}, ldots, A_ {k}}$ všichni jsou n-podle-n symetrické matice s ${ displaystyle sum _ {i = 1} ^ {k} A_ {i} = I_ {n}}$. Pak na definování ${ displaystyle r_ {i} = operatorname {Rank} (A_ {i})}$, některá z následujících podmínek implikuje další dvě:

• ${ displaystyle sum _ {i = 1} ^ {k} r_ {i} = n,}$
• ${ displaystyle Y ^ {T} A_ {i} Y sim sigma ^ {2} chi _ {r_ {i}} ^ {2}}$ (tedy ${ displaystyle A_ {i}}$ jsou pozitivní semidefinit )
• ${ displaystyle Y ^ {T} A_ {i} Y}$ je nezávislý na ${ displaystyle Y ^ {T} A_ {j} Y}$ pro ${ displaystyle i neq j.}$

Viz také

• Cramérova věta, o rozkladu normální distribuce
• Nekonečná dělitelnost (pravděpodobnost)

tento článek potřebuje další citace pro ověření. Prosím pomozte vylepšit tento článek podle přidávání citací ke spolehlivým zdrojům. Zdroj bez zdroje může být napaden a odstraněn. Najít zdroje: „Cochranova věta“  – zprávy  · noviny  · knihy  · učenec  · JSTOR (Červenec 2011) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

Reference