Křížová kovarianční matice - Cross-covariance matrix

v teorie pravděpodobnosti a statistika, a křížově kovarianční matice je matice jehož prvek v i, j pozice je kovariance mezi i-tý prvek a náhodný vektor a j-tý prvek jiného náhodného vektoru. Náhodný vektor je a náhodná proměnná s více rozměry. Každý prvek vektoru je a skalární náhodná proměnná. Každý prvek má buď konečný počet pozorováno empirické hodnoty nebo konečný nebo nekonečný počet potenciál hodnoty. Hodnoty potenciálu jsou specifikovány teoreticky společné rozdělení pravděpodobnosti. Intuitivně křížově kovarianční matice zobecňuje pojem kovariance na více dimenzí.

Křížově kovarianční matice dvou náhodných vektorů ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ je obvykle označeno ${displaystyle operatorname {K} _ {mathbf {X} mathbf {Y}}}$ nebo ${displaystyle Sigma _ {mathbf {X} mathbf {Y}}}$ .

Definice

Pro náhodné vektory ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ , z nichž každý obsahuje náhodné prvky jehož očekávaná hodnota a rozptyl existují křížově kovarianční matice z ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ je definováno^[1]^:333

{displaystyle operatorname {K} _ {mathbf {X} mathbf {Y}} = operatorname {cov} (mathbf {X}, mathbf {Y}) {stackrel {mathrm {def}} {=}} operatorname {E} [ (mathbf {X} -mathbf {mu _ {X}}) (mathbf {Y} -mathbf {mu _ {Y}}) ^ {m {T}}]}

(Rovnice 1)

kde ${displaystyle mathbf {mu _ {X}} = operatorname {E} [mathbf {X}]}$ a ${displaystyle mathbf {mu _ {Y}} = operatorname {E} [mathbf {Y}]}$ jsou vektory obsahující očekávané hodnoty ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ . Vektory ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ nemusí mít stejnou dimenzi a buď může být skalární hodnotou.

Křížově kovarianční matice je matice, jejíž ${displaystyle (i, j)}$ položka je kovariance

{displaystyle operatorname {K} _ {X_ {i} Y_ {j}} = operatorname {cov} [X_ {i}, Y_ {j}] = operatorname {E} [(X_ {i} -operatorname {E} [ X_ {i}]) (Y_ {j} -operatorname {E} [Y_ {j}])]}}

mezi i-tý prvek ${displaystyle mathbf {X}}$ a j-tý prvek ${displaystyle mathbf {Y}}$ . To dává následující komponentově definici křížově kovarianční matice.

{displaystyle operatorname {K} _ {mathbf {X} mathbf {Y}} = {egin {bmatrix} mathrm {E} [(X_ {1} -operatorname {E} [X_ {1}]) (Y_ {1} -operatorname {E} [Y_ {1}])] & mathrm {E} [(X_ {1} -operatorname {E} [X_ {1}]) (Y_ {2} -operatorname {E} [Y_ {2} ])] & cdots & mathrm {E} [(X_ {1} -operatorname {E} [X_ {1}]) (Y_ {n} -operatorname {E} [Y_ {n}])]] mathrm {E} [(X_ {2} -operatorname {E} [X_ {2}]) (Y_ {1} -operatorname {E} [Y_ {1}])] & mathrm {E} [(X_ {2} -operatorname {E } [X_ {2}]) (Y_ {2} -operatorname {E} [Y_ {2}])] & cdots & mathrm {E} [(X_ {2} -operatorname {E} [X_ {2}]) ( Y_ {n} -operatorname {E} [Y_ {n}])] vdots & vdots & ddots & vdots mathrm {E} [(X_ {m} -operatorname {E} [X_ {m}]) (Y_ { 1} -operatorname {E} [Y_ {1}])] & mathrm {E} [(X_ {m} -operatorname {E} [X_ {m}]) (Y_ {2} -operatorname {E} [Y_ { 2}])] & cdots & mathrm {E} [(X_ {m} -operatorname {E} [X_ {m}]) (Y_ {n} -operatorname {E} [Y_ {n}])]] konec {bmatrix} }}

Příklad

Například pokud ${displaystyle mathbf {X} = left (X_ {1}, X_ {2}, X_ {3} ight) ^ {m {T}}}$ a ${displaystyle mathbf {Y} = left (Y_ {1}, Y_ {2} ight) ^ {m {T}}}$ jsou tedy náhodné vektory ${displaystyle operatorname {cov} (mathbf {X}, mathbf {Y})}$ je ${displaystyle 3 imes 2}$ matice jehož ${displaystyle (i, j)}$ -tý záznam je ${displaystyle operatorname {cov} (X_ {i}, Y_ {j})}$ .

Vlastnosti

Pro křížově kovarianční matici platí následující základní vlastnosti:^[2]

${displaystyle operatorname {cov} (mathbf {X}, mathbf {Y}) = operatorname {E} [mathbf {X} mathbf {Y} ^ {m {T}}] - mathbf {mu _ {X}} mathbf { mu _ {Y}} ^ {m {T}}}$
${displaystyle operatorname {cov} (mathbf {X}, mathbf {Y}) = operatorname {cov} (mathbf {Y}, mathbf {X}) ^ {m {T}}}$
${displaystyle operatorname {cov} (mathbf {X_ {1}} + mathbf {X_ {2}}, mathbf {Y}) = operatorname {cov} (mathbf {X_ {1}}, mathbf {Y}) + operatorname { cov} (mathbf {X_ {2}}, mathbf {Y})}$
${displaystyle operatorname {cov} (Amathbf {X} + mathbf {a}, B ^ {m {T}} mathbf {Y} + mathbf {b}) = A, operatorname {cov} (mathbf {X}, mathbf { Y}), B}$
Li ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ jsou nezávislé (nebo poněkud méně omezené, pokud každá náhodná proměnná v ${displaystyle mathbf {X}}$ nekoreluje s každou náhodnou proměnnou v ${displaystyle mathbf {Y}}$ ), pak ${displaystyle operatorname {cov} (mathbf {X}, mathbf {Y}) = 0_ {p imes q}}$

kde ${displaystyle mathbf {X}}$ , ${displaystyle mathbf {X_ {1}}}$ a ${displaystyle mathbf {X_ {2}}}$ jsou náhodné ${displaystyle p imes 1}$ vektory, ${displaystyle mathbf {Y}}$ je náhodný ${displaystyle q imes 1}$ vektor, ${displaystyle mathbf {a}}$ je ${displaystyle q imes 1}$ vektor, ${displaystyle mathbf {b}}$ je ${displaystyle p imes 1}$ vektor, ${displaystyle A}$ a ${displaystyle B}$ jsou ${displaystyle q imes p}$ matice konstant a ${displaystyle 0_ {p imes q}}$ je ${displaystyle p imes q}$ matice nul.

Definice komplexních náhodných vektorů

Li ${displaystyle mathbf {Z}}$ a ${displaystyle mathbf {W}}$ jsou složité náhodné vektory, definice křížově kovarianční matice je mírně změněna. Transpozice je nahrazena Hermitova transpozice:

{displaystyle operatorname {K} _ {mathbf {Z} mathbf {W}} = operatorname {cov} (mathbf {Z}, mathbf {W}) {stackrel {mathrm {def}} {=}} operatorname {E} [ (mathbf {Z} -mathbf {mu _ {Z}}) (mathbf {W} -mathbf {mu _ {W}}) ^ {m {H}}]}

U složitých náhodných vektorů se další matice nazývala pseudo-křížově kovarianční matice je definována takto:

{displaystyle operatorname {J} _ {mathbf {Z} mathbf {W}} = operatorname {cov} (mathbf {Z}, {overline {mathbf {W}}}) {stackrel {mathrm {def}} {=}} operatorname {E} [(mathbf {Z} -mathbf {mu _ {Z}}) (mathbf {W} -mathbf {mu _ {W}}) ^ {m {T}}]}}

Nesoulad

Dva náhodné vektory ${displaystyle mathbf {X}}$ a ${displaystyle mathbf {Y}}$ se nazývají nesouvisí pokud jejich křížově kovarianční matice ${displaystyle operatorname {K} _ {mathbf {X} mathbf {Y}}}$ matice je nula.^[1]^:333

Složité náhodné vektory ${displaystyle mathbf {Z}}$ a ${displaystyle mathbf {W}}$ se nazývají nekorelované, pokud je jejich kovarianční matice a pseudovarianční matice nulová, tj. pokud ${displaystyle operatorname {K} _ {mathbf {Z} mathbf {W}} = operatorname {J} _ {mathbf {Z} mathbf {W}} = 0}$ .

Reference

^ ^A ^b Gubner, John A. (2006). Pravděpodobnost a náhodné procesy pro elektrotechnické a počítačové inženýry. Cambridge University Press. ISBN 978-0-521-86470-1.
^ Taboga, Marco (2010). „Přednášky o teorii pravděpodobnosti a matematické statistice“.

[Gubner-1] A ^b Gubner, John A. (2006). Pravděpodobnost a náhodné procesy pro elektrotechnické a počítačové inženýry. Cambridge University Press. ISBN 978-0-521-86470-1.

[taboga-2] Taboga, Marco (2010). „Přednášky o teorii pravděpodobnosti a matematické statistice“.

[1]

[2]

Korelace a kovariance
Část série na Statistika

Korelace a kovariance náhodných vektorů Autokorelační matice Matice vzájemné korelace Auto-kovarianční matice Křížová kovarianční matice
Korelace a kovariance stochastických procesů Funkce autokorelace Funkce vzájemné korelace Funkce autovariance Křížová kovarianční funkce
Korelace a kovariance deterministických signálů Funkce autokorelace Funkce vzájemné korelace Funkce autovariance Křížová kovarianční funkce