Kuchařská vzdálenost - Cooks distance - Wikipedia

v statistika, Cookova vzdálenost nebo Cookovy D je běžně používaný odhad vliv datového bodu při provádění nejmenších čtverců regresní analýza.^[1] V praxi obyčejné nejmenší čtverce Analýza, Cookova vzdálenost může být použita několika způsoby: k označení vlivných datových bodů, které stojí za to zkontrolovat platnost; nebo k označení oblastí návrhového prostoru, kde by bylo dobré získat více datových bodů. Je pojmenována po americkém statistikovi R. Dennis Cook, který představil koncept v roce 1977.^[2][3]

Definice

Datové body s velkými zbytky (odlehlé hodnoty ) a / nebo vysoká vliv může zkreslit výsledek a přesnost regrese. Cookova vzdálenost měří účinek vymazání daného pozorování. Body s velkou Cookovou vzdáleností jsou považovány za zásluhy bližšího prozkoumání v analýze.

Pro algebraický výraz nejprve definujte

${ displaystyle { underset {n times 1} { mathbf {y}}} = { underset {n times p} { mathbf {X}}} quad { underset {p times 1} { boldsymbol { beta}}} quad + quad { podmnožina {n krát 1} { boldsymbol { varepsilon}}}}$

kde ${ displaystyle { boldsymbol { varepsilon}} sim { mathcal {N}} vlevo (0, sigma ^ {2} mathbf {I} vpravo)}$ je chybový termín, ${ displaystyle { boldsymbol { beta}} = left [ beta _ {0} , beta _ {1} dots beta _ {p-1} right]}$ je matice koeficientu, ${ displaystyle p}$ je počet kovariancí nebo prediktorů pro každé pozorování a ${ displaystyle mathbf {X}}$ je návrhová matice včetně konstanty. The nejmenší čtverce odhadovatel pak je ${ displaystyle mathbf {b} = left ( mathbf {X} ^ { mathsf {T}} mathbf {X} right) ^ {- 1} mathbf {X} ^ { mathsf {T} } mathbf {y}}$, a následně přizpůsobené (předpokládané) hodnoty pro průměr z ${ displaystyle mathbf {y}}$ jsou

${ displaystyle mathbf { widehat {y}} = mathbf {X} mathbf {b} = mathbf {X} vlevo ( mathbf {X} ^ { mathsf {T}} mathbf {X} right) ^ {- 1} mathbf {X} ^ { mathsf {T}} mathbf {y} = mathbf {H} mathbf {y}}$

kde ${ displaystyle mathbf {H} equiv mathbf {X} ( mathbf {X} ^ { mathsf {T}} mathbf {X}) ^ {- 1} mathbf {X} ^ { mathsf { T}}}$ je projekční matice (nebo klobouková matice). The ${ displaystyle i}$-tý diagonální prvek ${ displaystyle mathbf {H} ,}$, dána ${ displaystyle h_ {ii} equiv mathbf {x} _ {i} ^ { mathsf {T}} ( mathbf {X} ^ { mathsf {T}} mathbf {X}) ^ {- 1 } mathbf {x} _ {i}}$,^[4] je známý jako vliv z ${ displaystyle i}$-té pozorování. Podobně ${ displaystyle i}$-tý prvek zbytkového vektoru ${ displaystyle mathbf {e} = mathbf {y} - mathbf { widehat {y ,}} = left ( mathbf {I} - mathbf {H} right) mathbf {y}}$ je označen ${ displaystyle e_ {i}}$.

Cookova vzdálenost ${ displaystyle D_ {i}}$ pozorování ${ displaystyle i ; ({ text {pro}} i = 1, tečky, n)}$ je definován jako součet všech změn v regresním modelu při pozorování ${ displaystyle i}$ je z ní odstraněn^[5]

${ displaystyle D_ {i} = { frac { sum _ {j = 1} ^ {n} left ({ widehat {y ,}} _ {j} - { widehat {y ,}} _ {j (i)} vpravo) ^ {2}} {ps ^ {2}}}}$

kde ${ displaystyle { widehat {y ,}} _ {j (i)}}$ je hodnota přizpůsobené odezvy získaná při vyloučení ${ displaystyle i}$, a ${ displaystyle s ^ {2} = { frac { mathbf {e} ^ { top} mathbf {e}} {n-p}}}$ je střední čtvercová chyba regresního modelu.^[6]

Ekvivalentně to lze vyjádřit pomocí pákového efektu^[5] (${ displaystyle h_ {ii}}$):

${ displaystyle D_ {i} = { frac {e_ {i} ^ {2}} {ps ^ {2}}} left [{ frac {h_ {ii}} {(1-h_ {ii}) ^ {2}}} vpravo].}$

Detekce vysoce vlivných pozorování

Existují různé názory na to, jaké mezní hodnoty se mají použít pro vysoce špinění vlivné body. Protože Cookova vzdálenost je v metrice F rozdělení s ${ displaystyle p}$ a ${ displaystyle n-p}$ (jak je definováno pro konstrukční matici ${ displaystyle mathbf {X}}$ výše) stupně volnosti, střední bod (tj. ${ displaystyle F_ {0,5} (p, n-p)}$) lze použít jako rozhraní.^[7] Protože tato hodnota je blízko 1 pro velké ${ displaystyle n}$, jednoduchá provozní směrnice z ${ displaystyle D_ {i}> 1}$ bylo navrženo.^[8]Mějte na paměti, že Cookova míra vzdálenosti ne vždy správně identifikuje vlivná pozorování.^[9]

Vztah k dalším vlivovým opatřením (a interpretaci)

${ displaystyle D_ {i}}$ lze vyjádřit pomocí Vliv^[5] (${ displaystyle 0 leq h_ {ii} leq 1}$) a čtverec vnitřně Studentizovaný zbytek (${ displaystyle 0 leq t_ {i} ^ {2}}$), jak následuje:

${ displaystyle { begin {aligned} D_ {i} & = { frac {e_ {i} ^ {2}} {ps ^ {2}}} left [{ frac {h_ {ii}} {( 1-h_ {ii}) ^ {2}}} right] = { frac {1} {p}} { frac {e_ {i} ^ {2}} {{1 over np} sum _ {j = 1} ^ {n} { widehat { varepsilon ,}} _ {j} ^ {, 2} (1-h_ {ii})}} left [{ frac {h_ {ii} } {(1-h_ {ii})}} right] & = left [{ frac {1} {p}} right] t_ {i} ^ {2} { frac {h_ {ii }} {1-h_ {ii}}}. End {zarovnáno}}}$

Výhodou poslední formulace je, že jasně ukazuje vztah mezi ${ displaystyle t_ {i} ^ {2}}$ a ${ displaystyle h_ {ii}}$ na ${ displaystyle D_ {i}}$ (zatímco p a n jsou stejná pro všechna pozorování). Li ${ displaystyle t_ {i} ^ {2}}$ je pak velký (pro neextrémní hodnoty ${ displaystyle h_ {ii}}$) se zvýší ${ displaystyle D_ {i}}$. Li ${ displaystyle h_ {ii}}$ je blízko 0 než ${ displaystyle D_ {i}}$ bude malý, i když pokud ${ displaystyle h_ {ii}}$ je tedy téměř 1 ${ displaystyle D_ {i}}$ bude velmi velký (pokud ${ displaystyle t_ {i} ^ {2}> 0}$tj. že pozorování ${ displaystyle i}$ není přesně na regresní přímce, která byla namontována bez pozorování ${ displaystyle i}$).

${ displaystyle D_ {i}}$ je spojen s ZÁVADY prostřednictvím následujícího vztahu (všimněte si, že ${ displaystyle {{ widehat { sigma}} přes { widehat { sigma}} _ {(i)}} t_ {i} = t_ {i (i)}}$ je navenek studentizovaný zbytek a ${ displaystyle { widehat { sigma}}, { widehat { sigma}} _ {(i)}}$ jsou definovány tady ):

${ displaystyle { begin {aligned} D_ {i} & = left [{ frac {1} {p}} right] t_ {i} ^ {2} { frac {h_ {ii}} {1 -h_ {ii}}} & = left [{ frac {1} {p}} right] {{ widehat { sigma}} _ {(i)} ^ {2} over { widehat { sigma}} ^ {2}} {{ widehat { sigma}} ^ {2} over { widehat { sigma}} _ {(i)} ^ {2}} t_ {i} ^ {2} { frac {h_ {ii}} {1-h_ {ii}}} = left [{ frac {1} {p}} right] {{ widehat { sigma}} _ {( i)} ^ {2} přes { widehat { sigma}} ^ {2}} vlevo (t_ {i (i)} { sqrt { frac {h_ {ii}} {1-h_ {ii }}}} right) ^ {2} & = left [{ frac {1} {p}} right] {{ widehat { sigma}} _ {(i)} ^ {2} over { widehat { sigma}} ^ {2}} { text {DFFITS}} ^ {2} end {zarovnáno}}}$

${ displaystyle D_ {i}}$ lze interpretovat jako vzdálenost, kterou se odhady pohybují v rámci elipsoidu spolehlivosti, který představuje oblast věrohodných hodnot parametrů.^{[je zapotřebí objasnění ]} To ukazuje alternativní, ale ekvivalentní zastoupení Cookovy vzdálenosti, pokud jde o změny v odhadech regresních parametrů mezi případy, kdy je konkrétní pozorování buď zahrnuto, nebo vyloučeno z regresní analýzy.

Softwarové implementace

Mnoho programů a statistických balíčků, například R, Krajta atd., zahrnují implementace Cookovy vzdálenosti.

Rozšíření

Měření vysokého dimenzionálního vlivu (HIM) je alternativou k Cookově vzdálenosti, kdy ${ displaystyle p> n}$ (tj .: více prediktorů než pozorování).^[10] Zatímco Cookova vzdálenost kvantifikuje vliv individuálního pozorování na odhad koeficientu regrese nejmenších čtverců, HIM měří vliv pozorování na mezní korelace.

Viz také

• Odlehlá
• Pákový efekt (statistika)
• Částečná páka
• ZÁVADY
• Studentizovaný zbytek

Reference

Další čtení

• Atkinson, Anthony; Riani, Marco (2000). „Diagnostika smazání“. Robustní diagnostika a regresní analýza. New York: Springer. s. 22–25. ISBN  0-387-95017-6.
• Heiberger, Richard M .; Holland, Burt (2013). „Statistika případů“. Statistická analýza a zobrazení dat. Springer Science & Business Media. 312–27. ISBN  9781475742848.
• Krasker, William S .; Kuh, Edwin; Welsch, Roy E. (1983). Msgstr "Odhad pro špinavá data a chybné modely". Příručka ekonometrie. 1. Elsevier. 651–698. doi:10.1016 / S1573-4412 (83) 01015-6. ISBN  9780444861856.
• Aguinis, Herman; Gottfredson, Ryan K .; Joo, Harry (2013). „Doporučení osvědčených postupů pro definování identifikace a zpracování odlehlých hodnot“. Metody organizačního výzkumu. Šalvěj. 16 (2): 270–301. doi:10.1177/1094428112470848. S2CID  54916947. Citováno 4. prosince 2015.