Jednosměrná analýza rozptylu - One-way analysis of variance

v statistika, jednosměrný analýza rozptylu (zkráceně jednosměrná ANOVA) je technika, kterou lze použít k porovnání průměrů dvou nebo více vzorků (pomocí F distribuce ). Tuto techniku lze použít pouze pro numerická data odezvy, „Y“, obvykle jednu proměnnou, a numerická nebo (obvykle) kategorická vstupní data, „X“, vždy jedna proměnná, tedy „jednosměrná“.^[1]

ANOVA testuje nulová hypotéza, který uvádí, že vzorky ve všech skupinách jsou odebírány z populací se stejnými průměrnými hodnotami. K tomu jsou provedeny dva odhady populační odchylky. Tyto odhady se opírají o různé předpoklady (viz. níže ). ANOVA produkuje F-statistiku, poměr rozptylu vypočítaného mezi průměrem k rozptylu ve vzorcích. Pokud jsou průměrné hodnoty skupiny čerpány z populací se stejnými průměrnými hodnotami, měla by být rozptyl mezi průměrnými hodnotami skupiny nižší než rozptyl vzorků po teorém centrálního limitu. Vyšší poměr tedy znamená, že vzorky byly odebrány z populací s různými průměrnými hodnotami.^[1]

Typicky se však jednosměrná ANOVA používá k testování rozdílů mezi nejméně třemi skupinami, protože případ dvou skupin lze pokrýt t-test (Gosset, 1908). Pokud existují pouze dva způsoby porovnání, pak t-test a F-test jsou ekvivalentní; vztah mezi ANOVA a t darováno F = t². Rozšíření jednosměrné ANOVA je obousměrná analýza rozptylu který zkoumá vliv dvou různých kategorických nezávislých proměnných na jednu závislou proměnnou.

Předpoklady

Výsledky jednosměrné ANOVA lze považovat za spolehlivé, pokud jsou splněny následující předpoklady:

Proměnná odezvy zbytky jsou normálně distribuováno (nebo přibližně normálně distribuované).
Rozdíly populací jsou stejné.
Odpovědi pro danou skupinu jsou nezávislé a identicky distribuované normální náhodné proměnné (ne a jednoduchý náhodný vzorek (SRS)).

Pokud jsou data pořadové číslo, měla by být použita neparametrická alternativa k tomuto testu, jako je Kruskal – Wallisova jednosměrná analýza rozptylu. Pokud není známo, že by odchylky byly stejné, zobecnění 2-vzorku Welchův t-test může být použito.^[2]

Odchylky od normality populace

ANOVA je relativně robustní postup, pokud jde o porušení předpokladu normality.^[3]

Jednosměrná ANOVA může být zobecněna na faktoriální a vícerozměrné rozložení, stejně jako na analýzu kovariance.^{[je zapotřebí objasnění ]}

V populární literatuře se často uvádí, že nic z toho F-testy jsou robustní pokud dojde k závažnému porušení předpokladu, že každá populace dodržuje normální distribuce, zejména pro malé úrovně alfa a nevyvážené rozvržení.^[4] Dále se rovněž tvrdí, že pokud je základním předpokladem homoscedasticity je porušena, Chyba typu I. vlastnosti degenerují mnohem vážněji.^[5]

Jedná se však o mylnou představu založenou na práci provedené v padesátých letech a dříve. Prvním komplexním vyšetřováním této záležitosti simulací Monte Carlo byl Donaldson (1966).^[6] Ukázal, že při obvyklých odchylkách (pozitivní odchylka, nerovné odchylky) „ F-test je konzervativní ", a proto je méně pravděpodobné, než by mělo být, aby se zjistilo, že proměnná je významná. Jak se však zvětšuje buď velikost vzorku nebo počet buněk," zdá se, že výkonové křivky konvergují k tomu na základě normální rozdělení ". Tiku (1971) zjistil, že„ nenormální teoretická síla F bylo zjištěno, že se liší od síly normální teorie korekčním členem, který prudce klesá s rostoucí velikostí vzorku. “^[7] Problém nenormality, zejména u velkých vzorků, je mnohem méně závažný, než by naznačovaly populární články.

Současný názor je, že „Studie Monte-Carlo byly rozsáhle používány s testy založenými na normálním rozdělení, aby se zjistilo, jak jsou citlivé na porušení předpokladu normálního rozdělení analyzovaných proměnných v populaci. Obecný závěr z těchto studií je, že důsledky takových porušení jsou méně závažné, než se dříve myslelo. Ačkoli by tyto závěry neměly nikoho úplně odradit od obav z předpokladu normality, zvýšily celkovou popularitu statistických testů závislých na distribuci ve všech oblastech výzkumu. “^[8]

Neparametrické alternativy ve faktoriálním rozvržení viz Sawilowsky.^[9] Další diskuse viz ANOVA v řadách.

Případ fixních efektů, plně randomizovaný experiment, nevyvážená data

Model

Normální lineární model popisuje skupiny ošetření s distribucí pravděpodobnosti, které jsou identickými křivkami ve tvaru zvonu (normální) s různými prostředky. Přizpůsobení modelů tedy vyžaduje pouze prostředky každé léčené skupiny a výpočet rozptylu (použije se průměrná odchylka v rámci léčených skupin). Výpočty průměrů a rozptylu se provádějí jako součást testu hypotézy.

Běžně používané normální lineární modely pro zcela randomizovaný experiment jsou:^[10]

{displaystyle y_ {i, j} = mu _ {j} + varepsilon _ {i, j}}

(model prostředků)

nebo

{displaystyle y_ {i, j} = mu + au _ {j} + varepsilon _ {i, j}}

(model efektů)

kde

{displaystyle i = 1, dotsc, I}

je index nad experimentálními jednotkami

{displaystyle j = 1, dotsc, J}

je index nad léčenými skupinami

{displaystyle I_ {j}}

je počet experimentálních jednotek v j. léčené skupině

{displaystyle I = součet _ {j} I_ {j}}

je celkový počet experimentálních jednotek

{displaystyle y_ {i, j}}

jsou pozorování

{displaystyle mu _ {j}}

je průměr z pozorování pro j. léčenou skupinu

{displaystyle mu}

je hlavní průměr pozorování

{displaystyle au _ {j}}

je j-tý efekt léčby, odchylka od velkého průměru

{displaystyle sum au _ {j} = 0}

{displaystyle mu _ {j} = mu + au _ {j}}

{displaystyle varepsilon hicksim N (0, sigma ^ {2})}

,

{displaystyle varepsilon _ {i, j}}

jsou obvykle distribuovány s nulovou střední hodnotou náhodných chyb.

Index ${displaystyle i}$ přes experimentální jednotky lze interpretovat několika způsoby. V některých experimentech je stejná experimentální jednotka podrobena řadě ošetření; ${displaystyle i}$ může ukazovat na konkrétní jednotku. V ostatních má každá skupina léčby odlišnou sadu experimentálních jednotek; ${displaystyle i}$ může jednoduše být indexem do ${displaystyle j}$ -tý seznam.

Údaje a statistické souhrny údajů

Jedna forma organizace experimentálních pozorování ${displaystyle y_ {ij}}$ je se skupinami ve sloupcích:

Organizace dat ANOVA, nevyvážená, jediný faktor
	Seznam skupinových pozorování
	${displaystyle I_ {1}}$	${displaystyle I_ {2}}$	${displaystyle I_ {3}}$	${displaystyle dotso}$	${displaystyle I_ {j}}$
1	${displaystyle y_ {11}}$	${displaystyle y_ {12}}$	${displaystyle y_ {13}}$		${displaystyle y_ {1j}}$
2	${displaystyle y_ {21}}$	${displaystyle y_ {22}}$	${displaystyle y_ {23}}$		${displaystyle y_ {2j}}$
3	${displaystyle y_ {31}}$	${displaystyle y_ {32}}$	${displaystyle y_ {33}}$		${displaystyle y_ {3j}}$
${displaystyle vdots}$					${displaystyle vdots}$
${displaystyle i}$	${displaystyle y_ {i1}}$	${displaystyle y_ {i2}}$	${displaystyle y_ {i3}}$	${displaystyle dotso}$	${displaystyle y_ {ij}}$

	Souhrnná statistika skupiny						Velká souhrnná statistika
# Pozorováno	${displaystyle I_ {1}}$	${displaystyle I_ {2}}$	${displaystyle dotso}$	${displaystyle I_ {j}}$	${displaystyle dotso}$	${displaystyle I_ {J}}$	# Pozorováno	${displaystyle I = součet I_ {j}}$
Součet				${displaystyle sum _ {i} y_ {ij}}$			Součet	${displaystyle sum _ {j} sum _ {i} y_ {ij}}$
Součet				${displaystyle sum _ {i} (y_ {ij}) ^ {2}}$			Součet	${displaystyle sum _ {j} sum _ {i} (y_ {ij}) ^ {2}}$
Znamenat	${displaystyle m_ {1}}$	${displaystyle dotso}$		${displaystyle m_ {j}}$	${displaystyle dotso}$	${displaystyle m_ {J}}$	Znamenat	${displaystyle m}$
Rozptyl	${displaystyle s_ {1} ^ {2}}$	${displaystyle dotso}$		${displaystyle s_ {j} ^ {2}}$	${displaystyle dotso}$	${displaystyle s_ {J} ^ {2}}$	Rozptyl	${displaystyle s ^ {2}}$

Porovnání modelu se souhrny: ${displaystyle mu = m}$ a ${displaystyle mu _ {j} = m_ {j}}$ . Velký průměr a velká odchylka se počítají z velkých součtů, nikoli ze skupinových průměrů a odchylek.

Test hypotézy

Vzhledem k souhrnným statistikám jsou výpočty testu hypotéz uvedeny v tabulkové formě. I když jsou pro vysvětlující hodnotu zobrazeny dva sloupce SS, k zobrazení výsledků je vyžadován pouze jeden sloupec.

Tabulka ANOVA pro fixní model, jeden faktor, plně randomizovaný experiment
Zdroj obměny	Součty čtverců	Součty čtverců	Stupně svobody	Střední čtverec	F
	Vysvětlující SS^[11]	Výpočetní SS^[12]	DF	SLEČNA
Ošetření	${displaystyle sum _ {Treatments} I_ {j} (m_ {j} -m) ^ {2}}$	${displaystyle sum _ {j} {frac {(sum _ {i} y_ {ij}) ^ {2}} {I_ {j}}} - {frac {(sum _ {j} sum _ {i} y_ { ij}) ^ {2}} {I}}}$	${displaystyle J-1}$	${displaystyle {frac {SS_ {Treatment}} {DF_ {Treatment}}}}$	${displaystyle {frac {MS_ {Treatment}} {MS_ {Error}}}}$
Chyba	${displaystyle sum _ {Treatments} (I_ {j} -1) s_ {j} ^ {2}}$	${displaystyle sum _ {j} sum _ {i} y_ {ij} ^ {2} -sum _ {j} {frac {(sum _ {i} y_ {ij}) ^ {2}} {I_ {j} }}}$	${displaystyle I-J}$	${displaystyle {frac {SS_ {Chyba}} {DF_ {Chyba}}}}$
Celkový	${displaystyle sum _ {Observations} (y_ {ij} -m) ^ {2}}$	${displaystyle sum _ {j} sum _ {i} y_ {ij} ^ {2} - {frac {(sum _ {j} sum _ {i} y_ {ij}) ^ {2}} {I}}}$	${displaystyle I-1}$

${displaystyle MS_ {Chyba}}$ je odhad odchylky odpovídající ${displaystyle sigma ^ {2}}$ modelu.

Shrnutí analýzy

Základní analýza ANOVA se skládá z řady výpočtů. Údaje jsou shromažďovány v tabulkové formě. Pak

Každá léčená skupina je shrnuta počtem experimentálních jednotek, dvěma součty, průměrem a rozptylem. Souhrny léčebných skupin jsou kombinovány, aby poskytly součty pro počet jednotek a součty. Velký průměr a velký rozptyl se počítají z velkých součtů. Léčba a velké prostředky jsou použity v modelu.
Ze souhrnů se počítají tři DF a SS. Poté se vypočítají MS a poměr určí F.
Počítač typicky určuje p-hodnotu z F, která určuje, zda léčba produkuje významně odlišné výsledky. Pokud je výsledek významný, pak má model prozatímně platnost.

Pokud je experiment vyvážený, všechny ${displaystyle I_ {j}}$ termíny jsou stejné, takže SS rovnice se zjednodušují.

Ve složitějším experimentu, kde experimentální jednotky (nebo vlivy prostředí) nejsou homogenní, se při analýze používají také statistické řádky. Model zahrnuje pojmy závislé na ${displaystyle i}$ . Stanovení dalších podmínek snižuje počet dostupných stupňů volnosti.

Příklad

Zvažte experiment ke studiu vlivu tří různých úrovní faktoru na reakci (např. Tři úrovně hnojiva na růst rostlin). Pokud bychom měli 6 pozorování pro každou úroveň, mohli bychom výsledek experimentu napsat do takové tabulky, kde A₁, A₂, a A₃ jsou tři úrovně studovaného faktoru.

A₁	A₂	A₃
6	8	13
8	12	9
4	9	11
5	11	8
3	6	7
4	8	12

Nulová hypotéza označená H₀, celkově F-test pro tento experiment by byl takový, že všechny tři úrovně faktoru produkují v průměru stejnou odezvu. Pro výpočet F-poměr:

Krok 1: Vypočítejte průměr v každé skupině:

{displaystyle {egin {aligned} {overline {Y}} _ {1} & = {frac {1} {6}} součet Y_ {1i} = {frac {6 + 8 + 4 + 5 + 3 + 4} { 6}} = 5 {overline {Y}} _ {2} & = {frac {1} {6}} součet Y_ {2i} = {frac {8 + 12 + 9 + 11 + 6 + 8} {6 }} = 9 {overline {Y}} _ {3} & = {frac {1} {6}} součet Y_ {3i} = {frac {13 + 9 + 11 + 8 + 7 + 12} {6} } = 10end {zarovnáno}}}

Krok 2: Vypočítejte celkový průměr:

{displaystyle {overline {Y}} = {frac {sum _ {i} {overline {Y}} _ {i}} {a}} = {frac {{overline {Y}} _ {1} + {overline { Y}} _ {2} + {overline {Y}} _ {3}} {a}} = {frac {5 + 9 + 10} {3}} = 8}

kde A je počet skupin.

Krok 3: Vypočítejte součet čtvercových rozdílů mezi skupinami:

{displaystyle {egin {aligned} S_ {B} & = n ({overline {Y}} _ {1} - {overline {Y}}) ^ {2} + n ({overline {Y}} _ {2} - {overline {Y}}) ^ {2} + n ({overline {Y}} _ {3} - {overline {Y}}) ^ {2} [8pt] & = 6 (5-8) ^ {2} +6 (9-8) ^ {2} +6 (10-8) ^ {2} = 84end {zarovnáno}}}

kde n je počet hodnot dat na skupinu.

Stupně volnosti mezi skupinami jsou o jeden menší než počet skupin

{displaystyle f_ {b} = 3-1 = 2}

střední hodnota čtverce mezi skupinami je

{displaystyle MS_ {B} = 84/2 = 42}

Krok 4: Vypočítejte součet čtverců v rámci skupiny. Začněte vycentrováním dat v každé skupině

A₁	A₂	A₃
6−5=1	8−9=−1	13−10=3
8−5=3	12−9=3	9−10=−1
4−5=−1	9−9=0	11−10=1
5−5=0	11−9=2	8−10=−2
3−5=−2	6−9=−3	7−10=−3
4−5=−1	8−9=−1	12−10=2

Součet čtverců v rámci skupiny je součtem čtverců všech 18 hodnot v této tabulce

{displaystyle {egin {aligned} S_ {W} = & (1) ^ {2} + (3) ^ {2} + (- 1) ^ {2} + (0) ^ {2} + (- 2) ^ {2} + (- 1) ^ {2} + & (- 1) ^ {2} + (3) ^ {2} + (0) ^ {2} + (2) ^ {2} + ( -3) ^ {2} + (- 1) ^ {2} + & (3) ^ {2} + (- 1) ^ {2} + (1) ^ {2} + (- 2) ^ { 2} + (- 3) ^ {2} + (2) ^ {2} = & 1 + 9 + 1 + 0 + 4 + 1 + 1 + 9 + 0 + 4 + 9 + 1 + 9 + 1 + 1 + 4 + 9 + 4 = & 68 end {zarovnáno}}}

Stupně svobody uvnitř skupiny jsou

{displaystyle f_ {W} = a (n-1) = 3 (6-1) = 15}

Střední hodnota čtverce ve skupině je tedy

{displaystyle MS_ {W} = S_ {W} / f_ {W} = 68/15 přibližně 4,5}

Krok 5: The F- poměr je

{displaystyle F = {frac {MS_ {B}} {MS_ {W}}} přibližně 42 / 4,5 přibl. 9,3}

Kritická hodnota je počet, který musí statistika testu překročit, aby byl test odmítnut. V tomto případě, F_krit(2,15) = 3,68 v α = 0,05. Od té doby F= 9,3> 3,68, výsledky jsou významný na 5% hladině významnosti. Jeden by odmítl nulovou hypotézu se závěrem, že existují silné důkazy o tom, že očekávané hodnoty ve třech skupinách se liší. The p-hodnota pro tento test je 0,002.

Po provedení F-test, je běžné provádět nějakou „post-hoc“ analýzu skupinových prostředků. V tomto případě se první dva skupinové prostředky liší o 4 jednotky, první a třetí skupina se liší o 5 jednotek a druhé a třetí skupiny se liší pouze o 1 jednotku. The standardní chyba každého z těchto rozdílů je ${displaystyle {sqrt {4.5 / 6 + 4.5 / 6}} = 1,2}$ . První skupina se tedy výrazně liší od ostatních skupin, protože průměrný rozdíl je vícekrát standardní chybou, takže si můžeme být velmi jisti, že průměr populace první skupiny se liší od populačních průměrů ostatních skupin. Neexistují však důkazy o tom, že by druhá a třetí skupina měly navzájem odlišné populační prostředky, protože jejich průměrný rozdíl jedné jednotky je srovnatelný se standardní chybou.

Poznámka F(X, y) označuje F-rozdělení kumulativní distribuční funkce s X stupně volnosti v čitateli a y stupně volnosti ve jmenovateli.

Viz také

Analýza rozptylu
F test (Zahrnuje jednosměrný příklad ANOVA)
Smíšený model
Vícerozměrná analýza rozptylu (MANOVA)
Opakovaná opatření ANOVA
Obousměrná ANOVA
Welchův t-test

Poznámky

^ ^A ^b Howell, David (2002). Statistické metody pro psychologii. Duxbury. str.324–325. ISBN 0-534-37770-X.
^ Welch, B.L. (1951). „O srovnání několika středních hodnot: alternativní přístup“. Biometrika. 38 (3/4): 330–336. doi:10.2307/2332579. JSTOR 2332579.
^ Kirk, RE (1995). Experimentální design: Postupy pro behaviorální vědy (3. vyd.). Pacific Grove, CA, USA: Brooks / Cole.
^ Blair, R. C. (1981). „Reakce na„ Důsledky nesplnění předpokladů, z nichž vychází analýza fixních účinků rozptylu a kovariance.'". Recenze pedagogického výzkumu. 51 (4): 499–507. doi:10.3102/00346543051004499.
^ Randolf, E. A .; Barcikowski, R. S. (1989). "Míra chyb typu I, když jsou skutečné hodnoty studie použity jako parametry populace ve studii Monte Carlo". Příspěvek prezentovaný na 11. výročním zasedání Mid-Western Educational Research Association v Chicagu.
^ Donaldson, Theodore S. (1966). „Síla F-testu pro nenormální distribuce a nerovnoměrné odchylky chyb“. Papír připravený pro projekt vzdušných sil Spojených států RAND.
^ Tiku, M. L. (1971). "Výkonová funkce F-Test v neobvyklých situacích “. Journal of the American Statistical Association. 66 (336): 913–916. doi:10.1080/01621459.1971.10482371.
^ „Archivovaná kopie“. Archivovány od originál dne 04.12.2018. Citováno 2016-09-22.CS1 maint: archivovaná kopie jako titul (odkaz)
^ Sawilowsky, S. (1990). "Neparametrické testy interakce v experimentálním designu". Recenze pedagogického výzkumu. 60 (1): 91–126. doi:10.3102/00346543060001091.
^ Montgomery, Douglas C. (2001). Návrh a analýza experimentů (5. vydání). New York: Wiley. p. Oddíl 3–2. ISBN 9780471316497.
^ Moore, David S .; McCabe, George P. (2003). Úvod do praxe statistiky (4. vydání). W H Freeman & Co. str. 764. ISBN 0716796570.
^ Winkler, Robert L .; Hays, William L. (1975). Statistika: Pravděpodobnost, závěr a rozhodnutí (2. vyd.). New York: Holt, Rinehart a Winston. p.761.

Další čtení

George Casella (18. dubna 2008). Statistický návrh. Springer. ISBN 978-0-387-75965-4.

[Howell_2002_324–325-1] A ^b Howell, David (2002). Statistické metody pro psychologii. Duxbury. str.324–325. ISBN 0-534-37770-X.

[Welch1951-2] Welch, B.L. (1951). „O srovnání několika středních hodnot: alternativní přístup“. Biometrika. 38 (3/4): 330–336. doi:10.2307/2332579. JSTOR 2332579.

[Kirk-3] Kirk, RE (1995). Experimentální design: Postupy pro behaviorální vědy (3. vyd.). Pacific Grove, CA, USA: Brooks / Cole.

[4] Blair, R. C. (1981). „Reakce na„ Důsledky nesplnění předpokladů, z nichž vychází analýza fixních účinků rozptylu a kovariance.'". Recenze pedagogického výzkumu. 51 (4): 499–507. doi:10.3102/00346543051004499.

[5] Randolf, E. A .; Barcikowski, R. S. (1989). "Míra chyb typu I, když jsou skutečné hodnoty studie použity jako parametry populace ve studii Monte Carlo". Příspěvek prezentovaný na 11. výročním zasedání Mid-Western Educational Research Association v Chicagu.

[6] Donaldson, Theodore S. (1966). „Síla F-testu pro nenormální distribuce a nerovnoměrné odchylky chyb“. Papír připravený pro projekt vzdušných sil Spojených států RAND.

[7] Tiku, M. L. (1971). "Výkonová funkce F-Test v neobvyklých situacích “. Journal of the American Statistical Association. 66 (336): 913–916. doi:10.1080/01621459.1971.10482371.

[8] „Archivovaná kopie“. Archivovány od originál dne 04.12.2018. Citováno 2016-09-22.CS1 maint: archivovaná kopie jako titul (odkaz)

[9] Sawilowsky, S. (1990). "Neparametrické testy interakce v experimentálním designu". Recenze pedagogického výzkumu. 60 (1): 91–126. doi:10.3102/00346543060001091.

[10] Montgomery, Douglas C. (2001). Návrh a analýza experimentů (5. vydání). New York: Wiley. p. Oddíl 3–2. ISBN 9780471316497.

[11] Moore, David S .; McCabe, George P. (2003). Úvod do praxe statistiky (4. vydání). W H Freeman & Co. str. 764. ISBN 0716796570.

[12] Winkler, Robert L .; Hays, William L. (1975). Statistika: Pravděpodobnost, závěr a rozhodnutí (2. vyd.). New York: Holt, Rinehart a Winston. p.761.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]