ANOVA dla grup niezależnych
Kiedy stosować ten test:
Jednoczynnikowa analiza wariancji (ANOVA) dla grup niezależnych, zaproponowana przez Ronalda Fishera, pozwala sprawdzić, czy średnia wartość badanej cechy jest taka sama w co najmniej trzech niezależnych od siebie populacjach (np. grupach pacjentów, wariantach produktu, firmach). Test wskazuje jedynie, czy takie różnice w ogóle istnieją – nie mówi, między którymi konkretnie grupami występują; do tego służą testy POST-HOC, opisane w kolejnym rozdziale.
Warunki stosowania
- pomiar na skali interwałowej,
- normalność rozkładu badanej zmiennej w każdej populacji,
- model niezależny,
- równość wariancji badanej zmiennej we wszystkich populacjach.
Gdy założenie równości wariancji nie jest spełnione, stosuje się ANOVA dla grup niezależnych z korektą \(F^*\) i \(F''\).
Jak ustawić analizę
Statystyka \(\to\) Testy parametryczne \(\to\) ANOVA dla grup niezależnych (lub poprzez Kreator).

Wykonanie i interpretacja
Przykład 1. (plik wiek ANOVA.pqs)
W pewnym doświadczeniu bierze udział 150 osób wybranych w sposób losowy z populacji pracowników 3 różnych firm przewozowych. Z każdej firmy do próby wybrano 50 osób. Przed przystąpieniem do eksperymentu należy sprawdzić czy średni wiek pracowników tych firm jest podobny, od tego bowiem zależeć będzie kolejny etap eksperymentu. Wiek każdego uczestnika eksperymentu zapisano w latach.
Wiek (przewoźnik 1): 27, 33, 25, 32, 34, 38, 31, 34, 20, 30, 30, 27, 34, 32, 33, 25, 40, 35, 29, 20, 18, 28, 26, 22, 24, 24, 25, 28, 32, 32, 33, 32, 34, 27, 34, 27, 35, 28, 35, 34, 28, 29, 38, 26, 36, 31, 25, 35, 41, 37
Wiek (przewoźnik 2): 38, 34, 33, 27, 36, 20, 37, 40, 27, 26, 40, 44, 36, 32, 26, 34, 27, 31, 36, 36, 25, 40, 27, 30, 36, 29, 32, 41, 49, 24, 36, 38, 18, 33, 30, 28, 27, 26, 42, 34, 24, 32, 36, 30, 37, 34, 33, 30, 44, 29
Wiek (przewoźnik 3): 34, 36, 31, 37, 45, 39, 36, 34, 39, 27, 35, 33, 36, 28, 38, 25, 29, 26, 45, 28, 27, 32, 33, 30, 39, 40, 36, 33, 28, 32, 36, 39, 32, 39, 37, 35, 44, 34, 21, 42, 40, 32, 30, 23, 32, 34, 27, 39, 37, 35
Przed przystąpieniem do analizy ANOVA potwierdzono normalność rozkładu danych. W oknie analizy sprawdzono również założenie równości wariancji, uzyskując w obydwu testach \(p>0.05\).

Na podstawie samego wyniku ANOVA nie wiemy jednak, które konkretnie firmy różnią się między sobą pod względem wieku pracowników – odpowiedzi na to pytanie udziela analiza POST-HOC, opisana w kolejnym rozdziale.
Dokładny opis danych możemy przedstawić, wybierając w oknie analizy statystyki opisowe 

Definicje miar
Cząstkowa \(\eta^2\) – miara wielkości efektu określająca, jaka część zmienności badanej cechy wynika z przynależności do porównywanych grup (czynnika), a jaka pozostaje niewyjaśniona. Im wyższa wartość, tym silniejszy jest związek pomiędzy przynależnością do grupy a wynikiem badanej cechy.
Hipotezy:
gdzie \(\mu_1\),\(\mu_2\),...,\(\mu_k\) – średnie badanej zmiennej w populacjach, z których pobrano próby.
Wzory:
Statystyka testowa ma postać:
gdzie:
\(\displaystyle MS_{BG} = \frac{SS_{BG}}{df_{BG}}\) – średnia kwadratów między grupami,
\(\displaystyle MS_{WG} = \frac{SS_{WG}}{df_{WG}}\) – średnia kwadratów wewnątrz grup,
\(\displaystyle SS_{BG} = \sum_{j=1}^k{\frac{\left(\sum_{i=1}^{n_j}x_{ij}\right)^2}{n_j}}-\frac{\left(\sum_{j=1}^k{\sum_{i=1}^{n_j}x_{ij}}\right)^2}{N}\) – suma kwadratów między grupami,
\(\displaystyle SS_{WG} = SS_{T}-SS_{BG}\) – suma kwadratów wewnątrz grup,
\(\displaystyle SS_{T} = \left(\sum_{j=1}^k{\sum_{i=1}^{n_j}x_{ij}^2}\right)-\frac{\left(\sum_{j=1}^k{\sum_{i=1}^{n_j}x_{ij}}\right)^2}{N}\) – całkowita suma kwadratów,
\(df_{BG}=k-1\) – stopnie swobody (między grupami),
\(df_{WG}=df_{T}-df_{BG}\) – stopnie swobody (wewnątrz grup),
\(df_{T}=N-1\) – całkowite stopnie swobody,
\(N=\sum_{j=1}^k n_j\),
\(n_j\) – liczności prób dla \((j=1,2,...k)\),
\(x_{ij}\) – wartości zmiennej w próbach dla \((i=1,2,...n_j)\), \((j=1,2,...k)\).
Statystyka ta podlega rozkładowi F Snedecora z \(df_{BG}\) i \(df_{WG}\) stopniami swobody.
Wyznaczoną na podstawie statystyki testowej wartość \(p\) porównujemy z poziomem istotności \(\alpha\): gdy \(p \le \alpha\), odrzucamy \(\mathcal{H}_0\) na rzecz \(\mathcal{H}_1\); gdy \(p > \alpha\), nie ma podstaw, aby odrzucić \(\mathcal{H}_0\).
Cząstkowa \(\eta^2\)
Kontrasty i testy POST-HOC
Kiedy stosować ten test:
Wynik ANOVA informuje jedynie o tym, czy pomiędzy badanymi populacjami istnieją istotne statystycznie różnice – nie wskazuje, które konkretnie grupy się różnią. Odpowiedzi na to pytanie dostarczają porównania wielokrotne: kontrasty (gdy porównania są zaplanowane z góry, zwykle tylko wybrane, tzw. a'priori) lub testy POST-HOC (gdy różnic szukamy dopiero po wykonanej ANOVA, zwykle pomiędzy wszystkimi możliwymi parami grup).
Warunki stosowania
- wcześniej wykonana ANOVA dla grup niezależnych wykazała istotną statystycznie różnicę,
- wybór metody zależy od spełnienia założenia równości wariancji: testy LSD Fishera, Scheffego i Tukeya stosuje się, gdy wariancje nie różnią się istotnie.
Dla grup o istotnie różnych wariancjach stosuje się metody opisane w rozdziale ANOVA dla grup niezależnych z korektą \(F^*\) i \(F''\).
Jak ustawić analizę
Testy POST-HOC ustawiamy w tym samym oknie opcji, w którym uruchamiana jest ANOVA dla grup niezależnych.
.Wykonanie i interpretacja
Grupy jednorodne
Dla każdego testu post-hoc budowane są grupy jednorodne. Każda grupa jednorodna przedstawia zbiór grup, które nie różnią się od siebie w sposób istotny statystycznie. Na przykład, załóżmy, że podzieliliśmy badanych na sześć grup odnośnie statusu palenia: Nonsmokers (NS), Passive smokers (PS), Noninhaling smokers (NI), Light smokers (LS), Moderate smokers (MS), Heavy smokers (HS) i badamy dla nich parametry wydechowe. W przeprowadzonej analizie typu ANOVA uzyskaliśmy istotne statystycznie różnice w parametrach wydechowych pomiędzy badanymi grupami. Chcąc wskazać, które grupy różnią się istotnie, a które nie, wykonujemy testy typu post-hoc. W rezultacie oprócz tabeli z wynikami poszczególnych par porównań i podanej istotności statystycznej w postaci wartości \(p\):

uzyskujemy podział na grupy jednorodne:

W tym przypadku uzyskano 4 grupy jednorodne, tzn. A, B, C i D, co wskazuje na możliwość przeprowadzania badania w oparciu o mniejszy podział, tzn. zamiast sześciu grup, które badaliśmy pierwotnie, można prowadzić dalsze analizy w oparciu o cztery wyznaczone tu grupy jednorodne. Kolejność grup ustalona została na podstawie średnich ważonych wyliczonych dla poszczególnych grup jednorodnych, w taki sposób, by litera A przypisana została do grupy o najniższej średniej ważonej, a dalsze litery alfabetu – kolejno do grup o coraz wyższych średnich.

Kontynuacja przykładu 1 (plik wiek ANOVA.pqs): ANOVA wykazała istotną statystycznie różnicę średniego wieku pracowników trzech firm przewozowych (\(p=0.0051\)). Sprawdzamy teraz, które konkretnie firmy różnią się między sobą wiekiem pracowników, wykonując test POST-HOC Tukeya.

Najmniejsza istotna różnica (NIR) wyznaczona dla każdej pary porównań jest taka sama (ponieważ liczności grup są sobie równe) i wynosi 2.7309. Porównanie wartości NIR z wartością różnicy średnich wskazuje, że istotne różnice występują tylko pomiędzy wartością średnią dla wieku pracowników pierwszej i trzeciej firmy przewozowej (tylko w przypadku porównania tych dwóch grup wartość NIR jest mniejsza od różnicy średnich). Ten sam wniosek wyciągniemy, porównując wartości \(p\) testu POST-HOC z poziomem istotności \(\alpha=0.05\). Pracownicy pierwszej firmy są młodsi średnio o nieco ponad 3 lata od pracowników trzeciej firmy. Uzyskano dwie, zazębiające się grupy jednorodne, które zaznaczono również na wykresie.

Test dla trendu. Jeśli oprócz samego istnienia różnic między grupami interesuje nas, czy średnie zmieniają się zgodnie z określonym, uporządkowanym trendem (np. rosną lub maleją wraz z kolejnymi grupami), można wykorzystać wariant testów POST-HOC oparty na kontrastach – tzw. test dla trendu. Uruchamiamy go w tym samym oknie opcji co pozostałe testy POST-HOC, wskazując oczekiwaną kolejność grup. Konstrukcję kontrastów trendu oraz wzór statystyki testowej opisano w części „Dla zainteresowanych”.
Wzory:
Liczba wszystkich możliwych porównań prostych wyliczana jest z wzoru:
Kontrasty
Porównania w ramach kontrastów i testów POST-HOC zapisuje się w postaci hipotez.
Przykład 1 – porównania proste (porównanie pomiędzy sobą 2 wybranych średnich):
\(\begin{array}{cc} \mathcal{H}_0: & \mu_1=\mu_2,\\ \mathcal{H}_1: & \mu_1 \neq \mu_2. \end{array}\)
Przykład 2 – porównania złożone (porównanie kombinacji wybranych średnich):
\(\begin{array}{cc} \mathcal{H}_0: & \mu_1=\frac{\mu_2+\mu_3}{2},\\[0.1cm] \mathcal{H}_1: & \mu_1\neq\frac{\mu_2+\mu_3}{2}. \end{array}\)
By można było zdefiniować wybrane hipotezy, należy dla każdej średniej przypisać wartość kontrastu \(c_j\), \((j=1,2,...k)\). Wartości \(c_j\) są tak wybierane, by ich sumy dla porównywanych stron były liczbami przeciwnymi, a ich wartość dla średnich nie biorących udziału w analizie wynosiła 0.
- Przykład 1: \(c_1=1\), \(c_2=-1\), \(c_3=0, ...c_k=0\).
- Przykład 2: \(c_1=2\), \(c_2=-1\), \(c_3=-1\), \(c_4=0\),..., \(c_k=0\).
Wyboru właściwej hipotezy możemy dokonać:
- \(\mathfrak{(i)}\) Porównując różnicę wybranych średnich z najmniejszą istotną różnicą (NIR) wyznaczoną odpowiednim testem POST-HOC: gdy różnica średnich \(\ge NIR\), odrzucamy \(\mathcal{H}_0\) na rzecz \(\mathcal{H}_1\); gdy różnica średnich \(< NIR\), nie ma podstaw, aby odrzucić \(\mathcal{H}_0\).
- \(\mathfrak{(ii)}\) Porównując wyznaczoną na podstawie statystyki testowej odpowiedniego testu POST-HOC wartość \(p\) z \(\alpha\): gdy \(p \le \alpha\), odrzucamy \(\mathcal{H}_0\) na rzecz \(\mathcal{H}_1\); gdy \(p > \alpha\), nie ma podstaw, aby odrzucić \(\mathcal{H}_0\).
Test LSD Fishera
Dla porównań prostych i złożonych, zarówno równolicznych jak i różnolicznych grup, gdy wariancje nie różnią się istotnie.
- \(\mathfrak{(i)}\)
Wartość najmniejszej istotnej różnicy wyliczana jest z wzoru:
\[ NIR=\sqrt{F_{\alpha,1,df_{WG}}}\cdot \sqrt{\left(\sum_{j=1}^k \frac{c_j^2}{n_j}\right)MS_{WG}}, \]gdzie \(F_{\alpha,1,df_{WG}}\) to wartość krytyczna (statystyka) rozkładu F Snedecora dla zadanego poziomu istotności \(\alpha\) oraz dla stopni swobody odpowiednio: 1 i \(df_{WG}\).
- \(\mathfrak{(ii)}\)
Statystyka testowa ma postać:
\[ t=\frac{\sum_{j=1}^k c_j\overline{x}_j}{\sqrt{\left(\sum_{j=1}^k \frac{c_j^2}{n_j}\right)MS_{WG}}}. \]Statystyka ta podlega rozkładowi \(t\)-Studenta z \(df_{WG}\) stopniami swobody.
Test Scheffego
Dla porównań prostych zarówno równolicznych jak i różnolicznych grup, gdy wariancje nie różnią się istotnie.
- \(\mathfrak{(i)}\)
Wartość najmniejszej istotnej różnicy wyliczana jest z wzoru:
\[ NIR=\sqrt{F_{\alpha,df_{BG},df_{WG}}}\cdot \sqrt{(k-1)\left(\sum_{j=1}^k \frac{c_j^2}{n_j}\right)MS_{WG}}, \]gdzie \(F_{\alpha,df_{BG},df_{WG}}\) to wartość krytyczna (statystyka) rozkładu F Snedecora dla zadanego poziomu istotności \(\alpha\) oraz \(df_{BG}\) i \(df_{WG}\) stopni swobody.
- \(\mathfrak{(ii)}\)
Statystyka testowa ma postać:
\[ F=\frac{\left(\sum_{j=1}^k c_j\overline{x}_j\right)^2}{(k-1)\left(\sum_{j=1}^k \frac{c_j^2}{n_j}\right)MS_{WG}}. \]Statystyka ta podlega rozkładowi F Snedecora z \(df_{BG}\) i \(df_{WG}\) stopniami swobody.
Test Tukeya
Dla porównań prostych zarówno równolicznych jak i różnolicznych grup, gdy wariancje nie różnią się istotnie.
- \(\mathfrak{(i)}\)
Wartość najmniejszej istotnej różnicy wyliczana jest z wzoru:
\[ NIR=\frac{\sqrt{2}\cdot q_{\alpha,df_{WG},k} \cdot \sqrt{\left(\sum_{j=1}^k \frac{c_j^2}{n_j}\right)MS_{WG}}}{2}, \]gdzie \(q_{\alpha,df_{WG},k}\) to wartość krytyczna (statystyka) rozkładu studentyzowanego rozstępu dla zadanego poziomu istotności \(\alpha\) oraz \(df_{WG}\) i \(k\) stopni swobody.
- \(\mathfrak{(ii)}\)
Statystyka testowa ma postać:
\[ q=\sqrt{2}\frac{\sum_{j=1}^k c_j\overline{x}_j}{\sqrt{\left(\sum_{j=1}^k \frac{c_j^2}{n_j}\right)MS_{WG}}}. \]Statystyka ta podlega rozkładowi studentyzowanego rozstępu z \(df_{WG}\) i \(k\) stopniami swobody.
Info. Algorytm obliczania wartości \(p\) i statystyki rozkładu studentyzowanego rozstępu w PQStat bazuje na pracy Lunda (1983)[108]. Inne programy lub strony internetowe mogą wyliczać nieco inne wartości niż PQStat, gdyż mogą bazować na mniej precyzyjnych lub bardziej restrykcyjnych algorytmach (Copenhaver i Holland (1988), Gleason (1999)).
Test dla trendu
Test badający istnienie trendu może być wyliczany w takiej samej sytuacji jak ANOVA dla zmiennych niezależnych, gdyż bazuje na tych samych założeniach, inaczej jednak ujmuje hipotezę alternatywną – wskazując w niej na istnienie trendu wartości średnich dla kolejnych populacji. Analiza trendu w ułożeniu średnich oparta jest na kontrastach LSD Fishera. Budując odpowiednie kontrasty, można badać dowolny rodzaj trendu, np. liniowy, kwadratowy, sześcienny itd. Poniżej znajduje się tabela przykładowych wartości kontrastów dla wybranych trendów.
| Kontrast | |||||||||||
| Liczba grup | Trend | \(c_1\) | \(c_2\) | \(c_3\) | \(c_4\) | \(c_5\) | \(c_6\) | \(c_7\) | \(c_8\) | \(c_9\) | \(c_{10}\) |
| 3 | liniowy | -1 | 0 | 1 | |||||||
| kwadratowy | 1 | -2 | 1 | ||||||||
| 4 | liniowy | -3 | -1 | 1 | 3 | ||||||
| kwadratowy | 1 | -1 | -1 | 1 | |||||||
| sześcienny | -1 | 3 | -3 | 1 | |||||||
| 5 | liniowy | -2 | -1 | 0 | 1 | 2 | |||||
| kwadratowy | 2 | -1 | -2 | -1 | 2 | ||||||
| sześcienny | -1 | 2 | 0 | -2 | 1 | ||||||
| 6 | liniowy | -5 | -3 | -1 | 1 | 3 | 5 | ||||
| kwadratowy | 5 | -1 | -4 | -4 | -1 | 5 | |||||
| sześcienny | -5 | 7 | 4 | -4 | -7 | 5 | |||||
| 7 | liniowy | -3 | -2 | -1 | 0 | 1 | 2 | 3 | |||
| kwadratowy | 5 | 0 | -3 | -4 | -3 | 0 | 5 | ||||
| sześcienny | -1 | 1 | 1 | 0 | -1 | -1 | 1 | ||||
| 8 | liniowy | -7 | -5 | -3 | -1 | 1 | 3 | 5 | 7 | ||
| kwadratowy | 7 | 1 | -3 | -5 | -5 | -3 | 1 | 7 | |||
| sześcienny | -7 | 5 | 7 | 3 | -3 | -7 | -5 | 7 | |||
| 9 | liniowy | -4 | -3 | -2 | -1 | 0 | 1 | 2 | 3 | 4 | |
| kwadratowy | 28 | 7 | -8 | -17 | -20 | -17 | -8 | 7 | 28 | ||
| sześcienny | -14 | 7 | 13 | 9 | 0 | -9 | -13 | -7 | 14 | ||
| 10 | liniowy | -9 | -7 | -5 | -3 | -1 | 1 | 3 | 5 | 7 | 9 |
| kwadratowy | 6 | 2 | -1 | -3 | -4 | -4 | -3 | -1 | 2 | 6 | |
| sześcienny | -42 | 14 | 35 | 31 | 12 | -12 | -31 | -35 | -14 | 42 | |
Trend liniowy
Trend liniowy, tak jak pozostałe trendy, możemy analizować, wpisując odpowiednie wartości kontrastów. Jeśli jednak znany jest kierunek trendu liniowego, wystarczy skorzystać z opcji Trend liniowy i wskazać oczekiwaną kolejność populacji, przypisując im kolejne liczby naturalne. Analiza przeprowadzana jest w oparciu o kontrast liniowy, czyli wskazanym według naturalnego uporządkowania grupom przypisane są odpowiednie wartości kontrastu i wyliczona zostaje statystyka LSD Fishera.
Przy znanym oczekiwanym kierunku trendu hipoteza alternatywna jest jednostronna i interpretacji podlega jednostronna wartość \(p\). Interpretacja dwustronnej wartości \(p\) oznacza, że badacz nie zna (nie zakłada) kierunku ewentualnego trendu.
Wyznaczoną na podstawie statystyki testowej wartość \(p\) porównujemy z \(\alpha\): gdy \(p \le \alpha\), odrzucamy \(\mathcal{H}_0\) na rzecz \(\mathcal{H}_1\); gdy \(p > \alpha\), nie ma podstaw, aby odrzucić \(\mathcal{H}_0\).
PQStat