Analiza wariancji (ANOVA)

Czym jest analiza wariancji (ANOVA)?

Analiza wariancji (w skrócie ANOVA; Analysis of Variance) jest metodą statystyczną. Służy do sprawdzenia, czy między średnimi więcej niż dwóch grup występują statystycznie istotne różnice.

Do czego służy ANOVA?

• Masz trzy lub więcej grup (np. kilka klas, terapii albo produktów).
• Chcesz wiedzieć, czy wartości średnie rzeczywiście się różnią, czy też różnica wynika jedynie z przypadku.

Różnica względem testu t

• test t: porównuje dokładnie dwie grupy.
• ANOVA: porównuje więcej niż dwie grupy.

Rodzaje analizy wariancji

Istnieją różne formy. Najczęściej stosowane to:

• jednoczynnikowa ANOVA (1 czynnik)
• dwuczynnikowa ANOVA (2 czynniki)

Oba warianty występują również:

• z powtarzanymi pomiarami (te same osoby/obiekty są mierzone wielokrotnie)
• bez powtarzanych pomiarów (różne osoby/obiekty w każdej grupie)

• Jednoczynnikowa ANOVA
• Dwuczynnikowa ANOVA
• Jednoczynnikowa ANOVA z powtarzanymi pomiarami
• Dwuczynnikowa ANOVA z powtarzanymi pomiarami

Dlaczego nie obliczać wielu testów t?

ANOVA jest zwykle stosowana wtedy, gdy porównuje się co najmniej trzy grupy. Można by także obliczyć test t dla każdej kombinacji grup. Problem polega jednak na tym, że każdy test hipotez wiąże się z pewnym prawdopodobieństwem błędu. To prawdopodobieństwo błędu I rodzaju często ustala się na poziomie 5%. Przy wielu porównaniach rośnie ryzyko uzyskania co najmniej jednego wyniku fałszywie dodatniego.

Jeśli na przykład porównuje się 20 grup parami, wykonuje się aż 190 testów. Nawet gdy średnie w populacji są równe, łatwo wtedy przypadkowo uzyskać istotny wynik.

Różnica między jednoczynnikową a dwuczynnikową ANOVA

Jednoczynnikowa analiza wariancji sprawdza, czy średnia metrycznej zmiennej zależnej różni się między poziomami jednej zmiennej niezależnej. Tak jest na przykład wtedy, gdy badamy, czy średnie wynagrodzenie różni się zależnie od miejsca zamieszkania. Jeśli jednak uwzględnia się dwa czynniki, czyli dwie zmienne niezależne, należy zastosować dwuczynnikową analizę wariancji.

Dwuczynnikowa analiza wariancji sprawdza efekty dwóch czynników oraz ich interakcję.

Analiza wariancji z powtarzanymi pomiarami i bez nich

W zależności od tego, czy próba jest niezależna czy zależna, stosuje się analizę wariancji z powtarzanymi pomiarami albo bez nich. Jeśli ta sama osoba była badana w kilku punktach czasowych, próba jest próbą zależną i stosuje się analizę wariancji z powtarzanymi pomiarami.

Jednoczynnikowa ANOVA

Jednoczynnikowa analiza wariancji jest rozszerzeniem testu t dla grup niezależnych. Za pomocą testu t można porównać maksymalnie dwie grupy; tutaj rozszerza się to na więcej niż dwie grupy. Dla dwóch grup (k = 2) analiza wariancji jest zatem równoważna testowi t. Zmienna niezależna jest odpowiednio zmienną nominalną z co najmniej dwiema wartościami. Zmienna zależna jest mierzona na skali metrycznej. W analizie wariancji zmienna niezależna jest określana jako czynnik.

ANOVA porównuje wariancję między grupami z wariancją wewnątrz grup. Rozważmy następujący przykład.

Przykład jednoczynnikowej ANOVA

Za pomocą zmiennej niezależnej, np. „najwyższe wykształcenie”, z trzema kategoriami: grupa 1, grupa 2 i grupa 3, należy wyjaśnić możliwie dużą część wariancji zmiennej zależnej „wynagrodzenie”. Na poniższym wykresie w przypadku A) za pomocą trzech grup można wyjaśnić dużą część wariancji, a w przypadku B) tylko bardzo małą.

W przypadku A) grupy wyjaśniają dużą część zróżnicowania wynagrodzeń, a w przypadku B) tylko niewielką część.

W przypadku A) wartości w poszczególnych grupach tylko nieznacznie odbiegają od średniej grupowej, więc wariancja wewnątrz grup jest bardzo mała. W przypadku B) wariancja wewnątrz grup jest natomiast duża. Wariancja między grupami wygląda odwrotnie: jest duża w przypadku A) i mała w przypadku B). W przypadku B) średnie grupowe leżą blisko siebie, a w przypadku A) nie.

Hipotezy w analizie wariancji

Hipoteza zerowa i hipoteza alternatywna w jednoczynnikowej analizie wariancji są następujące:

• Hipoteza zerowa H₀: Średnie w populacji są równe we wszystkich grupach.
• Hipoteza alternatywna H₁: Nie wszystkie średnie w populacji są równe.

Wyniki ANOVA pozwalają jedynie stwierdzić, czy istnieją różnice między co najmniej dwiema grupami. Nie można jednak określić, które grupy dokładnie się różnią. Do ustalenia, które grupy różnią się między sobą, potrzebny jest test post-hoc. Do wyboru są różne metody, na przykład test Tukeya, korekta Bonferroniego i test Scheffego.

Przykładem jednoczynnikowej analizy wariancji byłoby zbadanie, czy dzienne spożycie kawy przez studentów różnych kierunków studiów różni się istotnie.

Założenia jednoczynnikowej analizy wariancji

• Poziom skali i niezależność: Poziom skali zmiennej zależnej musi być metryczny, natomiast zmienna niezależna musi być mierzona na skali nominalnej. Obserwacje powinny być od siebie niezależne.
• Homogeniczność: Wariancje w każdej grupie powinny być w przybliżeniu takie same. Można to sprawdzić testem Levene'a.
• Rozkład normalny: W każdej grupie rozkład wyników powinien być w przybliżeniu normalny. Jeśli to założenie jest wyraźnie naruszone, można rozważyć test Kruskala-Wallisa.

Jeśli próby nie są niezależne, lecz zależne, stosuje się jednoczynnikową analizę wariancji z powtarzanymi pomiarami.

ANOVA Welcha

Jeśli założenie homogeniczności wariancji nie jest spełnione, zamiast „zwykłej” ANOVA można obliczyć ANOVA Welcha. Jeśli test Levene'a wskazuje na istotne odchylenie wariancji w grupach, numiqo automatycznie dodatkowo oblicza ANOVA Welcha.

Wielkość efektu eta kwadrat (η²)

Najbardziej znanymi miarami wielkości efektu w analizie wariancji są eta kwadrat i cząstkowa eta kwadrat. W jednoczynnikowej ANOVA eta kwadrat i cząstkowa eta kwadrat są identyczne.

Eta kwadrat szacuje odsetek wyjaśnionej wariancji. W próbie wartość ta może być zawyżona. Eta kwadrat oblicza się, dzieląc sumę kwadratów między grupami przez całkowitą sumę kwadratów.

Dwuczynnikowa analiza wariancji

Dwuczynnikowa analiza wariancji

Jak sugeruje nazwa, dwuczynnikowa analiza wariancji bada wpływ dwóch czynników na zmienną zależną. Rozszerza to jednoczynnikową analizę wariancji o kolejny czynnik, czyli o kolejną nominalną zmienną niezależną. Pytanie ponownie brzmi, czy średnie grup różnią się istotnie.

Przykład z numiqo

Jednoczynnikowa analiza wariancji:

Chcesz sprawdzić, czy występuje różnica w spożyciu kawy między studentami różnych kierunków. W tym celu zapytaj 10 studentów z każdego kierunku studiów.

Po skopiowaniu powyższej tabeli do kalkulatora testów hipotez kliknij po prostu „Test hipotezy” i wybierz dwie zmienne (kierunek studiów i spożycie kawy). Wynik wygląda następująco:

Gdzie N oznacza liczbę przypadków w każdej kategorii, df to stopnie swobody, F to statystyka F z obliczonej analizy wariancji, a p to wartość p.