Wielowymiarowe modele regresji dają możliwość badania wpływu wielu zmiennych niezależnych (wielu czynników) oraz ich interakcji na jedną zmienną zależną. Poprzez modele wielowymiarowe możliwe jest również budowanie jednocześnie wielu uproszczonych modeli – modeli jednowymiarowych (jednoczynnikowych). Informacja o tym, jaki model chcemy budować (wieloczynnikowy czy jednoczynnikowy) widoczna jest w oknie wybranej analizy. Przy jednoczesnym wyborze wielu zmiennych niezależnych w oknie analizy możliwe jest dokonanie wyboru modelu.

Przygotowanie zmiennych do analizy w modelach wielowymiarowych

Kodowanie zmiennych w modelach wielowymiarowych

Kiedy stosować:

Problemem w przygotowaniu danych do analizy wielowymiarowej jest odpowiednie zakodowanie zmiennych nominalnych i porządkowych. Jest to ważny element przygotowania danych do analizy, gdyż ma zasadniczy wpływ na interpretację współczynników modelu. Zmienne nominalne lub porządkowe dzielą analizowane obiekty na dwie lub więcej kategorii, przy czym zmienne dychotomiczne (o dwóch kategoriach, \(k=2\)) wystarczy tylko odpowiednio zakodować, a zmienne o wielu kategoriach (\(k>2\)) rozbić na zmienne fikcyjne (ang. dummy variable) o dwóch kategoriach oraz zakodować.

Jak ustawić analizę

\(k=2\)

Jeśli zmienna jest dychotomiczna, badacz sam decyduje o sposobie, w jaki wprowadzi dane ją reprezentujące, może więc wprowadzić dowolne kody liczbowe, np. 0 i 1. W programie można zmienić własne kodowanie na kodowanie efektu, zaznaczając tę opcję w oknie wybranej analizy wielowymiarowej. Kodowanie takie powoduje zastąpienie mniejszej wartości wartością -1, a wartości większej wartością 1.

\(k>2\)

Jeśli zmienna ma wiele kategorii, to w oknie wybranej analizy wielowymiarowej wybieramy przycisk Zmienne fikcyjne i ustawiamy kategorię referencyjną/bazową dla tych zmiennych, które chcemy rozbić na zmienne fikcyjne. Zmienne te będą zakodowane zero-jedynkowo, chyba że w oknie analizy zostanie wybrana opcja kodowanie efektu – wówczas kodowane będą jako -1, 0 i 1.

Definicje miar

Kodowanie zero-jedynkowe (dummy coding)

jest wykorzystywane, by przy pomocy modeli wielowymiarowych odpowiedzieć na pytanie: jak wyniki (\(Y\)), w każdej analizowanej kategorii, różnią się od wyników kategorii referencyjnej. Kodowanie to polega na przypisaniu wartości 0 lub 1 do każdej kategorii danej zmiennej. Kategoria zakodowana jako 0 jest wówczas kategorią referencyjną (reference).

\(k=2\)

Gdy kodowana zmienna jest dychotomiczna, wówczas umieszczając ją w modelu regresji, uzyskamy wyliczony dla niej współczynnik (\(b_i\)). Współczynnik ten jest odniesieniem wartości zmiennej zależnej \(Y\) dla kategorii 1 do kategorii referencyjnej (w korekcji o pozostałe zmienne w modelu).

\(k>2\)

Gdy analizowana zmienna ma więcej niż dwie kategorie, wówczas \(k\) kategorii jest reprezentowanych przez \(k-1\) zmiennych fikcyjnych (dummy variables) o kodowaniu zero-jedynkowym. Tworząc zmienne o kodowaniu zero-jedynkowym, wybiera się kategorię, dla której nie tworzy się zmiennej fikcyjnej. Kategoria ta traktowana jest w modelach jako kategoria odniesienia (gdyż w każdej zmiennej zakodowanej w sposób zero-jedynkowy odpowiadają jej wartości 0).
[0.2cm] Gdy tak uzyskane zmienne \(X_1, X_2, ..., X_{k-1}\) o kodowaniu zero-jedynkowym zostaną umieszczone w modelu regresji, wówczas zostaną dla nich wyliczone współczynniki \(b_1, b_2, ..., b_{k-1}\).

\(b_1\)

to odniesienie wyników \(Y\) (dla kodów 1 w \(X_1\)) do kategorii referencyjnej (w korekcji o pozostałe zmienne w modelu);

\(b_2\)

to odniesienie wyników \(Y\) (dla kodów 1 w \(X_2\)) do kategorii referencyjnej (w korekcji o pozostałe zmienne w modelu);

...

\(b_{k-1}\)

to odniesienie wyników \(Y\) (dla kodów 1 w \(X_{k-1}\)) do kategorii referencyjnej (w korekcji o pozostałe zmienne w modelu).

Przykład
Zakodujemy zgodnie z kodowaniem zero-jedynkowym zmienną płeć o dwóch kategoriach (płeć męską wybierzemy jako kategorię referencyjną) i zmienną wykształcenie o 4 kategoriach (wykształcenie podstawowe wybierzemy jako referencyjne).

	Zakodowana
Płeć	płeć
k	1
k	1
k	1
m	0
m	0
k	1
k	1
m	0
m	0
k	1
m	0
k	1
m	0
k	1
m	0
m	0
...	...

	Zakodowane wykształcenie
Wykształcenie	zawodowe	średnie	wyższe
podstawowe	0	0	0
podstawowe	0	0	0
podstawowe	0	0	0
zawodowe	1	0	0
zawodowe	1	0	0
zawodowe	1	0	0
zawodowe	1	0	0
średnie	0	1	0
średnie	0	1	0
średnie	0	1	0
średnie	0	1	0
wyższe	0	0	1
wyższe	0	0	1
wyższe	0	0	1
wyższe	0	0	1
wyższe	0	0	1
...	...	...	...

Budując na podstawie zmiennych fikcyjnych, w modelu regresji wielorakiej, moglibyśmy chcieć sprawdzić, jak zmienne te wpływają na pewną zmienną zależną, np. \(Y\) = wysokość zarobków (wyrażoną w tysiącach złotych). W wyniku takiej analizy dla każdej zmiennej fikcyjnej uzyskamy przykładowe współczynniki:
– dla płci istotny statystycznie współczynnik \(b_{i}=-0.5\) – co oznacza, że średnie zarobki kobiet są o pół tysiąca złotych niższe niż mężczyzn, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla wykształcenia zawodowego istotny statystycznie współczynnik \(b_{i}=0.6\) – co oznacza, że średnie zarobki osób z wykształceniem zawodowym są o 0.6 tysiąca złotych wyższe niż dla osób z wykształceniem podstawowym, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla wykształcenia średniego istotny statystycznie współczynnik \(b_{i}=1\) – oznacza, że średnie zarobki osób z wykształceniem średnim są o tysiąc złotych wyższe niż dla osób z wykształceniem podstawowym, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla wykształcenia wyższego istotny statystycznie współczynnik \(b_{i}=1.5\) – co oznacza, że średnie zarobki osób z wykształceniem wyższym są o 1.5 tysiąca wyższe niż dla osób z wykształceniem podstawowym, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie.

Kodowanie efektów (effect coding)

jest wykorzystywane, by przy pomocy modeli wielowymiarowych odpowiedzieć na pytanie: jak wyniki (\(Y\)), w każdej analizowanej kategorii, różnią się od wyników średniej (nieważonej) uzyskanej z próby. Kodowanie to polega na przypisaniu wartości -1 lub 1 do każdej kategorii danej zmiennej. Kategoria zakodowana jako -1 jest wówczas kategorią bazową (base).

\(k=2\)

Gdy kodowana zmienna jest dychotomiczna, wówczas umieszczając ją w modelu regresji, uzyskamy wyliczony dla niej współczynnik (\(b_i\)). Współczynnik ten jest odniesieniem \(Y\) dla kategorii 1 do nieważonej średniej ogólnej (w korekcji o pozostałe zmienne w modelu).

Gdy analizowana zmienna ma więcej niż dwie kategorie, wówczas \(k\) kategorii jest reprezentowanych przez \(k-1\) zmiennych fikcyjnych o kodowaniu efektu. Tworząc zmienne o kodowaniu efektu, wybiera się kategorię, dla której nie tworzy się oddzielnej zmiennej. Kategoria ta traktowana jest w modelach jako kategoria bazowa (gdyż w każdej zmiennej zapisanej poprzez kodowanie efektu odpowiadają jej wartości -1).
[0.2cm] Gdy tak uzyskane zmienne \(X_1, X_2, ..., X_{k-1}\) o kodowaniu efektu zostaną umieszczone w modelu regresji, wówczas zostaną dla nich wyliczone współczynniki \(b_1, b_2, ..., b_{k-1}\).

\(b_1\)

to odniesienie wyników \(Y\) (dla kodów 1 w \(X_1\)) do nieważonej średniej ogólnej (w korekcji o pozostałe zmienne w modelu);

\(b_2\)

to odniesienie wyników \(Y\) (dla kodów 1 w \(X_2\)) do nieważonej średniej ogólnej (w korekcji o pozostałe zmienne w modelu);

...

\(b_{k-1}\)

to odniesienie wyników \(Y\) (dla kodów 1 w \(X_{k-1}\)) do nieważonej średniej ogólnej (w korekcji o pozostałe zmienne w modelu).

Przykład
Zakodujemy przy pomocy kodowania efektu zmienną płeć o dwóch kategoriach (płeć męską wybierzemy jako kategorię bazową) i zmienną wskazującą region zamieszkania na terenie analizowanego kraju. Wyróżniono 5 regionów: północny, południowy, wschodni, zachodni i centralny – region centralny wybierzemy jako bazowy.

	Zakodowana
Płeć	płeć
k	1
k	1
k	1
m	-1
m	-1
k	1
k	1
m	-1
m	-1
k	1
m	-1
k	1
m	-1
k	1
m	-1
m	-1
...	...

Region	Zakodowany region
zamieszkania	zachodni	wschodni	północny	południowy
centralny	-1	-1	-1	-1
centralny	-1	-1	-1	-1
centralny	-1	-1	-1	-1
zachodni	1	0	0	0
zachodni	1	0	0	0
zachodni	1	0	0	0
zachodni	1	0	0	0
wschodni	0	1	0	0
wschodni	0	1	0	0
wschodni	0	1	0	0
wschodni	0	1	0	0
północny	0	0	1	0
północny	0	0	1	0
południowy	0	0	0	1
południowy	0	0	0	1
południowy	0	0	0	1
...	...	...	...	...

Budując na podstawie zmiennych fikcyjnych, w modelu regresji wielorakiej, moglibyśmy chcieć sprawdzić jak zmienne te wpływają na pewną zmienną zależną np. \(Y\) = wysokość zarobków (wyrażoną w tysiącach złotych). W wyniku takiej analizy dla każdej zmiennej fikcyjnej uzyskamy przykładowe współczynniki:
– dla płci istotny statystycznie współczynnik \(b_{i}=-0.5\) – co oznacza, że średnie zarobki kobiet są o pół tysiąca złotych niższe niż średnie zarobki w kraju, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla regionu zachodniego istotny statystycznie współczynnik \(b_{i}=0.6\) – co oznacza, że średnie zarobki osób zamieszkujących na zachodzie kraju są o 0.6 tysiąca złotych wyższe niż średnie zarobki w kraju, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla regionu wschodniego istotny statystycznie współczynnik \(b_{i}=-1\) – oznacza, że średnie zarobki osób zamieszkujących na wschodzie kraju są o tysiąc złotych niższe niż średnie zarobki w kraju, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla regionu północnego istotny statystycznie współczynnik \(b_{i}=0.4\) – co oznacza, że średnie zarobki osób zamieszkujących na północy są o 0.4 tysiąca wyższe niż średnie zarobki w kraju, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie;
– dla regionu południowego nieistotny statystycznie współczynnik \(b_{i}=0.1\) – co oznacza, że średnie zarobki osób zamieszkujących na południu nie różnią się istotnie od średnich zarobków w kraju, przy założeniu że pozostałe zmienne w modelu pozostają na stałym poziomie.

Interakcje

Interakcje rozważane są w modelach wielowymiarowych, a ich występowanie oznacza, że wpływ zmiennej niezależnej (\(X_1\)) na zmienną zależną (\(Y\)) jest inny w zależności od poziomu kolejnej zmiennej niezależnej (\(X_2\)) lub szeregu kolejnych zmiennych niezależnych. By można było rozważać interakcje w modelach wielowymiarowych, należy wskazać zmienne mówiące o prawdopodobnych interakcjach, czyli iloczyny odpowiednich zmiennych. W tym celu wybieramy przycisk Interakcje w oknie wybranej analizy wielowymiarowej. W oknie ustawiania interakcji, z wciśniętym przyciskiem CTRL, wskazujemy zmienne, które mają tworzyć interakcje, i przenosimy je do sąsiedniej listy przy pomocy strzałki. Uruchamiając przycisk OK, uzyskujemy odpowiednie kolumny w arkuszu danych.

W modelach z interakcjami należy pamiętać o odpowiednim ich „przycinaniu”, tak by usuwając efekty główne, usunąć również efekty rzędów wyższych, które są od nich zależne. To znaczy: jeśli w modelu mamy następujące zmienne (efekty główne): \(X_1\), \(X_2\), \(X_3\) i interakcje: \(X_1*X_2\), \(X_1*X_3\), \(X_2*X_3\), \(X_1*X_2*X_3\), to usuwając z modelu zmienną \(X_1\), musimy usunąć również te interakcje, w których ona występuje, czyli: \(X_1*X_2\), \(X_1*X_3\) oraz \(X_1*X_2*X_3\).