Porównywanie modeli regresji logistycznej mieszanej

Kiedy stosować:

Porównywanie modeli służy do wyboru zestawu zmiennych niezależnych (efektów stałych), tak jak w porównywaniu modeli regresji logistycznej: porównujemy model pełny z modelem zredukowanym lub korzystamy z doboru automatycznego (wsteczny, w przód, krokowy, podzbiory). Struktura losowa jest wspólna dla wszystkich porównywanych modeli: losowy wyraz wolny, losowe nachylenia i kowariancja ustawione w oknie obowiązują w każdym modelu, a zmienna z losowym nachyleniem pozostaje w każdym modelu jako efekt stały. Dobór dotyczy wyłącznie efektów stałych; o tym, czy losowe nachylenie jest potrzebne, decyduje test LR w raporcie regresji logistycznej mieszanej.

Definicje miar

Modele porównuje się kryteriami informacyjnymi AIC, AICc, BIC (im mniejsze, tym lepiej), pseudo-\(R^2\) oraz \(R^2\) brzegowym i warunkowym, a modele zagnieżdżone – testem ilorazu wiarygodności: \(2(\ell_P-\ell_Z)\) (\(\ell_P\), \(\ell_Z\) – logarytm wiarygodności modelu pełnego i zredukowanego) ma rozkład \(\chi^2\) o liczbie stopni swobody równej liczbie usuniętych zmiennych. Wiarygodność jest zawsze aproksymowana tą samą metodą (Laplace lub kwadratura) we wszystkich modelach, więc jest porównywalna.

Ocena modeli poza zbiorem uczącym

Kryteria informacyjne i test LR są wyznaczane na tych samych danych, na których dopasowano modele, przez co ocena modeli jest zbyt optymistyczna. Tak jak w porównywaniu modeli regresji logistycznej, w oknie analizy można więc włączyć ocenę modeli na obserwacjach, które nie brały udziału w ich dopasowaniu (opcja Walidacja): walidację krzyżową \(k\)-krotną albo losowy zbiór testowy, z podziałem wyznaczonym przez Ziarno. Dla każdego modelu raport podaje wtedy średnią dewiancję (\(-2\ln L/n\); to ona jest błędem walidacji), \(AUC\) i wskaźnik Briera, a w bloku doboru modelu – błąd modelu zerowego i najlepszy model wg walidacji; jako kryterium doboru automatycznego można też wybrać błąd walidacji. W modelach mieszanych obowiązują dwie dodatkowe zasady:

• dzielone są całe grupy – wszystkie obserwacje jednej grupy (np. jednego oddziału) trafiają do tej samej części danych. Obserwacje tej samej grupy są ze sobą skorelowane, więc rozdzielenie ich między część uczącą i ocenianą zaniżałoby błąd. Liczba podziałów \(k\) jest ograniczana do liczby grup, a udział zbioru testowego oznacza procent grup (podział nie jest tu warstwowany względem zmiennej zależnej);
• przewidywanie dla nowej grupy opiera się wyłącznie na efektach stałych – efekt losowy grupy, której nie było w zbiorze uczącym, nie jest znany, dlatego przyjmuje się jego wartość oczekiwaną, czyli zero. Miary walidacji mówią więc, jak dobrze efekty stałe modelu przewidują zdarzenie w nowej grupie (np. na nowym oddziale).

Modelem zerowym jest tu model z wyrazem wolnym, wspólną strukturą losową i zmiennymi, którym nadano losowe nachylenie (pozostają one w każdym modelu); jest on dopasowywany i oceniany tak samo jak pozostałe modele.

Jak ustawić analizę

Statystyka \(\to\) Modele mieszane \(\to\) Regresja logistyczna mieszana – porównywanie modeli.

Wskazujemy zmienną zależną \(Y\) z wartością zdarzenia (Grupa (1)), zmienne modelu pełnego i zredukowanego (lub kryterium doboru) oraz opcje modelu mieszanego: Zmienna grupująca (ID), Losowe nachylenia (z X modelu pełnego), Kowariancja efektów losowych i Aproksymacja wiarygodności – wszystkie wspólne dla porównywanych modeli. Pod listą metod doboru znajdują się pola: Kryterium (AIC, AICc, BIC, p (test LR / F) z progiem albo błąd walidacji), Walidacja (brak, krzyżowa, k = z liczbą podziałów albo zbiór testowy, % = z udziałem zbioru testowego w procentach grup) i Ziarno losowania podziału (to samo ziarno oznacza ten sam podział).

Wyniki i interpretacja

Raport zawiera ramkę z opisem wspólnej struktury losowej, tabelę Kryteria informacyjne i testy LR z \(-2LL\), AIC, AICc, BIC, \(R^2\) brzegowym i warunkowym każdego modelu i testem LR między kolejnymi modelami oraz tabele współczynników modeli z warunkowymi ilorazami szans i wariancją efektów losowych każdego modelu. Przy włączonej walidacji raport zawiera dodatkowo blok Ocena poza zbiorem uczącym (sposób podziału, ziarno, jednostka podziału, błąd modelu zerowego, najlepszy model wg walidacji), a przy każdym modelu – średnią dewiancję, \(AUC\) i wskaźnik Briera.