PQStat LOKALNE TECHNIKI WYGŁADZANIA LINIOWEGO
LOWESS
Kiedy stosować:
LOWESS (ang. locally weighted scatterplot smoothing), znana również pod nazwą LOESS (ang. locally estimated scatterplot smoothing), pozwala poprowadzić przez chmurę punktów na wykresie punktowym wygładzoną linię trendu, budowaną w sposób nieparametryczny (bez zakładania z góry konkretnej postaci zależności, np. liniowej czy wielomianowej). Jest to jedna z wielu „nowoczesnych” metod modelowania opartych na metodzie najmniejszych kwadratów, łącząca prostotę regresji liniowej z elastycznością regresji nieliniowej. Oszacowanie regresji lokalnej (ang. locally weighted regression) zostało niezależnie wprowadzone na kilku różnych polach pod koniec XIX i na początku XX wieku (Henderson, 1916[79]; Schiaparelli, 1866[148]). W literaturze statystycznej metodę tę wprowadzono niezależnie z różnych punktów widzenia pod koniec lat siedemdziesiątych, min. Cleveland, 1979[38] – i to właśnie na tej pracy oparto metodę wykorzystaną w programie PQstat.
Podstawową zasadą jest to, że funkcja gładka może być dobrze przybliżona przez wielomian niskiego stopnia (w programie zastosowano funkcję liniową, czyli wielomian pierwszego stopnia) w sąsiedztwie dowolnego punktu \(x\). Innymi słowy: zamiast dopasowywać jedną funkcję do wszystkich danych naraz, w każdym punkcie dopasowuje się osobną, lokalną funkcję liniową, budowaną na podstawie sąsiednich obserwacji – im bliżej danego punktu, tym większy wpływ ma dana obserwacja na jego wynik. Szczegółowy algorytm postępowania, wraz ze wzorami, opisano w części „Dla zainteresowanych”.
Wygładzanie jądrowe
Kiedy stosować:
Alternatywnym sposobem wygładzenia wykresu punktowego jest wygładzanie jądrowe, nazywane czasem oszacowaniem Nadaraya-Watson (Nadaraya, 1964[124]; Watson, 1964[168]). Podobnie jak LOWESS, nie zakłada ono z góry konkretnej postaci zależności – w każdym punkcie wyliczana jest średnia ważona sąsiednich obserwacji, przy czym wagi nadawane są zgodnie z funkcją jądra opisaną w rozdziale Estymacja jądrowa. Dokładny wzór podano w części „Dla zainteresowanych”.
Na kształt uzyskanej krzywej decydujący wpływ ma parametr wygładzania \(h\) (ang. bandwidth) – im wyższa jego wartość, tym większy stopień wygładzenia. Parametr ten można ustawić dowolnie (wartość użytkownika) albo dobrać automatycznie jedną z metod: SNR, SROT lub OS. Znacznie mniejszy wpływ na wynik ma wybór funkcji jądra: Gaussa, jednostajnej (prostokąt), trójkątnej, Epanechnikova lub quartic/biweight (czwartego stopnia). Opis poszczególnych parametrów wygładzania i funkcji jądra można znaleźć we wspomnianym rozdziale Estymacja jądrowa.
Jak ustawić analizę
Okno z ustawieniami opcji wykresu punktowego z dopasowaną funkcją metodą LOWESS lub poprzez wygładzanie jądrowe znajdziemy w różnych analizach. Wykres ten możemy również wykonać poprzez menu Wykresy\(\to\)Wykres punktowy.
Wykonanie i interpretacja
Przykład (1) c.d. (plik LDL tygodnie.pqs)
Badano skuteczność nowej terapii, której celem jest obniżenie poziomu cholesterolu we frakcji LDL. Przebadano 88 osób na różnym etapie kuracji. Sprawdzimy, czy wraz z upływem czasu stosowania kuracji (czas w tygodniach) poziom cholesterolu LDL spada i się stabilizuje.
Wyniki przedstawiono początkowo, dopasowując linię prostą wskazującą kierunek badanej zależności.
Jednak ten sposób przedstawienia danych nie oddaje w pełni zachodzących zależności. Z ułożenia punktów można zauważyć, że zależność ta jest początkowo malejąca, a po 150 tygodniach zaczyna się stabilizować. Zależność przedstawiono ponownie, korzystając z metody LOWESS oraz z wygładzania jądrowego Gaussa.
Obydwa sposoby, tzn. zarówno LOWESS, jak i wygładzanie jądrowe, dały zbliżone wyniki i znacznie lepiej opisały dane, wskazując na początkowy spadek LDL, a następnie jego stabilizację na poziomie bliskim 70 mg/dl.
Algorytm LOWESS
Procedura:
Dla każdego punktu zbioru danych budujemy okno zawierające sąsiednie elementy. To, jak dużo elementów znajdzie się w oknie, wyznacza parametr wygładzania \(q\). Czym wyższa jego wartość, tym bardziej wygładzoną uzyskamy funkcję. Jeśli parametr ten wyniesie np. 0.2, wówczas w oknie znajdzie się około 20% danych i one posłużą do budowania wielomianu (tutaj jednomianu, tzn. funkcji liniowej).
Ze względu na konieczność utrzymania symetrii okna, tzn. dane w oknie powinny znajdować się powyżej i poniżej punktu, dla którego budujemy model, liczba elementów w oknie powinna być nieparzysta. Dlatego też uzyskana na podstawie parametru \(q\) liczba elementów zaokrąglana jest w górę do pierwszej liczby nieparzystej. W ten sposób powstaje okno zawierające element \(x_0\) oraz odpowiednią liczbę \(k(x_0)\) elementów znajdujących się przed tym elementem i za tym elementem w uporządkowanym zbiorze danych.\[ k(x_0)=\frac{roundUpNpar(q*n)-1}{2} \]Przykładowo, gdy w oknie ma się znaleźć 7 elementów, to znajdzie się w nim element \(x_0\) oraz trzy wcześniejsze i trzy późniejsze elementy próby. Okno wyznaczone dla pierwszych i ostatnich elementów próby jest tej samej wielkości, ale badany element nie jest w nim umieszczony symetrycznie, tzn. na środku.
W każdym punkcie zbioru danych dopasowany jest wielomian niskiego stopnia (tutaj funkcja liniowa) do podzbioru zlokalizowanych w oknie danych. Dopasowanie dokonywane jest przy użyciu ważonej metody najmniejszych kwadratów, co daje większą wagę punktom w pobliżu punktu, którego odpowiedź jest szacowana, i mniejszą wagę punktom oddalonym. W ten sposób do każdego punktu przypisana jest inna formuła funkcji wielomianu (tutaj funkcji liniowej).
Stosowane w ważonej metodzie najmniejszych kwadratów wagi mogą być ustawiane dość elastycznie, ale punkty odległe od zadanego muszą mieć mniejszą wagę niż punkty w pobliżu. Tutaj posłużono się wagami zaproponowanymi przez Clevelanda, tzw. tricube\[ w=(1-d^3)^3, \]gdzie odległość \(d\) od punktu \(x_0\) wyniosła 0 – dla punktów znajdujących się poza wyznaczonym oknem i była podana jako rzeczywista odległość między punktami, ale znormalizowana do przedziału [0,1] – dla punktów zlokalizowanych w oknie, tak by maksymalne odległości we wszystkich oknach były takie same.
- W każdym punkcie, na podstawie przypisanej do niego formuły wielomianu (tutaj funkcji liniowej), obliczana jest wartość funkcji \(\hat{y}_i\). Na podstawie punktów \(x_i\) oraz estymowanych tą metodą punktów \(\hat{y}_i\) wyrysowywana jest wygładzona i dopasowana do danych funkcja.
Wygładzanie jądrowe
Wzory:
Szacowanie jądra jest średnią ważoną obserwacji w oknie wygładzania:
gdzie \(K_h(t_i)\) jest funkcją jądra opisaną w rozdziale Estymacja jądrowa.