Hierarchiczna analiza skupień

Hierarchiczna analiza skupień to metoda grupowania, która tworzy drzewo hierarchiczne lub dendrogram obiektów poddawanych grupowaniu.

Drzewo przedstawia relacje między obiektami i pokazuje, jak obiekty są grupowane na różnych poziomach.

Przykład hierarchicznej analizy skupień

W naszym przykładzie zapytaliśmy osoby, ile godzin tygodniowo spędzają w mediach społecznościowych oraz na siłowni.

Teraz chcemy sprawdzić, czy w tym zbiorze danych występują skupienia, i przeprowadzić hierarchiczną analizę skupień.

Jak oblicza się hierarchiczną analizę skupień?

Najpierw przedstawiamy punkty na wykresie rozrzutu.

Na tej podstawie możemy zacząć tworzyć skupienia. W pierwszym kroku przypisujemy osobne skupienie do każdego punktu. Mamy więc tyle skupień, ile osób.

Celem jest stopniowe łączenie skupień, aż wszystkie punkty znajdą się w jednym skupieniu.

W każdym kroku łączone są skupienia, które są najbliżej siebie. Co oznacza „najbliżej siebie”?

Aby to ustalić, musimy określić dwie rzeczy:

• Jak mierzona jest odległość między dwoma punktami.
• Jak punkty w skupieniu są ze sobą łączone.

Gdy zmienne mają różne jednostki lub bardzo różne zakresy wartości, przed analizą zwykle należy je standaryzować. W przeciwnym razie zmienna o większej skali może zdominować obliczane odległości.

Odległość między dwoma punktami

Zacznijmy od pytania, jak obliczyć odległość między dwoma punktami. Oto najczęściej używane miary odległości:

• Odległość euklidesowa
• Odległość Manhattan
• Odległość maksimum

Weźmy odległość między Maxem i Caro. Różnica na osi y wynosi 1, a różnica na osi x wynosi 4.

Odległość euklidesowa

Odległość euklidesowa to pierwiastek kwadratowy z sumy kwadratów różnic.

Odległość Manhattan

Odległość Manhattan wykorzystuje sumę wartości bezwzględnych różnic. Obliczamy więc po prostu 4 plus 1, co daje odległość równą 5.

Odległość maksimum

Odległość maksimum to po prostu największa wartość spośród wartości bezwzględnych różnic. W tym przypadku wynosi ona 4.

Metody wiązania

Teraz, gdy wiemy już, jak obliczać odległości między punktami, musimy określić, jak łączyć punkty w obrębie skupienia.

Załóżmy, że mamy skupienie z punktami Joe i Lisa oraz skupienie z punktami Max i Caro. Jak teraz określić odległość między tymi dwoma skupieniami? Oto najpopularniejsze metody:

• Metoda pojedynczego wiązania
• Metoda pełnego wiązania
• Metoda średniego wiązania

Metoda pojedynczego wiązania

Metoda pojedynczego wiązania wykorzystuje odległość między najbliższymi elementami w skupieniach. Jest to odległość między Caro i Joe.

Metoda pełnego wiązania

Metoda pełnego wiązania wykorzystuje odległość między najdalszymi elementami w skupieniach, czyli między Maxem i Joe.

Metoda średniego wiązania

Metoda średniego wiązania wykorzystuje średnią ze wszystkich odległości parami. Odległość jest obliczana dla każdej pary, a następnie uśredniana.

Przykład: hierarchiczna analiza skupień

W naszym przykładzie używamy odległości euklidesowej i metody pojedynczego wiązania. Potrzebujemy więc odległości każdego skupienia od wszystkich pozostałych skupień.

W tym celu musimy najpierw obliczyć macierz odległości. W macierzy odległości umieszczamy skupienia w obu wymiarach, a następnie obliczamy odległości od każdego skupienia do każdego innego skupienia.

Odległość między Alanem i Lisą jest dana wzorem:

Możemy teraz zrobić to dla wszystkich pozostałych kombinacji, aż obliczymy pełną macierz odległości. Następnie możemy połączyć pierwsze skupienia, wyszukując najmniejszą odległość. Występuje ona między Joe i Lisą.

Na tej podstawie łączymy teraz Joe i Lisę w jedno skupienie. W naszym diagramie drzewiastym, czyli dendrogramie, możemy narysować pierwsze połączenie.

Teraz musimy zaktualizować naszą macierz odległości. Zdecydowaliśmy się użyć metody pojedynczego wiązania. Odległość między dwoma skupieniami jest więc wyznaczana przez najbliższą parę punktów, po jednym z każdego skupienia.

Dla każdego pozostałego skupienia porównujemy odległości do Lisy i Joe, a następnie wybieramy mniejszą z nich.

Teraz ponownie łączymy najbliższe skupienia. Są to Max i Alan.

W naszym diagramie drzewiastym, czyli dendrogramie, możemy narysować drugie połączenie.

Teraz ponownie aktualizujemy macierz odległości. Obliczamy odległość między Alanem i Joe, między Caro i Joe oraz między Caro i Alanem. Najmniejsza odległość występuje między skupieniem Caro a skupieniem Lisa i Joe.

Łączymy więc te dwa skupienia i rysujemy trzecie połączenie w diagramie drzewiastym.

Teraz pozostały już tylko dwa skupienia, które łączymy w ostatnim kroku, aby uzyskać gotowy dendrogram.

Obliczanie hierarchicznej analizy skupień w numiqo

Aby obliczyć hierarchiczną analizę skupień online, wystarczy przejść do kalkulatora statystycznego i skopiować własne dane do tabeli albo użyć linku, aby wczytać zbiór danych. Następnie klikamy Skupienia i wybieramy Hierarchiczne skupienia.

Jeśli teraz klikniemy Media społecznościowe i Siłownia, zostanie dla nas obliczona hierarchiczna analiza skupień. Dodatkowo możemy określić etykietę, w naszym przypadku imiona osób.

Teraz możemy określić, która metoda wiązania ma zostać użyta oraz jak ma być obliczana odległość. Ponownie wybieramy po prostu metodę pojedynczego wiązania i odległość euklidesową.

Teraz poniżej otrzymujemy wyniki: wykres drzewa, wykres rozrzutu oraz wykres łokciowy. Wykres łokciowy pomaga ocenić, ile skupień warto przyjąć. Widzimy tutaj załamanie, dlatego jako rozsądny wybór przyjmujemy 4 skupienia. Możemy wybrać tę wartość powyżej, a na wykresie drzewa cztery skupienia zostaną wyróżnione różnymi kolorami.