Chociaż analitycy danych często spotykają się z oboma terminami w kontekście redukcji wymiarowości, składowe główne opisują kierunki maksymalnej wariancji w zbiorze danych, podczas gdy wartości osobliwe mierzą wielkość skalowania wzdłuż tych osi geometrycznych podczas dekompozycji macierzy. Zrozumienie ich matematycznego powiązania jest niezbędne do opanowania algorytmów takich jak PCA i SVD.
Wektory ortogonalne wskazujące kierunki maksymalnej wariancji, pomagające uprościć i skondensować dane wielowymiarowe.
Pozycje diagonalne macierzy wartości osobliwych, reprezentujące bezwzględne współczynniki skalowania transformacji liniowej.
| Funkcja | Główne komponenty | Wartości osobliwe |
|---|---|---|
| Pochodzenie matematyczne | Wektory własne macierzy kowariancji | Czynniki rozkładu macierzy (SVD) |
| Interpretacja geometryczna | Kierunki maksymalnej wariancji | Skalowanie długości osi głównych |
| Wymagania dotyczące danych | Wymaga danych wyśrodkowanych na średniej dla uzyskania znaczenia statystycznego | Dotyczy dowolnej macierzy prostokątnej lub kwadratowej |
| Związek z wartościami własnymi | Równe wartościom własnym macierzy kowariancji | Równe pierwiastkom kwadratowym wartości własnych iloczynu macierzowego |
| Główne zastosowanie | Redukcja wymiarowości i ekstrakcja cech | Odwracanie macierzy, obliczenia pseudoodwrotne i przybliżenie niskiego rzędu |
| Zależność skali | Znacznie zmienione przez przesunięcie lub skalowanie danych | Właściwość wewnętrzna konkretnej rozkładanej macierzy |
| Interpretacja fizyczna | Osie elipsoidy chmury danych | Czynniki rozciągające przekształconej sfery jednostkowej |
Główne składowe reprezentują konkretne kierunki, w których dane różnią się najbardziej, działając jako nowe osie dla zoptymalizowanego układu współrzędnych. Natomiast wartości osobliwe to wielkości skalarne, które pokazują, jak bardzo macierz rozciąga lub ściska przestrzeń wzdłuż tych osi. Podczas gdy jedna z nich określa orientację chmury danych, druga mierzy wielkość samej transformacji.
Aby znaleźć składowe główne w tradycyjny sposób, należy obliczyć wektory własne macierzy kowariancji zbioru danych. Wartości osobliwe powstają w wyniku dekompozycji wartości osobliwych (SVD), gdzie każda macierz dzieli się na trzy odrębne macierze składowych. Po wyśrodkowaniu danych poprzez odjęcie średniej kwadrat wartości osobliwej podzielony przez liczebność próby pomniejszony o jeden idealnie równa się wariancji tej składowej głównej.
Główne składowe zmieniają się drastycznie, jeśli zapomnisz o wyśrodkowaniu średniej lub standaryzacji danych, ponieważ wariancja statystyczna w dużej mierze zależy od punktu początkowego i skal zmiennych. Wartości osobliwe są jednak fundamentalną własnością algebraiczną dostarczonej macierzy surowej. Nie uwzględniają one założeń statystycznych, chyba że użytkownik celowo najpierw utworzy macierz o strukturze przypominającej kowariancję.
Analitycy danych wykorzystują główne komponenty do wizualizacji złożonych, wielowymiarowych zbiorów danych na prostych wykresach dwuwymiarowych. Z drugiej strony, inżynierowie zajmujący się komputerowym przetwarzaniem obrazu wykorzystują wartości osobliwe do kompresji obrazu i systemów rekomendacji za pomocą aproksymacji macierzy niskiego rzędu. SVD jest w rzeczywistości preferowanym silnikiem numerycznym w PCA, ponieważ obliczanie wartości osobliwych pozwala uniknąć utraty precyzji występującej podczas tworzenia macierzy kowariancji.
Składniki główne i wartości osobliwe to zupełnie niezależne koncepcje.
Są one głęboko ze sobą powiązane poprzez centrowanie danych. Po odjęciu średniej od macierzy danych, jej wartości osobliwe są wprost proporcjonalne do pierwiastków kwadratowych wariancji wzdłuż głównych składowych.
Aby znaleźć główne składowe, należy zawsze obliczyć macierz kowariancji.
Nowoczesne oprogramowanie rzadko oblicza macierz kowariancji, ponieważ wprowadza to błędy zaokrągleń liczbowych. Zamiast tego algorytmy wykonują SVD bezpośrednio na macierzy danych, wyodrębniając główne składowe znacznie bezpieczniej i wydajniej.
Wartości osobliwe mogą być ujemne, jeśli dane wykazują ujemną korelację.
Wartości osobliwe to z definicji dodatnie pierwiastki kwadratowe wartości własnych z macierzy symetrycznej. Są to zawsze nieujemne liczby rzeczywiste, reprezentujące długości lub współczynniki rozciągania, niezależnie od korelacji w danych pierwotnych.
Dodanie stałej wartości do wszystkich punktów danych powoduje równą zmianę wartości osobliwych i głównych składowych.
Przesunięcie danych o stałą zmienia wartości osobliwe, ponieważ zmieniają się surowe wpisy macierzy. Ponieważ jednak składowe główne opierają się na macierzy kowariancji, która z natury odejmuje średnią, przesunięcie danych pozostawia składowe główne całkowicie niezmienione.
Pierwszy główny składnik zawsze zawiera wszystkie wartościowe informacje.
Pierwszy składnik rejestruje tylko maksymalną wariancję wzdłuż jednej osi. Jeśli dane są rozłożone sferycznie lub zawierają istotne wzorce nieliniowe, pojedynczy składnik liniowy może całkowicie pominąć najważniejsze struktury.
Wybierz składowe główne, gdy Twoim głównym celem jest interpretacja, wizualizacja lub redukcja cech zbioru danych statystycznych w oparciu o wariancję. Wybierz wartości osobliwe, gdy musisz rozwiązywać układy równań liniowych, kompresować macierze lub wykonywać stabilne obliczenia numeryczne bez konieczności wstępnego przetwarzania statystycznego.
Abstrakcja matematyczna oddziela konkretne rzeczywistości, aby odsłonić uniwersalne struktury algebraiczne i logiczne, podczas gdy zrozumienie wizualne opiera się na intuicji geometrycznej, rozumowaniu przestrzennym i obrazowaniu mentalnym, aby uczynić te złożone koncepcje natychmiast namacalnymi i intuicyjnymi, tworząc potężne, dwojakie podejście do rozwiązywania złożonych problemów matematycznych.
Podczas gdy algebra koncentruje się na abstrakcyjnych regułach działań i manipulowaniu symbolami w celu znalezienia niewiadomych, geometria bada fizyczne właściwości przestrzeni, w tym rozmiar, kształt i względne położenie figur. Razem stanowią one fundament matematyki, tłumacząc relacje logiczne na struktury wizualne.
Podczas gdy analityczna teoria liczb opiera się na rachunku różniczkowym, analizie zespolonej i rygorystycznych granicach dedukcyjnych, aby rozwikłać ukryte zachowania liczb całkowitych, matematyka eksperymentalna wykorzystuje potężne narzędzia obliczeniowe do przeprowadzania prób numerycznych, ujawniania nieoczekiwanych wzorców i generowania nowych hipotez matematycznych. Razem ilustrują one piękną równowagę między czystą dedukcją analityczną a odkryciami obliczeniowymi.
Podczas gdy analiza sekwencji opiera się na formułach algorytmicznych, matematycznych i statystycznych służących do określania dopasowań i wyodrębniania precyzyjnych metryk z uporządkowanych danych, wizualizacja wzorców przekształca te złożone strumienie danych w intuicyjne układy przestrzenne, przesuwając punkt ciężkości z obliczeń numerycznych na szybkie rozpoznawanie wzorców przez człowieka.
swojej istocie ciągi arytmetyczne i geometryczne to dwa różne sposoby powiększania lub zmniejszania listy liczb. Ciąg arytmetyczny zmienia się w stałym, liniowym tempie poprzez dodawanie lub odejmowanie, podczas gdy ciąg geometryczny przyspiesza lub zwalnia wykładniczo poprzez mnożenie lub dzielenie.
