A sokrétű tanulás és a lineáris dimenziócsökkentés egyaránt nagydimenziós adatokkal foglalkozik, de alapvetően különböznek abban, hogyan őrzik meg a struktúrát. A lineáris módszerek feltételezik, hogy az adatok egy sík hipersíkon helyezkednek el, míg a sokrétű tanulás görbült, nemlineáris kapcsolatokat tár fel. A kettő közötti választás attól függ, hogy az adatok belső geometriája sík vagy görbült.
Nemlineáris technikák egy osztálya, amelyek feltárják a nagydimenziós adatokban rejtőző alacsony dimenziós görbült struktúrákat.
Olyan technikák, amelyek lineáris transzformációk segítségével nagydimenziós adatokat vetítenek alacsonyabb dimenziós alterekre.
| Funkció | Sokoldalú tanulás | Lineáris dimenziócsökkentés |
|---|---|---|
| Alapfeltevés | Az adatok egy görbült, alacsony dimenziós sokaságon helyezkednek el | Az adatok egy sík lineáris altérben helyezkednek el |
| Szerkezet megőrzve | Elsősorban helyi környékek | Elsősorban globális variancia |
| Számítási költség | Általában magasabb, gyakran O(n²) vagy rosszabb | Alacsony, jellemzően O(n·d²) vagy gyorsabb |
| Értelmezhetőség | Alsó, a tengelyeknek ritkán van közvetlen jelentésük | Magasabb, az alkatrészek gyakran az eredeti jellemzőkre vonatkoznak |
| Skálázhatóság | Korlátozott, több tízezer ponton is küzd | Kiváló, több millió mintát kezel |
| Mintán kívüli vetítés | Nehéz, közelítő módszereket igényel | Egyszerűen mátrixszorzással |
| Legjobb felhasználási esetek | Vizualizáció, nemlineáris mintázatok, kép- és biológiai adatok | Jellemzők tömörítése, előfeldolgozás, zajcsökkentés |
| Példa algoritmusok | t-SNE, UMAP, Isomap, LLE | PCA, LDA, Faktoranalízis, Csonkolt SVD |
A legnagyobb filozófiai szakadék e megközelítések között az adatok alakjáról alkotott képükben rejlik. A lineáris dimenziócsökkentés a nagydimenziós adatokat úgy kezeli, mintha egy sík hipersíkon helyezkednének el, ahol az egyenes vonalak és az ortogonális vetületek ragadják meg a legfontosabb variációkat. A sokrétű tanulás ezzel ellentétes nézetet vall, azzal érvelve, hogy a valós világ adatai gyakran úgy hajtogatódnak és görbülnek a nagydimenziós térben, mint egy gyűrött papírlap. Ha kibontjuk ezt a papírt, egy 2D felületet kapunk, és a sokrétű algoritmusok pontosan ezt próbálják meg matematikailag megvalósítani.
PCA-hoz hasonló lineáris módszerek a globális struktúra bajnokai. Biztosítják, hogy az eredeti térben egymástól távol eső pontok a vetítés után is távol maradjanak egymástól, ami nagyszerű az általános variancia megértéséhez, de elmoshatja a finomszemcsés klasztereket. A sokrétű tanulás megfordítja ezt a prioritást, intenzíven a közeli pontok egymáshoz való közelítésére összpontosítva. Ezért hozza létre a t-SNE és az UMAP azokat a feltűnő vizualizációkat, ahol a klaszterek tisztán kirajzolódnak, még akkor is, ha ezeknek a klasztereknek a globális elrendezése némileg önkényes.
Amikor az adathalmazok nagyra nőnek, a lineáris módszerek drámaian előretörnek. A PCA hatékonyan kiszámítható eigendecomposition vagy szinguláris értékdecomposition segítségével, és az olyan könyvtárak, mint a scikit-learn, könnyedén kezelnek több millió sort. Ezzel szemben a sokrétű algoritmusok gyakran rosszul skálázódó szomszédsági gráfok építését igénylik, és különösen a t-SNE kvadratikus komplexitással rendelkezik a minták számában. Az UMAP némileg javult ezen a téren, de mindkettő még mindig messze elmarad a lineáris módszerektől az éles méretű folyamatok esetében.
lineáris módszerek egyértelmű előnyt kínálnak, amikor el kell magyarázni, hogy mit jelentenek a redukált dimenziók. A PCA komponensek az eredeti jellemzők súlyozott kombinációi, így ellenőrizhetők a terhelések, és megérthető, hogy mely változók mozgatják az egyes tengelyeket. A sokrétű beágyazások köztudottan átlátszatlanok, olyan tengelyekkel, amelyek ritkán felelnek meg bármi ember által értelmezhetőnek. Ezenkívül a lineáris módszerek lehetővé teszik új adatpontok azonnali kivetítését a tanult transzformációs mátrix segítségével, míg a sokrétű módszerek gyakran újraképzést vagy összetett közelítéseket igényelnek az új minták kezeléséhez.
lineáris dimenziócsökkentés továbbra is az alapértelmezett választás az előfeldolgozási folyamatok, a jellemzőtömörítés és az olyan helyzetek esetében, ahol a sebesség és az értelmezhetőség számít. A sokrétű tanulás akkor érdemel hasznot, ha az adatok egyértelműen nemlineáris szerkezettel rendelkeznek, elképzelhető képek, beszédspektrogramok vagy génexpressziós profilok, és ha a cél a felfedezés, nem pedig a telepítés. A gyakorlatban sok adatkutató először a PCA-t futtatja alapként, majd csak akkor fordul a sokrétű módszerekhez, ha a lineáris vetítések nem mutatnak értelmes mintákat.
A sokrétű tanulás mindig felülmúlja a PCA-t, mivel kifinomultabb.
kifinomultság nem egyenlő a jobb teljesítménnyel. A PCA gyakran több módszerrel is megegyezik, vagy akár veri is őket olyan feladatokban, mint az osztályozási előfeldolgozás vagy a zajcsökkentés. A több módszer olyan speciális esetekben, mint a vizualizáció, remekel, de számos gyakorlati gépi tanulási feladatnál a PCA az erősebb választás.
A t-SNE és az UMAP megőrzi az adatok globális szerkezetét.
Mindkét módszer explicit módon torzítja a globális távolságokat, hogy hangsúlyozza a lokális szomszédságokat. A t-SNE diagramon a klaszterek közötti távolság szinte semmilyen érdemi információt nem hordoz, és csak a közeli pontok relatív helyzetét kell értelmezni.
A PCA feltételezi, hogy az adatok normális eloszlásúak.
A PCA nem követeli meg a normalitás esetét. Csak azt feltételezi, hogy a variancia egy értelmes mennyiség, amelyet meg kell őrizni, és hogy a jellemzők lineáris kombinációi megragadják a fontos struktúrát. Széles eloszlástartományon működik, bár a nehézfarkú adatok torzíthatják az eredményeket.
Miután futtatta a t-SNE-t, a beágyazást bemenetként használhatja egy alsóbb rétegbeli modellhez.
t-SNE vagy UMAP beágyazások használata felügyelt tanulási jellemzőkként általában nem javasolt, mivel torzítják a távolságokat és globális információkat veszítenek. A PCA vagy más lineáris módszerek általában biztonságosabb választást jelentenek a jellemzőmérnöki folyamatokhoz.
A sokrétű tanulás bármilyen adathalmazt 2D-re redukálhat információveszteség nélkül.
Minden dimenziócsökkentés némi információvesztéssel jár. A sokrétű módszerek megőrzik a lokális kapcsolatokat, de feláldozzák a globális hűséget, és az agresszív 2D-re való redukció elrejtheti a fontos variációkat, amelyek fontosak a későbbi feladatok számára.
Lineáris dimenziócsökkentést akkor érdemes használni, ha sebességre, értelmezhetőségre és megbízható, mintán kívüli vetítésre van szükség, különösen az éles gépi tanulási folyamatokban. Válassza a sokrétű tanulást, ha a cél a feltáró vizualizáció, vagy ha olyan erős nemlineáris kapcsolatokra gyanakszik, amelyeket a PCA egyszerűen nem tud rögzíteni. A legokosabb munkafolyamat gyakran az, hogy először a PCA-t próbálja ki, és csak akkor lépjen át a sokrétű módszerekre, ha a lineáris nézet nem elég hatékony.
késleltetésre fókuszált kiszolgálás és a tiszta pontosságoptimalizálás két egymással versengő filozófiát képvisel a mesterséges intelligencia telepítésében. A késleltetésre összpontosító kiszolgálás a sebességet és a felhasználói élményt helyezi előtérbe, míg a tiszta pontosságoptimalizálás a lehető legmagasabb modellteljesítményt célozza meg, függetlenül a következtetési időtől. A kettő közötti választás meghatározza, hogyan viselkednek a mesterséges intelligencia rendszerek éles környezetben.
Az A/B tesztelés a modellkiszolgáló rendszerben a versengő modellverziók közötti forgalmat irányítja át a valós teljesítmény mérése érdekében, míg az egyetlen modell telepítése egyetlen modellt küld minden felhasználónak. A csapatok a kockázattűrés, a forgalom mennyisége és a teljes bevezetés előtti statisztikai validáció szükségessége alapján választanak közöttük.
Az A/B tesztelés a tartalomkiadásokban magában foglalja a variációk különböző közönségszegmensek számára történő bevezetését és a teljesítmény mérését, míg az egyszeri tartalomkiadások egyetlen verziót juttatnak el egyszerre mindenkihez. Minden megközelítés más célokat szolgál, az A/B tesztelés az adatvezérelt optimalizálást, míg az egyszeri kiadások a sebességet és az egyszerűséget helyezik előtérbe.
Ez a részletes összehasonlítás az adaptív intelligenciamotorok architektúrális különbségeit, működési korlátait és valós teljesítményét vizsgálja a fix viselkedésű automatizálási rendszerekkel szemben. Megvizsgáljuk, hogy az új környezeti adatokból folyamatosan tanuló rendszerek hogyan viszonyulnak a merev, kiszámítható, szabályokon alapuló keretrendszerekhez.
Az adaptív lekérések dinamikusan igazítják a rendszer által lekérdezett információk módját és típusát, míg a statikus lekérési folyamatok rögzített szabályokat követnek, a kontextustól függetlenül. Mindkettő modern mesterséges intelligencia alkalmazásokat működtet, de rugalmasságukban, költségükben és pontosságukban élesen különböznek. A választás a köztük lévő feladatok összetettségétől és a költségvetéstől függ.
