Gan daudzdimensionāla mācīšanās, gan lineāra dimensiju samazināšana apstrādā daudzdimensionālus datus, taču tās būtiski atšķiras ar to, kā saglabā struktūru. Lineārās metodes pieņem, ka dati atrodas uz plakanas hiperplaknes, savukārt daudzdimensionālā mācīšanās atklāj izliektas, nelineāras attiecības. Izvēle starp tām ir atkarīga no tā, vai jūsu datu iekšējā ģeometrija ir plakana vai izliekta.
Nelineāru metožu klase, kas atklāj zemas dimensijas izliektas struktūras, kas paslēptas augstas dimensijas datos.
Metodes, kas projicē augstas dimensijas datus uz zemākas dimensijas apakštelpām, izmantojot lineāras transformācijas.
| Funkcija | Daudzpusīga mācīšanās | Lineāra dimensiju samazināšana |
|---|---|---|
| Galvenais pieņēmums | Dati atrodas uz izliekta zemas dimensijas kolektora | Dati atrodas uz plakanas lineāras apakštelpas |
| Struktūra saglabāta | Galvenokārt vietējās apkaimes | Galvenokārt globālā dispersija |
| Aprēķina izmaksas | Parasti augstāks, bieži O(n²) vai sliktāks | Zems, parasti O(n·d²) vai ātrāks |
| Interpretējamība | Apakšējās asīm reti ir tieša nozīme | Augstākas, komponenti bieži vien ir saistīti ar sākotnējām funkcijām |
| Mērogojamība | Ierobežots, cīnās vairāk nekā desmitiem tūkstošu punktu | Lieliski, apstrādā miljoniem paraugu |
| Ārpusizlases projekcija | Grūti, nepieciešamas aproksimācijas metodes | Vienkārši, izmantojot matricu reizināšanu |
| Labākie lietošanas gadījumi | Vizualizācija, nelineāri modeļi, attēls un bioloģiskie dati | Funkciju saspiešana, priekšapstrāde, trokšņu samazināšana |
| Algoritmu piemēri | t-SNE, UMAP, Isomap, LLE | PCA, LDA, faktoru analīze, saīsināta SVD |
Lielākā filozofiskā plaisa starp šīm pieejām slēpjas tajā, ko tās uzskata par datu formu. Lineārā dimensiju samazināšana apstrādā daudzdimensionālus datus tā, it kā tie atrastos uz plakanas hiperplaknes, kur taisnas līnijas un ortogonālas projekcijas uztver vissvarīgāko variāciju. Daudzveidīgā mācīšanās pauž pretēju viedokli, apgalvojot, ka reālās pasaules dati bieži vien salocās un izliekas daudzdimensionālā telpā kā saburzīts papīra gabals. Ja šo papīru atkārto, iegūst 2D virsmu, un daudzveidīgi algoritmi mēģina tieši to izdarīt matemātiski.
Lineāras metodes, piemēram, PCA, ir globālās struktūras čempiones. Tās nodrošina, ka punkti, kas atrodas tālu viens no otra sākotnējā telpā, paliek tālu viens no otra arī pēc projekcijas, kas ir lieliski, lai izprastu kopējo dispersiju, bet var aizmiglot smalkgraudainus klasterus. Daudzfaktoru mācīšanās maina šo prioritāti, intensīvi koncentrējoties uz tuvumā esošo punktu tuvuma saglabāšanu. Tāpēc t-SNE un UMAP rada šīs pārsteidzošās vizualizācijas, kurās klasteri skaidri izceļas pat tad, ja šo klasteru globālais izvietojums ir nedaudz patvaļīgs.
Kad datu kopas kļūst lielas, lineārās metodes ievērojami gūst panākumus. PCA var efektīvi aprēķināt, izmantojot īpašvērtību sadalījumu vai singulāro vērtību sadalījumu, un tādas bibliotēkas kā scikit-learn viegli apstrādā miljoniem rindu. Turpretī kolektora algoritmiem bieži vien ir jāveido apkārtnes grafiki, kas slikti mērogojami, un jo īpaši t-SNE ir kvadrātiska sarežģītība paraugu skaitā. UMAP nedaudz uzlabojās šajā ziņā, taču abas joprojām krietni atpaliek no lineārajām metodēm ražošanas mēroga cauruļvadiem.
Lineārās metodes piedāvā nepārprotamu priekšrocību, ja ir jāpaskaidro, ko nozīmē reducētās dimensijas. PCA komponenti ir sākotnējo pazīmju svērtas kombinācijas, tāpēc var pārbaudīt slodzes un saprast, kuri mainīgie virza katru asi. Kolektoru iegulumi ir pazīstami ar savu necaurredzamību, un to asis reti atbilst kaut kam cilvēkam interpretējamam. Turklāt lineārās metodes ļauj uzreiz projicēt jaunus datu punktus, izmantojot apgūto transformācijas matricu, savukārt kolektoru metodēm bieži vien ir nepieciešama pārapmācība vai sarežģītas aproksimācijas, lai apstrādātu jaunus paraugus.
Lineāra dimensiju samazināšana joprojām ir noklusējuma izvēle pirmapstrādes cauruļvadiem, iezīmju saspiešanai un situācijām, kurās ir svarīgs ātrums un interpretējamība. Daudzfaktoru mācīšanās attaisno savu nozīmi, ja datiem ir nepārprotami nelineāra struktūra, iedomāti attēli, runas spektrogrammas vai gēnu ekspresijas profili, un ja mērķis ir izpēte, nevis izvietošana. Praksē daudzi datu zinātnieki vispirms izmanto PCA kā bāzes līniju un pēc tam pievēršas daudzfaktoru metodēm tikai tad, ja lineārās projekcijas neatklāj jēgpilnus modeļus.
Daudzfaktoru mācīšanās vienmēr pārspēj PCA, jo tā ir sarežģītāka.
Izsmalcinātība nenozīmē labāku veiktspēju. PCA bieži vien atbilst vai pārspēj daudzas metodes tādos uzdevumos kā klasifikācijas pirmapstrāde vai trokšņu samazināšana. Daudzpusīga mācīšanās izceļas konkrētos scenārijos, piemēram, vizualizācijā, taču daudziem praktiskiem mašīnmācīšanās uzdevumiem PCA ir labākā izvēle.
t-SNE un UMAP saglabā datu globālo struktūru.
Abas metodes nepārprotami kropļo globālos attālumus, lai uzsvērtu lokālās apkārtnes. Attālums starp klasteriem t-SNE diagrammā gandrīz nesatur nekādu nozīmīgu informāciju, un jāinterpretē tikai tuvumā esošo punktu relatīvā pozīcija.
PCA pieņem, ka dati ir normāli sadalīti.
PCA neprasa normalitāti. Tā tikai pieņem, ka dispersija ir nozīmīgs lielums, kas jāsaglabā, un ka lineāras pazīmju kombinācijas aptver svarīgo struktūru. Tā darbojas ar plašu sadalījumu diapazonu, lai gan dati ar izteiktu "astes" var izkropļot rezultātus.
Kad esat palaidis t-SNE, iegulšanu varat izmantot kā ievadi lejupējā modelī.
t-SNE vai UMAP iegulto elementu izmantošana uzraudzītas mācīšanās procesā parasti nav ieteicama, jo tie kropļo attālumus un zaudē globālo informāciju. PCA vai citas lineāras metodes parasti ir drošāka izvēle elementu inženierijas cauruļvadiem.
Daudzfaktoru mācīšanās var samazināt jebkuru datu kopu līdz 2D, nezaudējot informāciju.
Jebkura dimensiju samazināšana ir saistīta ar zināmu informācijas zudumu. Daudzfaktoru metodes saglabā lokālās attiecības, bet upurē globālo precizitāti, un agresīva samazināšana līdz 2D var slēpt svarīgas variācijas, kas ir svarīgas lejupējiem uzdevumiem.
Izmantojiet lineāru dimensiju samazināšanu, ja nepieciešams ātrums, interpretējamība un uzticama ārpusizlases projekcija, īpaši ražošanas mašīnmācīšanās procesos. Izvēlieties daudzveidīgu mācīšanos, ja jūsu mērķis ir pētnieciska vizualizācija vai ja jums ir aizdomas par spēcīgām nelineārām attiecībām, kuras PCA vienkārši nevar aptvert. Gudrākā darbplūsma bieži vien ietver PCA izmēģināšanu vispirms un pāreju uz daudzveidīgām metodēm tikai tad, ja lineārais skatījums nav pietiekams.
A/B testēšana modeļu apkalpošanā novirza trafiku starp konkurējošām modeļu versijām, lai novērtētu reālo veiktspēju, savukārt viena modeļa ieviešana visiem lietotājiem nosūta vienu modeli. Komandas izvēlas starp tiem, pamatojoties uz riska toleranci, trafika apjomu un statistiskās validācijas nepieciešamību pirms pilnīgas ieviešanas.
A/B testēšana satura izlaidumos ietver variāciju ieviešanu dažādiem auditorijas segmentiem un veiktspējas mērīšanu, savukārt vienreizēji satura izlaidumi vienlaikus nodrošina vienu versiju visiem lietotājiem. Katra pieeja atbilst dažādiem mērķiem, A/B testēšanai dodot priekšroku uz datiem balstītai optimizācijai, bet vienreizējiem izlaidumiem prioritāte ir ātrums un vienkāršība.
Adaptīvā izguve dinamiski pielāgo, kā un kādu informāciju sistēma izgūst, pamatojoties uz vaicājumu, savukārt statiskās izguves cauruļvadi ievēro fiksētus noteikumus neatkarīgi no konteksta. Abas nodrošina modernas mākslīgā intelekta lietojumprogrammas, taču tās ievērojami atšķiras pēc elastības, izmaksām un precizitātes. Izvēle starp tām ir atkarīga no darba slodzes sarežģītības un budžeta.
Šajā detalizētajā salīdzinājumā tiek pētītas adaptīvo intelekta dzinēju arhitektūras atšķirības, darbības ierobežojumi un reālā veiktspēja salīdzinājumā ar fiksētas uzvedības automatizācijas sistēmām. Mēs aplūkojam, kā sistēmas, kas nepārtraukti mācās no jauniem vides datiem, atbilst stingrām, paredzamām, uz noteikumiem balstītām sistēmām.
Aģentu apmācība vidēs ietver mācīšanos, izmantojot reāllaika mijiedarbību ar simulētu vai fizisku vidi, savukārt bezsaistes datu kopu apmācība balstās uz iepriekš apkopotiem datiem bez papildu piekļuves videi. Abas pieejas apmāca mašīnmācīšanās modeļus, taču būtiski atšķiras tas, kā aģenti apkopo pieredzi un uzlabo veiktspēju.
