Daugialypis mokymasis ir tiesinis matmenų mažinimas abu nagrinėja daugialypius duomenis, tačiau jie iš esmės skiriasi tuo, kaip išsaugo struktūrą. Linijiniai metodai daro prielaidą, kad duomenys yra plokščioje hiperplokštumoje, o daugialypis mokymasis atskleidžia išlenktus, netiesinius ryšius. Pasirinkimas tarp jų priklauso nuo to, ar jūsų duomenų vidinė geometrija yra plokščia, ar išlenkta.
Netiesinių metodų klasė, kuri atskleidžia žemo matmens išlenktas struktūras, paslėptas didelio matmens duomenyse.
Metodai, kurie, naudojant tiesines transformacijas, projektuoja daugiamačius duomenis į žemesnio matmens poskyrius.
| Funkcija | Įvairiapusis mokymasis | Linijinio matmenų mažinimas |
|---|---|---|
| Pagrindinė prielaida | Duomenys yra ant išlenkto mažo matmens kolektoriaus | Duomenys yra plokščioje linijinėje erdvėje |
| Konstrukcija išsaugota | Pirmiausia vietiniai rajonai | Pirmiausia pasaulinis dispersija |
| Skaičiavimo kaina | Paprastai didesnis, dažnai O(n²) arba blogesnis | Žemas, paprastai O(n·d²) arba greitesnis |
| Aiškinamasis aspektas | Apatiniai ašys retai turi tiesioginę reikšmę | Didesnis, komponentai dažnai susiję su originaliomis savybėmis |
| Mastelio keitimas | Ribotas, stengiasi viršyti dešimtis tūkstančių taškų | Puiku, apdoroja milijonus mėginių |
| Projekcija be imties | Sudėtinga, reikalauja aproksimacijos metodų | Paprasta per matricų daugybą |
| Geriausi naudojimo atvejai | Vizualizacija, netiesiniai modeliai, vaizdas ir biologiniai duomenys | Funkcijų glaudinimas, išankstinis apdorojimas, triukšmo mažinimas |
| Pavyzdiniai algoritmai | t-SNE, UMAP, Isomap, LLE | PCA, LDA, faktorinė analizė, sutrumpinta SVD |
Didžiausias filosofinis šių požiūrių skirtumas slypi tame, ką jie mano apie jūsų duomenų formą. Linijinio matmenų mažinimo metodas daugiamatius duomenis traktuoja taip, tarsi jie būtų plokščioje hiperplokštumoje, kur tiesios linijos ir ortogonalios projekcijos fiksuoja svarbiausią variaciją. Daugialypis mokymasis laikosi priešingos nuomonės, teigdamas, kad realaus pasaulio duomenys dažnai lankstosi ir išlinksta daugiamatėje erdvėje kaip suglamžytas popieriaus lapas. Jei tą popierių išlankstote, gaunate 2D paviršių, o daugialypiai algoritmai bando būtent tai padaryti matematiškai.
Linijiniai metodai, tokie kaip PCA, yra globalios struktūros čempionai. Jie užtikrina, kad taškai, esantys toli vienas nuo kito pradinėje erdvėje, išliktų toli vienas nuo kito ir po projekcijos, o tai puikiai tinka norint suprasti bendrą dispersiją, tačiau gali sulieti smulkiagrūdžius klasterius. Daugialypis mokymasis apverčia šį prioritetą, intensyviai sutelkdamas dėmesį į tai, kad netoliese esantys taškai būtų arti vienas kito. Štai kodėl t-SNE ir UMAP sukuria tokias ryškias vizualizacijas, kuriose klasteriai aiškiai išryškėja, net kai šių klasterių pasaulinis išdėstymas yra šiek tiek savavališkas.
Kai duomenų rinkiniai išauga dideli, tiesiniai metodai smarkiai išauga į priekį. PCA galima efektyviai apskaičiuoti naudojant tikrinių reikšmių arba singuliarinių reikšmių skaidymą, o tokios bibliotekos kaip „scikit-learn“ lengvai tvarko milijonus eilučių. Priešingai, daugialypiai algoritmai dažnai reikalauja kurti prastai keičiamo mastelio kaimynystės grafikus, o t-SNE ypač pasižymi kvadratiniu imčių skaičiaus sudėtingumu. UMAP šiek tiek patobulėjo šioje srityje, tačiau abu metodai vis dar gerokai atsilieka nuo tiesinių metodų, skirtų gamybinio masto srautams.
Linijiniai metodai suteikia aiškų pranašumą, kai reikia paaiškinti, ką reiškia redukuoti matmenys. PCA komponentai yra svertiniai originalių savybių deriniai, todėl galite patikrinti apkrovas ir suprasti, kurie kintamieji valdo kiekvieną ašį. Daugiafunkciniai įterpimai yra žinomi dėl savo neskaidrumo, o jų ašys retai atitinka ką nors žmogaus interpretuojamo. Be to, linijiniai metodai leidžia akimirksniu projektuoti naujus duomenų taškus naudojant išmoktą transformacijos matricą, o daugiafunkciniai metodai dažnai reikalauja permokymo arba sudėtingų aproksimacijų, kad būtų galima apdoroti naujus pavyzdžius.
Linijinis matmenų mažinimas išlieka numatytuoju pasirinkimu išankstinio apdorojimo srautams, funkcijų glaudinimui ir situacijose, kai svarbus greitis ir interpretuojamumas. Daugialypis mokymasis užsitarnauja savo vietą, kai duomenys aiškiai turi netiesinę struktūrą, mąstymo vaizdus, kalbos spektrogramas arba genų raiškos profilius, ir kai tikslas yra tyrinėjimas, o ne diegimas. Praktiškai daugelis duomenų mokslininkų pirmiausia taiko PCA kaip pradinį lygį, o tada pereina prie daugialypių metodų tik tada, kai linijinės projekcijos neatskleidžia reikšmingų modelių.
Daugialypis mokymasis visada pranoksta PCA, nes yra sudėtingesnis.
Sudėtingumas nereiškia geresnio našumo. PCA dažnai prilygsta arba pranoksta įvairius metodus tokiose užduotyse kaip klasifikavimo išankstinis apdorojimas ar triukšmo mažinimas. Daugialypis mokymasis išsiskiria specifiniuose scenarijuose, tokiuose kaip vizualizacija, tačiau daugeliui praktinių mašininio mokymosi užduočių PCA yra geresnis pasirinkimas.
t-SNE ir UMAP išsaugo globalią duomenų struktūrą.
Abu metodai aiškiai iškreipia globalius atstumus, kad pabrėžtų vietines kaimynystes. Atstumas tarp klasterių t-SNE diagramoje beveik neturi jokios reikšmingos informacijos, todėl interpretuotina tik santykinė netoliese esančių taškų padėtis.
PCA daro prielaidą, kad duomenys yra normaliai paskirstyti.
PCA nereikalauja normalumo. Ji tik daro prielaidą, kad dispersija yra reikšmingas dydis, kurį reikia išsaugoti, ir kad linijiniai požymių deriniai atspindi svarbią struktūrą. Ji veikia su plačiu skirstinių diapazonu, nors sunkūs duomenys gali iškreipti rezultatus.
Paleidus t-SNE, įterpimą galite naudoti kaip įvestį į tolesnį modelį.
Paprastai nerekomenduojama naudoti t-SNE arba UMAP įterpimų kaip prižiūrimo mokymosi elementų, nes jie iškreipia atstumus ir praranda globalią informaciją. PCA arba kiti linijiniai metodai paprastai yra saugesni elementų inžinerijos kanalų pasirinkimai.
Daugiafunkcinis mokymasis gali sumažinti bet kokį duomenų rinkinį iki 2D, neprarandant informacijos.
Bet koks matmenų mažinimas yra susijęs su tam tikru informacijos praradimu. Daugialypiai metodai išsaugo vietinius ryšius, bet aukoja globalų tikslumą, o agresyvus mažinimas iki 2D gali paslėpti svarbius variantus, kurie yra svarbūs tolesnėms užduotims.
Siekite linijinio matmenų mažinimo, kai jums reikia greičio, interpretuojamumo ir patikimos projekcijos už imties ribų, ypač gamybinio mašininio mokymosi procesuose. Rinkitės daugialypį mokymąsi, kai jūsų tikslas yra tiriamoji vizualizacija arba kai įtariate stiprius netiesinius ryšius, kurių PCA tiesiog negali užfiksuoti. Protingiausias darbo eiga dažnai apima PCA išbandymą ir pereinamumą prie daugialypių metodų tik tada, kai linijinis požiūris yra nepakankamas.
„DeepSeek V4“ yra kylantis atvirojo svorio didelių kalbų modelis, sukurtas Kinijos dirbtinio intelekto laboratorijoje, o GPT-4 klasės modeliai nurodo „OpenAI“ flagmanines uždarojo kodo sistemas. Šiame palyginime nagrinėjama jų architektūra, galimybės, kainos, prieinamumas ir našumas realiame pasaulyje, siekiant padėti kūrėjams ir įmonėms išmintingai pasirinkti.
„Google“ paieška yra plataus masto žiniatinklio indeksavimo variklis, kurį dauguma žmonių naudoja kasdien, o „Knowledge Graph Search“ yra „Google“ struktūrizuotų objektų duomenų bazė, kurioje pateikiami tiesioginiai atsakymai ir informacijos skydeliai. Supratimas, kuo jie skiriasi, padeda paaiškinti, kodėl kai kurios užklausos pateikia išsamius faktus, o kitos – tradicines mėlynas nuorodas.
„Google“ paieškos algoritmas reitinguoja milijardus tinklalapių, naudodamas mašininį mokymąsi ir šimtus signalų, o supaprastinti klasių modeliai perteikia dirbtinio intelekto koncepcijas į lengvai mokomas, prieinamas sistemas. Viena sistema veikia planetos mastu gamyboje; kita tarnauja kaip pedagoginis tiltas mokiniams, mokantis, kaip iš tikrųjų veikia dirbtinis intelektas.
„Vienas su vienu“ atitikimo metodas kiekvienam pagrindiniam objektui priskiria vieną numatomą langelį, o „daugelis su vienu“ atitikimo metodas leidžia kelias prognozes suderinti su vienu taikiniu. Abi strategijos formuoja tai, kaip šiuolaikiniai detektoriai, tokie kaip DETR ir „Faster R-CNN“, mokosi lokalizuoti objektus, kiekvienas iš jų turi skirtingus kompromisus tikslumo, mokymo stabilumo ir pasikartojančių aptikimų tvarkymo srityse.
A/B testavimas modeliuose nukreipia srautą tarp konkuruojančių modelio versijų, kad būtų galima įvertinti realų našumą, o diegiant vieną modelį visiems vartotojams pateikiamas vienas modelis. Komandos renkasi iš jų pagal rizikos toleranciją, srauto kiekį ir statistinio patvirtinimo poreikį prieš visišką diegimą.
