Mitmekesine õppimine ja lineaarne dimensioonide vähendamine käsitlevad mõlemad kõrgmõõtmelisi andmeid, kuid erinevad põhimõtteliselt selle poolest, kuidas nad struktuuri säilitavad. Lineaarsed meetodid eeldavad, et andmed asuvad tasasel hüpertasandil, samas kui mitmekesine õppimine paljastab kõverad, mittelineaarsed seosed. Nende vahel valimine sõltub sellest, kas teie andmete sisemine geomeetria on tasane või kõver.
Mittelineaarsete tehnikate klass, mis paljastab kõrgmõõtmeliste andmete sees peidetud madalamõõtmelisi kõveraid struktuure.
Meetodid, mis projitseerivad kõrgmõõtmelisi andmeid madalama mõõtmega alamruumidesse lineaarsete teisenduste abil.
| Funktsioon | Mitmekesine õppimine | Lineaarse dimensiooni vähendamine |
|---|---|---|
| Põhiline eeldus | Andmed asuvad kõveral madalamõõtmelisel kollektoril | Andmed asuvad tasasel lineaarsel alamruumil |
| Struktuur säilinud | Peamiselt kohalikud naabruskonnad | Peamiselt globaalne dispersioon |
| Arvutuslik maksumus | Üldiselt kõrgem, sageli O(n²) või halvem | Madal, tavaliselt O(n·d²) või kiirem |
| Tõlgendatavus | Alumisel teljel on harva otsest tähendust | Kõrgemal tasemel on komponendid sageli seotud originaalfunktsioonidega |
| Skaleeritavus | Piiratud, pingutab üle kümnete tuhandete punktide | Suurepärane, töötleb miljoneid proove |
| Valimiväline projektsioon | Keeruline, nõuab lähendusmeetodeid | Lihtne maatriksi korrutamise kaudu |
| Parimad kasutusjuhud | Visualiseerimine, mittelineaarsed mustrid, pilt ja bioloogilised andmed | Funktsioonide tihendamine, eeltöötlus, müra vähendamine |
| Näidisalgoritmid | t-SNE, UMAP, Isomap, LLE | PCA, LDA, faktoranalüüs, kärbitud SVD |
Nende lähenemisviiside suurim filosoofiline lahknevus seisneb selles, mida nad arvavad teie andmete kuju kohta. Lineaarne dimensioonilisuse vähendamine käsitleb kõrgmõõtmelisi andmeid nii, nagu need asuksid tasasel hüpertasandil, kus sirgjooned ja ortogonaalsed projektsioonid jäädvustavad kõige olulisema variatsiooni. Mitmekesine õppimine on vastupidisel seisukohal, väites, et reaalse maailma andmed sageli voldivad ja kõverduvad kõrgmõõtmelises ruumis nagu kortsus paberitükk. Kui te selle paberi lahti harutate, saate kahemõõtmelise pinna ja mitmekesised algoritmid püüavad just seda matemaatiliselt teha.
Lineaarsed meetodid, nagu PCA, on globaalse struktuuri eestkõnelejad. Need tagavad, et algses ruumis kaugel asuvad punktid jäävad ka projektsiooni järel kaugele, mis on suurepärane üldise dispersiooni mõistmiseks, kuid võib hägustada peeneteralisi klastreid. Mitmekesine õppimine pöörab selle prioriteedi ümber, keskendudes intensiivselt lähedalasuvate punktide lähestikku hoidmisele. Seetõttu loovad t-SNE ja UMAP need silmatorkavad visualiseeringud, kus klastrid selgelt esile kerkivad, isegi kui nende klastrite globaalne paigutus on mõnevõrra meelevaldne.
Kui andmestikud suureks kasvavad, liiguvad lineaarsed meetodid märkimisväärselt edasi. PCA-d saab tõhusalt arvutada omaväärtuste või singulaarsete väärtuste dekompositsiooni abil ning teegid nagu scikit-learn saavad miljonite ridadega hõlpsalt hakkama. Mitmekesised algoritmid seevastu nõuavad sageli halvasti skaleeruvate naabruskonna graafikute ehitamist ja eriti t-SNE-l on valimite arvu ruutkeskmine keerukus. UMAP paranes selles osas mõnevõrra, kuid mõlemad jäävad tootmismahu torujuhtmete puhul lineaarsetest meetoditest siiski kaugele maha.
Lineaarsed meetodid pakuvad selget eelist, kui on vaja selgitada, mida vähendatud mõõtmed tähendavad. PCA komponendid on algsete tunnuste kaalutud kombinatsioonid, nii et saate kontrollida koormusi ja mõista, millised muutujad iga telge juhivad. Mitmekesised manustused on kurikuulsalt läbipaistmatud, telgedega, mis harva vastavad millelegi inimese poolt tõlgendatavale. Lisaks võimaldavad lineaarsed meetodid teil õpitud teisendusmaatriksi abil koheselt uusi andmepunkte projitseerida, samas kui mitmekesised meetodid vajavad uute valimite käsitlemiseks sageli ümberõpetamist või keerulisi lähendusi.
Lineaarne dimensioonide vähendamine jääb vaikimisi valikuks eeltöötlustorustike, tunnuste tihendamise ja olukordade puhul, kus kiirus ja tõlgendatavus on olulised. Mitmekesine õppimine teenib oma koha ära, kui andmetel on selgelt mittelineaarne struktuur, mõtlevad pildid, kõnespektrogrammid või geeniekspressiooni profiilid ning kui eesmärk on uurimine, mitte juurutamine. Praktikas kasutavad paljud andmeteadlased PCA-d esmalt baasjoonena ja seejärel pöörduvad mitmekesiste meetodite poole ainult siis, kui lineaarsed projektsioonid ei suuda olulisi mustreid paljastada.
Mitmekesine õppimine on alati PCA-st parem, kuna see on keerukam.
Keerukus ei võrdu parema jõudlusega. PCA sobib või edestab sageli mitmeid meetodeid selliste ülesannete puhul nagu klassifitseerimise eeltöötlus või müra vähendamine. Mitmekesine õpe paistab silma konkreetsetes stsenaariumides, näiteks visualiseerimisel, kuid paljude praktiliste masinõppeülesannete puhul on PCA tugevam valik.
t-SNE ja UMAP säilitavad andmete globaalse struktuuri.
Mõlemad meetodid moonutavad globaalseid vahemaid, et rõhutada kohalikke naabruskondi. Klastrite vaheline kaugus t-SNE graafikul ei kanna peaaegu mingit olulist teavet ja tõlgendada tuleks ainult lähedalasuvate punktide suhtelist asukohta.
PCA eeldab, et andmed on normaaljaotusega.
PCA ei nõua normaalsust. See eeldab vaid, et dispersioon on oluline suurus, mida säilitada, ja et tunnuste lineaarsed kombinatsioonid tabavad olulise struktuuri. See töötab laia jaotusvahemiku korral, kuigi raske sabaga andmed võivad tulemusi moonutada.
Kui olete t-SNE käivitanud, saate manustamist kasutada sisendina allavoolu mudelile.
t-SNE või UMAP-i manustamise kasutamist juhendatud õppe tunnustena üldiselt ei soovitata, kuna need moonutavad vahemaid ja kaotavad globaalset teavet. PCA või muud lineaarsed meetodid on tavaliselt tunnuste projekteerimise torujuhtmete jaoks ohutumad valikud.
Mitmekesine õppimine suudab iga andmestiku kahemõõtmeliseks taandada ilma teabekaota.
Igasugune dimensioonide vähendamine toob kaasa teatud informatsiooni kadu. Mitmekesised meetodid säilitavad lokaalsed seosed, kuid ohverdavad globaalse täpsuse ja agressiivne kahemõõtmelisusse taandamine võib varjata olulisi variatsioone, mis on olulised järgnevate ülesannete jaoks.
Lineaarse dimensiooni vähendamise poole pöörduge siis, kui vajate kiirust, tõlgendatavust ja usaldusväärset valimivälist projektsiooni, eriti masinõppe tootmisprotsessides. Valige mitmekesine õpe, kui teie eesmärk on uurimuslik visualiseerimine või kui kahtlustate tugevaid mittelineaarseid seoseid, mida PCA lihtsalt ei suuda tabada. Kõige targem töövoog hõlmab sageli PCA proovimist esmalt ja mitmekesiste meetodite juurde üleminekut alles siis, kui lineaarne vaade ei ole piisav.
Mudeliteenuse A/B-testimine suunab liiklust konkureerivate mudeliversioonide vahel, et mõõta reaalset toimivust, samas kui ühe mudeli juurutamine saadab kõigile kasutajatele ühe mudeli. Meeskonnad valivad nende vahel riskitaluvuse, liiklusmahu ja statistilise valideerimise vajaduse alusel enne täielikku juurutamist.
Sisuväljaannete A/B-testimine hõlmab variatsioonide levitamist erinevatele sihtrühmadele ja tulemuslikkuse mõõtmist, samas kui ühekordsed sisuväljaanded suunavad ühe versiooni korraga kõigile. Igal lähenemisviisil on erinevad eesmärgid, kusjuures A/B-testimine eelistab andmepõhist optimeerimist ja ühekordsed väljaanded seavad esikohale kiiruse ja lihtsuse.
See detailne võrdlus uurib adaptiivsete intelligentsete mootorite arhitektuurilisi erinevusi, operatsioonilisi piiranguid ja reaalset jõudlust võrreldes fikseeritud käitumisega automatiseerimissüsteemidega. Vaatleme, kuidas süsteemid, mis pidevalt õpivad uutest keskkonnaandmetest, sobivad kokku jäikade ja ennustatavate reeglipõhiste raamistikega.
Adaptiivne otsing kohandab dünaamiliselt, kuidas ja millist teavet süsteem päringu põhjal hangib, samas kui staatilised otsingukanalid järgivad fikseeritud reegleid olenemata kontekstist. Mõlemad toetavad tänapäevaseid tehisintellekti rakendusi, kuid erinevad oluliselt paindlikkuse, maksumuse ja täpsuse poolest. Nende vahel valimine sõltub töökoormuse keerukusest ja eelarvest.
Agentide koolitamine keskkondades hõlmab õppimist reaalajas simuleeritud või füüsilise keskkonnaga suhtlemise kaudu, samas kui võrguühenduseta andmestiku koolitamine tugineb eelnevalt kogutud andmetele ilma täiendava keskkonnale juurdepääsuta. Mõlemad lähenemisviisid treenivad masinõppe mudeleid, kuid erinevad põhimõtteliselt selle poolest, kuidas agendid kogemusi koguvad ja jõudlust parandavad.
