Tunnuste kärpimine ja rikastamine esindavad masinõppes vastandlikke strateegiaid: üks eemaldab mudelite lihtsustamiseks ebavajalikke andmeid, teine aga lisab uut teavet ennustusvõime suurendamiseks. Nende vahel valik sõltub sellest, kas teie mudelis on müra või puuduv kontekst.
Tehnika, mis eemaldab andmestikust ebaolulised või üleliigsed funktsioonid, et parandada mudeli jõudlust ja vähendada keerukust.
Protsess, mille käigus lisatakse uusi muutujaid või muudetakse olemasolevaid, et anda masinõppemudelitele ennustuste jaoks rikkamat teavet.
| Funktsioon | Funktsioonide kärpimine | Funktsioonide rikastamine |
|---|---|---|
| Peamine eesmärk | Eemaldage ebavajalikud funktsioonid | Lisage väärtuslikke omadusi |
| Mõju andmestiku suurusele | Vähendab funktsioonide arvu | Suurendab funktsioonide arvu |
| Mõju mudeli keerukusele | Lihtsustab mudelit | Suurendab mudeli keerukust |
| Parim kasutada millal | Mudel on liiga sobituv või aeglane | Mudel ei sobi kokku kontekstiga või sellest puudub kontekst |
| Levinud tehnikad | Lasso, puupõhine tähtsus, PCA | Kodeerimine, manustamine, tunnuste ristumine |
| Risk | Kasulike funktsioonide kogemata eemaldamine | Müravate või üleliigsete funktsioonide lisamine |
| Arvutuslik maksumus | Üldiselt madalam pärast pügamist | Üldiselt kõrgem tänu suuremale hulgale funktsioonidele |
| Tõlgendatavus | Tavaliselt paraneb | Võib muutuda raskemini tõlgendatavaks |
Tunnuste kärpimine järgib minimalistlikku filosoofiat: vähem on rohkem. Eemaldades muutujad, millel on vähe ennustusväärtust, keskendub mudel sellele, mis on tõeliselt oluline. Tunnuste rikastamine on vastupidisel seisukohal, uskudes, et rikkalikumad ja detailsemad sisendid viivad targemate ennustusteni. Mõlemal filosoofial on oma väärtus ja õige valik sõltub teie lähteandmete kvaliteedist ja täielikkusest.
Kärpimine toimib kõige paremini siis, kui teil on sadu või tuhandeid tunnuseid ja kahtlustate, et paljud neist on müra, näiteks genoomsete andmete või teksti klassifitseerimise puhul sõnade koti mudelite abil. Rikastamine on eriti kasulik siis, kui teie andmestik on hõre või sellest puudub kriitiline kontekst, näiteks klientide lahkumise ennustamine ainult põhiliste demograafiliste andmete abil ilma käitumisajaloota. Praktikas ühendavad andmeteadlased sageli mõlemat: rikastavad kõigepealt ja seejärel kärpivad laiendatud komplekti.
Kärbitud mudelid treenivad tavaliselt kiiremini ja juurutuvad väiksema mälujalajäljega, mistõttu on need ideaalsed servaseadmete või reaalajas süsteemide jaoks. Rikastatud mudelid võivad saavutada suurema täpsuse, kuid pikema treeningaja ja suurema salvestusvajaduse hinnaga. Rikastamise arvutuslikku lisakoormust saab õigustada, kui täpsuse suurenemine annab otseselt äriväärtust, näiteks meditsiinilise diagnoosimise või pettuste ennetamise puhul.
Kärpimise suurim oht on sellise tunnuse eemaldamine, mis tundus ebaoluline, aga tegelikult oli peentes interaktsioonides oluline. Rikastamise peamine risk on tunnuste plahvatus, kus liiga paljude tuletatud muutujate lisamine toob kaasa multikollineaarsuse ja ülemäärase sobitamise. Mõlemat lõksu saab leevendada ristvalideerimise ja valideerimismõõdikute hoolika jälgimisega eksperimenteerimise ajal.
Kärpimine viib loomulikult lihtsamate mudeliteni, mida sidusrühmad paremini mõistavad, kuna vähem sisendeid tähendab selgemaid selgitusi. Rikastamine võib vett sogastada, lisades konstrueeritud funktsioone, mille tähendus pole ilmne, näiteks manustamisvektorid või interaktsiooniterminid. Siiski võivad hästi dokumenteeritud rikastamiskanalid selgete tunnusnimedega säilitada tõlgendatavuse, parandades samal ajal jõudlust.
Rohkem funktsioone tähendab alati paremat mudelit.
Funktsioonide lisamine ilma põhjenduseta tekitab sageli müra ja multikollineaarsust, mis võib kahjustada jõudlust. Kvaliteet ja asjakohasus on palju olulisemad kui kvantiteet, mistõttu on kärpimine oluline ka pärast rikastamist.
Funktsioonide kärpimine on lihtsalt veergude juhuslik kustutamine.
Tõhus kärpimine kasutab statistilisi teste, mudelipõhiseid olulisuse hindeid või valdkonnaekspertiisi, et tuvastada tõeliselt kasutuid tunnuseid. Juhuslik kustutamine eemaldaks peaaegu kindlasti koos müraga ka väärtusliku signaali.
Funktsioonide rikastamine parandab alati täpsust.
Rikastamine on kasulik ainult siis, kui uued funktsioonid sisaldavad tõelist ennustavat teavet. Ebaoluliste või üleliigsete konstrueeritud funktsioonide lisamine võib mudeli jõudlust sama kergesti halvendada kui parandada.
Sa pead valima ühe või teise strateegia.
Reaalses masinõppes on rikastamine ja kärpimine teineteist täiendavad sammud. Meeskonnad rikastavad tavaliselt esmalt toorandmeid ja seejärel kärbivad laiendatud funktsioonide komplekti, et säilitada ainult see, mis ennustusi tegelikult suunab.
Kärpimine muudab mudelid definitsiooni järgi vähem täpseks.
Kärpimine eemaldab üldistamist kahjustavad tunnused, seega parandab hästi teostatud kärpimine sageli testikomplekti täpsust. Eesmärk ei ole tunnuseid meelevaldselt minimeerida, vaid säilitada ainult need, mis ennustustele oluliselt kaasa aitavad.
Tunnuste kärpimine on eelistatav, kui teie mudel on liiga sobitatud, treenib liiga aeglaselt või tal on raskusi suuremõõtmeliste andmetega. Tunnuste rikastamine on eelistatav, kui täpsus on stabiliseerunud, kuna teie andmestikul puudub reaalsete mustrite tabamiseks vajalik kontekst. Enamikus tootmisprotsessides on kõige targem tee läbimõeldult rikastada ja seejärel optimaalse tasakaalu leidmiseks agressiivselt kärpida.
Mudeliteenuse A/B-testimine suunab liiklust konkureerivate mudeliversioonide vahel, et mõõta reaalset toimivust, samas kui ühe mudeli juurutamine saadab kõigile kasutajatele ühe mudeli. Meeskonnad valivad nende vahel riskitaluvuse, liiklusmahu ja statistilise valideerimise vajaduse alusel enne täielikku juurutamist.
Sisuväljaannete A/B-testimine hõlmab variatsioonide levitamist erinevatele sihtrühmadele ja tulemuslikkuse mõõtmist, samas kui ühekordsed sisuväljaanded suunavad ühe versiooni korraga kõigile. Igal lähenemisviisil on erinevad eesmärgid, kusjuures A/B-testimine eelistab andmepõhist optimeerimist ja ühekordsed väljaanded seavad esikohale kiiruse ja lihtsuse.
See detailne võrdlus uurib adaptiivsete intelligentsete mootorite arhitektuurilisi erinevusi, operatsioonilisi piiranguid ja reaalset jõudlust võrreldes fikseeritud käitumisega automatiseerimissüsteemidega. Vaatleme, kuidas süsteemid, mis pidevalt õpivad uutest keskkonnaandmetest, sobivad kokku jäikade ja ennustatavate reeglipõhiste raamistikega.
Adaptiivne otsing kohandab dünaamiliselt, kuidas ja millist teavet süsteem päringu põhjal hangib, samas kui staatilised otsingukanalid järgivad fikseeritud reegleid olenemata kontekstist. Mõlemad toetavad tänapäevaseid tehisintellekti rakendusi, kuid erinevad oluliselt paindlikkuse, maksumuse ja täpsuse poolest. Nende vahel valimine sõltub töökoormuse keerukusest ja eelarvest.
Agentide koolitamine keskkondades hõlmab õppimist reaalajas simuleeritud või füüsilise keskkonnaga suhtlemise kaudu, samas kui võrguühenduseta andmestiku koolitamine tugineb eelnevalt kogutud andmetele ilma täiendava keskkonnale juurdepääsuta. Mõlemad lähenemisviisid treenivad masinõppe mudeleid, kuid erinevad põhimõtteliselt selle poolest, kuidas agendid kogemusi koguvad ja jõudlust parandavad.
