Iezīmju apgriešana un iezīmju bagātināšana mašīnmācībā ir pretējas stratēģijas: viena noņem nevajadzīgus datus, lai vienkāršotu modeļus, bet otra pievieno jaunu informāciju, lai uzlabotu prognozēšanas spēju. Izvēle starp tām ir atkarīga no tā, vai jūsu modelim ir troksnis vai trūkstošs konteksts.
Iezīmes
Atzarošana samazina pārmērīgu piemērotību, savukārt bagātināšana cīnās ar nepietiekamu piemērotību.
Atzarošana samazina skaitļošanas izmaksas; bagātināšana tās bieži palielina.
Bagātināšana pievieno kontekstu no ārējiem avotiem; apgriešana noņem iekšējo troksni.
Lielākā daļa veiksmīgo projektu izmanto abas stratēģijas secīgi.
Kas ir Funkciju apgriešana?
Metode, kas no datu kopas noņem neatbilstošas vai liekas funkcijas, lai uzlabotu modeļa veiktspēju un samazinātu sarežģītību.
Daudzos kontekstos iezīmju atzarošana ir pazīstama arī kā iezīmju atlase vai dimensiju samazināšana.
Tas palīdz samazināt pārmērīgu pielāgošanu, novēršot trokšņainus mainīgos, kas apmācības laikā mulsina modeli.
Izplatītākās metodes ietver rekursīvu pazīmju elimināciju, L1 regularizāciju un savstarpēju informācijas vērtēšanu.
Mazāki funkciju kopumi nodrošina ātrāku apmācības laiku un zemākas skaitļošanas izmaksas.
Atzarošana var uzlabot modeļa interpretējamību, koncentrējoties tikai uz visnozīmīgākajiem ievades datiem.
Kas ir Funkciju bagātināšana?
Jaunu mainīgo pievienošanas vai esošo pārveidošanas process, lai mašīnmācīšanās modeļiem sniegtu bagātīgāku informāciju prognozēm.
Funkciju bagātināšana bieži ietver atvasinātu funkciju izveidi no neapstrādātiem datiem, piemēram, attiecībām, apkopojumiem vai iegultiem elementiem.
Tas var ietvert ārējus datu avotus, piemēram, laika apstākļus, demogrāfiskos datus vai ekonomiskos rādītājus, lai paplašinātu kontekstu.
Metodes ietver vienreizēju kodēšanu, mērķa kodēšanu, polinoma pazīmes un pazīmju šķērsošanu.
Bagātināšana ir īpaši vērtīga tādās jomās kā krāpšanas atklāšana un ieteikumu sistēmas, kur kontekstam ir nozīme.
Tas var ievērojami palielināt precizitāti, ja sākotnējam datu kopumam trūkst kritisku paredzošo signālu.
Salīdzinājuma tabula
Funkcija
Funkciju apgriešana
Funkciju bagātināšana
Galvenais mērķis
Noņemiet nevajadzīgas funkcijas
Pievienojiet vērtīgas funkcijas
Ietekme uz datu kopas lielumu
Samazina funkciju skaitu
Palielina funkciju skaitu
Ietekme uz modeļa sarežģītību
Vienkāršo modeli
Palielina modeļa sarežģītību
Vislabāk lietot, kad
Modelis ir pārāk pielāgots vai lēns
Modelis neatbilst kontekstam vai tam trūkst konteksta
Izplatītas metodes
Laso, uz kokiem balstīta svarīguma pakāpe, PCA
Kodēšana, iegulšana, funkciju krustojumi
Risks
Noderīgu funkciju kļūdaina noņemšana
Trokšņainu vai lieku funkciju pievienošana
Aprēķina izmaksas
Parasti zemāks pēc apgriešanas
Parasti augstāks vairāku funkciju dēļ
Interpretējamība
Parasti uzlabojas
Var kļūt grūtāk interpretējams
Detalizēts salīdzinājums
Galvenā filozofija
Iezīmju atzarošana atbilst minimālisma filozofijai: mazāk ir vairāk. Atmetot mainīgos, kuriem ir maza paredzamā vērtība, modelis koncentrējas uz to, kas patiešām ir svarīgs. Iezīmju bagātināšana ieņem pretēju nostāju, uzskatot, ka bagātīgāki, detalizētāki ievaddati noved pie gudrākām prognozēm. Abām filozofijām ir savas priekšrocības, un pareizā izvēle ir atkarīga no jūsu sākuma datu kvalitātes un pilnīguma.
Kad katra pieeja spīd
Atzarošana vislabāk darbojas, ja ir simtiem vai tūkstošiem pazīmju un ir aizdomas, ka daudzas no tām ir troksnis, piemēram, genoma datos vai teksta klasifikācijā ar vārdu maisa modeļiem. Bagātināšana vislabāk darbojas, ja jūsu datu kopa ir reti sastopama vai tai trūkst kritiska konteksta, piemēram, prognozējot klientu aizplūšanu, izmantojot tikai pamata demogrāfiskos datus bez uzvedības vēstures. Praksē datu zinātnieki bieži apvieno abus: vispirms bagātina, pēc tam apgriež paplašināto kopu.
Veiktspējas un efektivitātes kompromisi
Apgrieztie modeļi parasti apmācās ātrāk un tiek izvietoti ar mazāku atmiņas patēriņu, padarot tos ideāli piemērotus perifērijas ierīcēm vai reāllaika sistēmām. Bagātināti modeļi var sasniegt augstāku precizitāti, taču tas ir ilgāka apmācības laika un lielāku krātuves vajadzību rēķina. Bagātināšanas skaitļošanas izmaksas var attaisnot, ja precizitātes pieaugums tieši pārvēršas biznesa vērtībā, piemēram, medicīniskā diagnostikā vai krāpšanas novēršanā.
Kļūdu risks
Lielākās apgriešanas briesmas ir tādas pazīmes likvidēšana, kas šķiet nesvarīga, bet patiesībā bija svarīga smalkās mijiedarbībās. Bagātināšanas galvenais risks ir pazīmju eksplozija, kur pārāk daudzu atvasinātu mainīgo pievienošana rada multikolinearitāti un pārmērīgu pielāgošanu. Abas šīs problēmas var mazināt, veicot savstarpēju validāciju un rūpīgi uzraugot validācijas rādītājus eksperimentu laikā.
Interpretējamība un atkļūdošana
Atzarošana dabiski noved pie vienkāršākiem modeļiem, ko ieinteresētās personas var saprast, jo mazāk ievades datu nozīmē skaidrākus skaidrojumus. Bagātināšana var radīt neskaidrības, ieviešot inženierijas elementus, kuru nozīme nav acīmredzama, piemēram, iegulšanas vektorus vai mijiedarbības terminus. Tomēr labi dokumentēti bagātināšanas kanāli ar skaidriem elementu nosaukumiem var saglabāt interpretējamību, vienlaikus uzlabojot veiktspēju.
Priekšrocības un trūkumi
Funkciju apgriešana
Iepriekšējumi
+Ātrāka apmācība
+Mazāk pārmēru
+Vienkāršāka interpretācija
+Mazākas uzglabāšanas vajadzības
Ievietots
−Signāla noņemšanas risks
−Var kaitēt precizitātei
−Nepieciešama validācijas aprūpe
−Grūti perfekti automatizēt
Funkciju bagātināšana
Iepriekšējumi
+Augstāks precizitātes potenciāls
+Uztver slēptus modeļus
+Izmanto ārējos datus
+Elastīgas transformācijas
Ievietots
−Paaugstināta sarežģītība
−Augstākas skaitļošanas izmaksas
−Trokšņa risks
−Grūtāk atkļūdot
Biežas maldības
Mīts
Vairāk funkciju vienmēr nozīmē labāku modeli.
Realitāte
Funkciju pievienošana bez pamatojuma bieži rada troksni un multikolinearitāti, kas var kaitēt veiktspējai. Kvalitāte un atbilstība ir daudz svarīgākas par kvantitāti, tāpēc atzarošana joprojām ir svarīga pat pēc bagātināšanas.
Mīts
Funkciju apgriešana ir tikai kolonnu nejauša dzēšana.
Realitāte
Efektīva atzarošana izmanto statistiskus testus, uz modeļiem balstītus svarīguma rādītājus vai domēna zināšanas, lai identificētu patiesi nederīgas funkcijas. Nejauša dzēšana gandrīz noteikti noņemtu vērtīgu signālu kopā ar troksni.
Mīts
Funkciju bagātināšana vienmēr uzlabo precizitāti.
Realitāte
Bagātināšana palīdz tikai tad, ja jaunās funkcijas satur patiesu paredzošu informāciju. Neatbilstošu vai lieku inženiertehnisko funkciju pievienošana var tikpat viegli pasliktināt modeļa veiktspēju, cik to var uzlabot.
Mīts
Jums jāizvēlas viena vai otra stratēģija.
Realitāte
Reālās pasaules mašīnmācīšanās procesos bagātināšana un atzarošana ir savstarpēji papildinoši soļi. Komandas parasti vispirms bagātina neapstrādātus datus un pēc tam atzaro paplašināto funkciju kopu, lai saglabātu tikai to, kas patiešām ietekmē prognozes.
Mīts
Atzarošana pēc definīcijas padara modeļus mazāk precīzus.
Realitāte
Atzarošana noņem pazīmes, kas kaitē vispārināšanai, tāpēc labi izpildīta atzarošana bieži vien uzlabo testa kopas precizitāti. Mērķis nav patvaļīgi samazināt pazīmes, bet gan saglabāt tikai tās, kas jēgpilni veicina prognozes.
Bieži uzdotie jautājumi
Kāda ir atšķirība starp pazīmju apgriešanu un pazīmju atlasi?
Iezīmju apgriešana un iezīmju atlase bieži tiek lietotas kā sinonīmi, abas atsaucoties uz mazāk svarīgu iezīmju identificēšanas un noņemšanas procesu. Daži praktiķi brīvāk lieto terminu “apgriešana”, lai aprakstītu iteratīvu noņemšanu modeļa apmācības laikā, savukārt “atlase” nozīmē formālāku novērtēšanas soli. Praksē šīs metodes ievērojami pārklājas un kalpo vienam un tam pašam mērķim – vienkāršot modeļus.
Vai pazīmju apgriešanu un bagātināšanu var izmantot kopā?
Pilnīgi noteikti, un lielākā daļa ražošanas mašīnmācīšanās darbplūsmu dara tieši to. Tipisks cauruļvads sākas ar bagātināšanu, lai izstrādātu noderīgas funkcijas un iekļautu ārējos datus, pēc tam tiek piemērota atzarošana, lai izslēgtu visu, kas neveicina nozīmīgu darbu. Šī kombinācija nodrošina bagātināšanas precizitātes priekšrocības, vienlaikus saglabājot modeļu optimizāciju un ātrumu.
Kā es varu zināt, vai manam modelim ir nepieciešama apgriešana vai bagātināšana?
Apskatiet validācijas rādītājus un mācīšanās līknes. Ja apmācības precizitāte ir daudz augstāka nekā validācijas precizitāte, modelis ir pārāk piemērots un, iespējams, ir nepieciešams to atzarot. Ja abas precizitātes ir zemas un ātri sasniedz plato līmeni, modelis nav pietiekami piemērots un, iespējams, ir nepieciešams papildināt ar informatīvākām funkcijām.
Kādas ir izplatītākās iezīmju bagātināšanas metodes?
Populāras bagātināšanas metodes ietver vienreizēju kodēšanu kategoriskajiem mainīgajiem, mērķa kodēšanu augstas kardinalitātes pazīmēm, polinomu pazīmes mijiedarbību tveršanai un iegulšanu teksta vai kategoriskajiem datiem. Ārējo datu integrācija, piemēram, laikapstākļu vai ekonomisko rādītāju pievienošana, ir vēl viens spēcīgs bagātināšanas veids, kas modelī ienes reālās pasaules kontekstu.
Vai funkciju apgriešana samazina pārmērīgu pielāgošanu?
Jā, atzarošana ir viens no efektīvākajiem veidiem, kā cīnīties pret pārmērīgu pielāgošanu. Noņemot trokšņainas vai liekas funkcijas, modelim ir mazāk iespēju iegaumēt apmācības datu modeļus, kas netiek vispārināti. Tas parasti nodrošina labāku veiktspēju ar neredzētiem testa datiem un stabilākas prognozes ražošanas vidē.
Vai funkciju bagātināšana ir tas pats, kas funkciju inženierija?
Funkciju bagātināšana ir funkciju inženierijas apakškopa. Funkciju inženierija aptver visu neapstrādātu datu pārveidošanu par modelim gataviem ievades datiem, savukārt bagātināšana īpaši attiecas uz jaunas informācijas pievienošanu, izmantojot atvasinātas funkcijas, ārējos avotus vai uzlabotus kodējumus. Abas ietilpst plašākā datu sagatavošanas mašīnmācībai jomā.
Cik daudz funkciju man vajadzētu saglabāt pēc apgriešanas?
Nav universāla skaitļa, taču bieži lietota heiristika ir saglabāt funkcijas, kas veido vismaz 1 līdz 5 procentus no modeļa paredzēšanas jaudas. Labākais veids, kā noteikt optimālo skaitu, ir savstarpēja validācija: pakāpeniski apgriezt un pārtraukt, kad validācijas veiktspēja sāk pasliktināties. Zināšanas par jomu var arī norādīt, kuras funkcijas ir svarīgi saglabāt.
Vai funkciju bagātināšana vienmēr palielina modeļa sarežģītību?
Parasti jā, jo jūs pievienojat vairāk ievades dimensiju, ko modelim apstrādāt. Tomēr gudra bagātināšana dažreiz var vienkāršot mācīšanos, padarot modeļus skaidrākus, piemēram, izveidojot funkciju “cena par kvadrātpēdu”, nevis atsevišķi ievadot neapstrādātu cenu un platību. Galvenais ir nodrošināt, lai katra jaunā funkcija pievienotu patiesu vērtību, nevis tikai masveida datus.
Kura pieeja ir labāka maziem datu kopumiem?
Mazas datu kopas parasti iegūst lielāku labumu no rūpīgas bagātināšanas nekā no agresīvas apgriešanas. Ierobežotu datu gadījumā, noņemot iezīmes, modelim var palikt pārāk maz informācijas, no kuras mācīties. Bagātināšana, izmantojot pārdomātu iezīmju izstrādi un ārēju datu integrāciju, var kompensēt mazo izlases lielumu, nodrošinot bagātīgāku kontekstu katram novērojumam.
Vai ir pieejami automatizēti rīki funkciju apgriešanai un bagātināšanai?
Jā, vairākas bibliotēkas atbalsta abas darbplūsmas. Scikit-learn piedāvā SelectKBest un rekursīvu funkciju elimināciju atzarošanai, savukārt Featuretools automatizē bagātināšanu, izmantojot funkciju sintēzi. Uzlabotāki rīki, piemēram, AutoML platformas, apstrādā abas puses, automātiski meklējot optimālu izstrādāto un atlasīto funkciju kombināciju.
Spriedums
Izvēlieties funkciju apgriešanu, ja jūsu modelis ir pārāk pielāgots, pārāk lēni apmācīts vai tam ir grūtības ar daudzdimensionāliem datiem. Izvēlieties funkciju bagātināšanu, ja precizitāte ir stagnējoša, jo jūsu datu kopai trūkst konteksta, kas nepieciešams, lai uztvertu reālās pasaules modeļus. Vairumā ražošanas darbplūsmu gudrākais ceļš ir pārdomāti bagātināt un pēc tam agresīvi apgriezt, lai atrastu optimālo līdzsvaru.