Mašīnmācībā modeļa veiktspēju ietekmē gan datu kvalitāte, gan datu kvantitāte, taču tie darbojas dažādos virzienos. Kvalitāte attiecas uz to, cik tīri, atbilstoši un labi marķēti ir jūsu apmācības dati, savukārt kvantitāte koncentrējas uz apjomu. Vislabākos rezultātus parasti iegūst, līdzsvarojot abus, lai gan pētījumi arvien vairāk liecina, ka kvalitāte bieži vien uzvar.
Iezīmes
Uz kvalitāti orientēti datu kopumi specializētos uzdevumos var pārspēt lielākus, trokšņainus datu kopumus
Mērogošanas likumi liecina, ka modeļa veiktspēja paredzami uzlabojas, palielinoties datu apjomam
Galīgā modeļa veiktspējai etiķetes precizitāte bieži vien ir svarīgāka par datu kopas lielumu
Optimālais līdzsvars ir atkarīgs no tā, vai modelis ir specializēts vai universāls.
Kas ir Datu kvalitāte?
Mērījums, kas raksturo, cik tīri, precīzi, atbilstoši un labi marķēti ir apmācības dati mašīnmācīšanās modeļiem.
Augstas kvalitātes dati ir konsekventi marķēti, bez trokšņiem un reprezentatīvi attiecībā uz problēmu jomu, kas modelim ir jāatrisina.
Google un Stenfordas pētījumi liecina, ka mazāki, rūpīgi atlasīti datu kopumi konkrētos uzdevumos var pārspēt milzīgus, trokšņainus datu kopumus.
Kvalitāte ietver precizitāti, pilnīgumu, konsekvenci, savlaicīgumu un derīgumu visos datu punktos.
Tādas metodes kā datu tīrīšana, deduplikācija un pretrunīga filtrēšana uzlabo kvalitāti jau pirms apmācības sākuma.
Etiķetes kvalitātei ir ārkārtīgi liela nozīme — nepareizi marķēti piemēri var iemācīt modelim nepareizus modeļus, pasliktinot veiktspēju vairāk nekā trūkstoši dati.
Kas ir Datu daudzums apmācībā?
Mašīnmācīšanās un dziļās mācīšanās modeļu apmācībai izmantoto datu kopu kopējais apjoms vai lielums.
Lieli valodu modeļi, piemēram, GPT-4 un PaLM, tika apmācīti simtiem miljardu žetonu, kas tika nokasīti no publiskā tīmekļa.
OpenAI un DeepMind veiktie mērogošanas likumu pētījumi parādīja, ka modeļa veiktspēja paredzami uzlabojas, palielinoties datu kopas lielumam.
Kvantitāte ļauj modeļiem apgūt retus modeļus, robežgadījumus un dažādas lingvistiskas vai vizuālas reprezentācijas.
Lielāki datu kopumi samazina pārmērīgu pielāgošanu, apmācības laikā pakļaujot modeļus daudzveidīgākiem piemēriem.
Lielu datu kopu vākšanas un apstrādes izmaksas ir ievērojamas, bieži vien tām nepieciešama izkliedēta skaitļošanas infrastruktūra un mēnešiem ilgs apstrādes laiks.
Salīdzinājuma tabula
Funkcija
Datu kvalitāte
Datu daudzums apmācībā
Definīcija
Apmācības piemēru tīrība, precizitāte un atbilstība
Apmācībai pieejamo piemēru kopējais skaits
Galvenais ieguvums
Labāka vispārināšana no reprezentatīviem, bez trokšņiem datiem
Plašāks modeļu pārklājums no dažādiem piemēriem
Izmaksas
Liels cilvēku darbaspēka apjoms marķēšanai un tīrīšanai
Augstas skaitļošanas un uzglabāšanas infrastruktūras izmaksas
Ietekme uz pārmontēšanu
Samazina pārregulēšanu, pateicoties precīzam signālam
Samazina pārmērīgu pielāgošanu, izmantojot datu daudzveidību
Mērogojamība
Grūtāk mērogojams — nepieciešama eksperta pārskatīšana
Vieglāk mērogot, izmantojot tīmekļa datu ieguvi un automatizāciju
Specializētas jomas, piemēram, medicīna vai tiesības
Vispārējas nozīmes modeļi, kuriem nepieciešamas plašas zināšanas
Risks, ja to neņem vērā
Modeļi no trokšņa apgūst nepareizus modeļus
Modeļi neizdodas retos vai neredzētos gadījumos
Detalizēts salīdzinājums
Galvenā filozofija
Datu kvalitātes speciālisti katru apmācības piemēru uzskata par vērtīgu, koncentrējoties uz to, vai tas iemāca modelim kaut ko pareizu un noderīgu. Datu kvantitātes speciālisti pauž pretēju viedokli, apgalvojot, ka pietiekami daudz viduvēju piemēru galu galā veidos kaut ko noderīgu. Abām filozofijām ir savas vērtības, un mūsdienu mākslīgā intelekta pētījumi arvien vairāk tos uzskata par savstarpēji papildinošiem, nevis pretējiem spēkiem.
Veiktspējas kompromisi
Ja resursi ir ierobežoti, ieguldījumi kvalitātē parasti sniedz ātrāku atdevi nekā apjoma dzenāšanās. Modelis, kas apmācīts ar 10 000 nevainojamiem medicīniskiem attēliem, bieži vien ir labāks par modeli, kas apmācīts ar miljonu trokšņainu attēlu. Tomēr, tiklīdz kvalitāte sasniedz saprātīgu slieksni, vairāk piemēru pievienošana turpina uzlabot veiktspēju, īpaši pamata modeļiem, kuriem nepieciešamas plašas zināšanas par pasauli.
Izmaksas un praktiskums
Kvalitatīvi dati ir dārgi, jo cilvēkiem ir jāpārskata, jāapzīmē un jāapstiprina katrs piemērs, kam bieži vien ir nepieciešamas zināšanas attiecīgajā jomā. Datu daudzums ir dārgs citādā veidā — petabaitu informācijas glabāšanai un apstrādei ir nepieciešama nopietna infrastruktūra. Uzņēmumi, kas veido ražošanas mākslīgā intelekta sistēmas, bieži vien atklāj, ka kvalitātes uzlabojumi izmaksā vairāk par piemēru, bet mazākā mērogā nodrošina labāku ieguldījumu atdevi.
Domēna atkarība
Šaurās jomās, piemēram, radioloģijā vai juridisko dokumentu pārskatīšanā, kvalitāte dominē, jo modelim ir nepieciešama precizitāte konkrētā uzdevumā. Vispārējas nozīmes tērzēšanas robotiem vai attēlu ģeneratoriem kvantitātei ir lielāka nozīme, jo modelim ir jāapstrādā neskaitāmas tēmas un stili. Pareizais līdzsvars mainās atkarībā no tā, vai veidojat speciālistu vai universālu modeli.
Pētījumu pierādījumi
2023. gada “DataComp” etalons parādīja, ka liela datu kopuma filtrēšana līdz tā augstākās kvalitātes apakškopai radīja labākus modeļus nekā visa datu kopuma izmantošana. Tikmēr Chinchilla mērogošanas pētījums pierādīja, ka kvantitātei joprojām ir nozīme — modeļiem, lai sasniegtu savu potenciālu, ir nepieciešami aptuveni 20 apmācības datu žetoni uz katru parametru. Abi atklājumi liecina, ka patiesais jautājums nav kvalitāte pretstatā kvantitātei, bet gan tas, kā sadalīt resursus starp tiem.
Priekšrocības un trūkumi
Datu kvalitāte
Iepriekšējumi
+Tīrāku modeļu rezultāti
+Labāka domēna precizitāte
+Mazāk skaitļošanas atkritumu
+Vienkāršāka atkļūdošana
Ievietots
−Dārgi ražot
−Grūti mērogojams
−Nepieciešams eksperta darbs
−Lēnāka iekasēšana
Datu daudzums
Iepriekšējumi
+Plašāks pārklājums
+Rokturi malu gadījumos
+Mērogošana ar skaitļošanas palīdzību
+Iespējo pamatu modeļus
Ievietots
−Uzglabāšanas izmaksas summējas
−Var ietvert troksni
−Samazinoša atdeve
−Infrastruktūras sarežģītība
Biežas maldības
Mīts
Vairāk datu vienmēr nozīmē labāku modeli.
Realitāte
Ne obligāti. Ja papildu dati ir trokšņaini, nepareizi apzīmēti vai neatbilstoši, tas faktiski var kaitēt veiktspējai. Pētījumi ir atkārtoti parādījuši, ka mazāks, tīrāks datu kopums bieži vien rada precīzākus modeļus nekā lielāks, nekārtīgāks. Kvalitātes filtrēšana pirms apmācības gandrīz vienmēr ir izdevīga.
Mīts
Datu kvalitātei ir nozīme tikai nelielām datu kopām.
Realitāte
Kvalitātei ir nozīme jebkurā mērogā. Pat modeļi, kas apmācīti ar miljardiem piemēru, cieš, ja ievērojamās daļās ir kļūdas vai neobjektivitātes. Lieli modeļi var iegaumēt troksni, kas pēc tam izvietošanas laikā negaidītā un kaitīgā veidā parādās.
Mīts
Marķēti dati vienmēr ir labāki par nemarķētiem datiem.
Realitāte
Tas ir atkarīgs no uzdevuma un marķēšanas kvalitātes. Slikti marķēti dati var būt sliktāki nekā vispār nekādi marķējumi, savukārt milzīgs daudzums nemarķētu datu var darbināt pašvadītas mācīšanās sistēmas, kas konkurē ar uzraudzītām pieejām. Marķējuma kvalitāte ir svarīgāka par vienkāršu marķējuma klātbūtni.
Mīts
Lai apmācītu noderīgu modeli, ir nepieciešami miljoniem piemēru.
Realitāte
Mācīšanās no vienas platformas to ir ievērojami mainījusi. Izmantojot iepriekš apmācītus modeļus, piemēram, BERT vai ResNet, jūs varat sasniegt labus rezultātus, izmantojot tikai simtiem vai tūkstošiem augstas kvalitātes piemēru jūsu konkrētajā jomā. Laikmets, kad katram uzdevumam bija nepieciešami milzīgi pielāgoti datu kopumi, lielākoties ir beidzies.
Mīts
Datu daudzums un kvalitāte ir pretēji spēki.
Realitāte
Patiesībā tie viens otru papildina. Labākie apmācību kanāli maksimāli palielina abus — apkopo pēc iespējas vairāk datu, vienlaikus agresīvi filtrējot, lai nodrošinātu kvalitāti. Uztvert tos kā kompromisu ir maldīga dilemma, kas noved pie neoptimāliem lēmumiem.
Bieži uzdotie jautājumi
Vai datu kvalitāte ir svarīgāka par datu kvantitāti?
Vairumā praktisko pielietojumu jā — kvalitāte parasti nodrošina labāku atdevi par katru iztērēto dolāru. Tomēr abi ir svarīgi, un ideālā attiecība ir atkarīga no jūsu konkrētā lietošanas gadījuma. Labs īkšķa noteikums ir vispirms panākt pieņemamu kvalitātes līmeni un pēc tam palielināt daudzumu, ciktāl to atļauj resursi.
Cik daudz apmācības datu man ir nepieciešams manam modelim?
Tas ir atkarīgs no modeļa arhitektūras, uzdevuma sarežģītības un no tā, vai jūs precizējat iepriekš apmācītu modeli vai apmācāt no nulles. Precīzai regulēšanai var būt nepieciešami tikai simtiem līdz tūkstošiem piemēru, savukārt pamatmodeļa apmācībai no nulles ir nepieciešami miljardi. Činčilas mērogošanas likumi optimālai apmācībai iesaka aptuveni 20 žetonus katram parametram.
Kas padara apmācības datus augstus?
Augstas kvalitātes dati ir precīzi, konsekventi marķēti, atspoguļo reālās pasaules sadalījumus, nesatur dublikātus un ir atbilstoši jūsu mērķa uzdevumam. Tiem jābūt arī iegūtiem likumīgi un ētiski apkopotiem, pienācīgi dokumentējot to izcelsmi un visus zināmos ierobežojumus.
Vai es varu izmantot sintētiskos datus, lai palielinātu daudzumu?
Jā, sintētisko datu ģenerēšana ir kļuvusi par populāru veidu, kā papildināt apmācības kopas, īpaši, ja reāli dati ir ierobežoti vai dārgi. Tādi modeļi kā GPT-4 var ģenerēt reālistiskus apmācības piemērus, lai gan ir jābūt uzmanīgiem attiecībā uz kvalitātes kontroli — sintētiskie dati var pastiprināt ģenerēšanas modelī esošās neobjektivitātes.
Kas ir datu apstrāde mašīnmācībā?
Datu apstrāde ir apmācības datu atlases, attīrīšanas un organizēšanas process, lai maksimāli palielinātu to lietderību. Tas ietver dublikātu noņemšanu, zemas kvalitātes piemēru filtrēšanu, klašu sadalījumu līdzsvarošanu un nodrošināšanu, ka dati atspoguļo problēmu, kuru vēlaties atrisināt. Laba apstrāde bieži vien ir atšķirība starp viduvēju modeli un lielisku.
Kā es varu izmērīt datu kvalitāti?
Izplatītākās pieejas ietver anotatoru savstarpējās atbilstības rādītājus, automatizētas etiķešu konsekvences pārbaudes, iezīmju sadalījuma statistisko analīzi un atlikto validācijas veiktspēju. Dažas komandas izmanto arī īpašus datu validācijas rīkus, piemēram, Great Expectations vai pielāgotus kvalitātes informācijas paneļus, lai laika gaitā izsekotu kvalitātes rādītājus.
Vai vairāk apmācības datu samazina pārapmācību?
Parasti jā, jo lielāki datu kopumi pakļauj modeli daudzveidīgākiem piemēriem, apgrūtinot konkrētu modeļu iegaumēšanu. Tomēr, ja papildu dati atkārtojas vai ir zemas kvalitātes, tas var nepalīdzēt. Lai novērstu pārmērīgu pielāgošanu, datu daudzveidībai ir tikpat liela nozīme kā neapstrādātajam kvantitātei.
Kas ir mērogošanas likumi mākslīgajā intelektā?
Mērogošanas likumi apraksta paredzamo saistību starp modeļa lielumu, datu kopas lielumu un veiktspēju. OpenAI, DeepMind un citu uzņēmumu pētījumi liecina, ka zudumi samazinās kā pakāpes likums, palielinot parametrus, datus vai aprēķinu apjomu. Šie likumi palīdz pētniekiem paredzēt, cik lielu uzlabojumu viņi iegūs, pievienojot vairāk resursu.
Vai man vajadzētu dot priekšroku vairāk datu vākšanai vai esošo datu attīrīšanai?
Ja jūsu esošajiem datiem ir būtiskas kvalitātes problēmas, to attīrīšana parasti sniedz ātrākus rezultātus nekā jaunu datu vākšana. Netīri dati saasina problēmas — pievienojot vairāk netīru piemēru, modelim tiek dots tikai vairāk nepareizu modeļu, no kuriem mācīties. Sāciet ar kvalitāti un pēc tam palieliniet kvantitāti, kad jūsu datu plūsma nodrošina uzticamu rezultātu.
Kā pamatmodeļi risina datu kvalitātes jautājumus?
Pamatmodeļi parasti tiek apmācīti ar tīmekļa mēroga datiem ar dažādu kvalitāti, pēc tam tos pilnveido, izmantojot tādas metodes kā RLHF (pastiprināšanas mācīšanās no cilvēka atsauksmēm) un instrukciju pielāgošanu. Šī divpakāpju pieeja ļauj tiem gūt labumu no milzīga apjoma, vienlaikus sasniedzot augstu kvalitāti lejupējos uzdevumos, izmantojot mērķtiecīgu precizēšanu.
Spriedums
Izvēlieties datu kvalitāti, ja strādājat specializētā jomā, jums ir ierobežots budžets vai nepieciešama augsta precizitāte šauram uzdevumam. Ieguldiet datu apjomā, veidojot vispārējas nozīmes modeļus, kuriem jāapstrādā dažādi ievades dati, vai ja jau esat maksimāli palielinājis kvalitāti pašreizējā mērogā. Praksē spēcīgākās mākslīgā intelekta sistēmas apvieno abus — lielu datu kopu veidošanu, vienlaikus agresīvi filtrējot troksni.