En l'aprenentatge automàtic, la qualitat i la quantitat de dades influeixen en el rendiment del model, però van en direccions diferents. La qualitat es refereix a la neteja, la rellevància i el bon etiquetatge de les dades d'entrenament, mentre que la quantitat se centra en el volum. Els millors resultats solen provenir de l'equilibri entre ambdues, tot i que la recerca demostra cada cop més que la qualitat sovint guanya.
La mesura de com de netes, precises, rellevants i ben etiquetades són les dades d'entrenament per a models d'aprenentatge automàtic.
El volum o la mida total dels conjunts de dades utilitzats per entrenar models d'aprenentatge automàtic i d'aprenentatge profund.
| Funcionalitat | Qualitat de les dades | Quantitat de dades en l'entrenament |
|---|---|---|
| Definició | Netedat, precisió i rellevància dels exemples de formació | Volum total d'exemples disponibles per a la formació |
| Benefici principal | Millor generalització a partir de dades representatives i sense soroll | Cobertura de patrons més àmplia a partir d'exemples diversos |
| Cost | Alta mà d'obra humana per a l'etiquetatge i la neteja | Costos elevats d'infraestructura de computació i emmagatzematge |
| Impacte en el sobreajustament | Redueix el sobreajustament mitjançant un senyal precís | Redueix el sobreajustament mitjançant la diversitat de dades |
| Escalabilitat | Més difícil d'escalar: requereix la revisió d'experts | Més fàcil d'escalar mitjançant el web scraping i l'automatització |
| Mesura | Taxes d'error, concordança d'etiquetes, puntuacions de completesa | Nombre de mostres, tokens o bytes |
| Ideal per a | Àrees especialitzades com la medicina o el dret | Models d'ús general que requereixen coneixements amplis |
| Risc quan es descuida | Els models aprenen patrons incorrectes del soroll | Els models fallen en casos rars o no vistos |
La qualitat de les dades tracta cada exemple d'entrenament com a preciós, centrant-se en si ensenya al model alguna cosa correcta i útil. La quantitat de dades adopta el punt de vista contrari, argumentant que prou exemples mediocres acabaran donant lloc a alguna cosa útil. Ambdues filosofies tenen mèrit, i la recerca moderna en IA les tracta cada cop més com a forces complementàries en lloc d'oposades.
Quan es tenen recursos limitats, invertir en qualitat sol generar rendiments més ràpids que perseguir el volum. Un model entrenat amb 10.000 imatges mèdiques impecables sovint supera un entrenat amb un milió d'imatges sorolloses. Tanmateix, un cop la qualitat arriba a un llindar raonable, afegir més exemples continua millorant el rendiment, sobretot per als models bàsics que necessiten un coneixement ampli del món.
Les dades de qualitat són cares perquè els humans han de revisar, etiquetar i validar cada exemple, cosa que sovint requereix coneixements tècnics. La quantitat és cara d'una manera diferent: emmagatzemar i processar petabytes d'informació requereix una infraestructura seriosa. Les empreses que creen sistemes d'IA de producció sovint descobreixen que les millores de qualitat costen més per exemple, però ofereixen un millor retorn de la inversió a escales més petites.
En dominis reduïts com la radiologia o la revisió de documents legals, la qualitat domina perquè el model necessita precisió en una tasca específica. Per als chatbots o generadors d'imatges d'ús general, la quantitat importa més perquè el model ha de gestionar innombrables temes i estils. L'equilibri adequat canvia depenent de si esteu construint un especialista o un generalista.
El punt de referència "DataComp" del 2023 va mostrar que filtrar un conjunt de dades gran fins al seu subconjunt de més qualitat produïa millors models que utilitzar-ho tot. Mentrestant, l'article d'escalat de Chinchilla va demostrar que la quantitat encara importa: els models necessiten aproximadament 20 tokens de dades d'entrenament per paràmetre per assolir el seu potencial. Ambdues troballes suggereixen que la veritable qüestió no és la qualitat versus la quantitat, sinó com assignar recursos entre elles.
Més dades sempre signifiquen un millor model.
No necessàriament. Si les dades addicionals són sorolloses, estan mal etiquetades o són irrellevants, en realitat poden afectar el rendiment. La recerca ha demostrat repetidament que un conjunt de dades més petit i net sovint produeix models més precisos que un de més gran i desordenat. El filtratge de qualitat abans de l'entrenament gairebé sempre és beneficiós.
La qualitat de les dades només importa per a conjunts de dades petits.
La qualitat importa a totes les escales. Fins i tot els models entrenats amb milers de milions d'exemples pateixen quan parts significatives contenen errors o biaixos. Els models grans poden memoritzar soroll, que després apareix de maneres inesperades i perjudicials durant el desplegament.
Les dades etiquetades sempre són millors que les dades sense etiquetar.
Depèn de la tasca i de la qualitat de l'etiquetatge. Les dades mal etiquetades poden ser pitjors que no tenir cap etiqueta, mentre que quantitats massives de dades sense etiquetar poden alimentar sistemes d'aprenentatge autosupervisats que rivalitzen amb els enfocaments supervisats. La qualitat de l'etiquetatge importa més que la mera presència d'etiquetes.
Necessiteu milions d'exemples per entrenar un model útil.
L'aprenentatge per transferència ha canviat això dràsticament. Amb models preentrenats com BERT o ResNet, podeu aconseguir resultats sòlids amb només centenars o milers d'exemples d'alta qualitat en el vostre domini específic. L'era de necessitar conjunts de dades personalitzats massius per a cada tasca s'ha acabat en gran part.
La quantitat i la qualitat de les dades són forces oposades.
En realitat, són complementaris. Els millors processos d'entrenament maximitzen tots dos: recopilar tantes dades com sigui possible i alhora filtrar agressivament la qualitat. Tractar-los com un compromís és un fals dilema que porta a decisions subòptimes.
Trieu la qualitat de les dades quan treballeu en un domini especialitzat, tingueu un pressupost limitat o necessiteu una alta precisió en una tasca concreta. Invertiu en quantitat de dades quan creeu models d'ús general que han de gestionar entrades diverses o quan ja hàgiu maximitzat la qualitat a la vostra escala actual. A la pràctica, els sistemes d'IA més potents combinen ambdues coses: seleccionen grans conjunts de dades alhora que filtren agressivament el soroll.
Aquest desglossament detallat explora les diferències fonamentals entre les actualitzacions de gràfics basades en esdeveniments i el processament de gràfics per lots dins de les arquitectures d'IA. Mentre que les pipelines basades en esdeveniments gestionen la transmissió en temps real i les mutacions irregulars de la topologia de xarxa, el processament per lots consolida els canvis en execucions computacionals pesades i programades per maximitzar el rendiment del sistema i la saturació del maquinari.
Les actualitzacions de models en temps real i el reentrenament de models per lots representen dos enfocaments fonamentalment diferents per mantenir els sistemes d'aprenentatge automàtic actualitzats. Els mètodes en temps real s'adapten instantàniament a les noves dades, mentre que el reentrenament per lots reconstrueix els models a intervals programats utilitzant conjunts de dades acumulats.
Les actualitzacions de la versió LLM se centren en la implementació de models de llenguatge més nous i capaços amb un raonament i unes funcions millorades, mentre que el manteniment de models antics manté els sistemes d'IA més antics funcionant de manera fiable. Les organitzacions han de sospesar la innovació contra l'estabilitat a l'hora de decidir entre actualitzar o mantenir els seus models existents.
Aquesta comparació analitza les opcions estratègiques en l'aprenentatge automàtic entre l'adaptació de domini, que transfereix coneixement d'un entorn d'origen etiquetat a un entorn de destinació diferent, i l'entrenament dins del domini, que crea models completament a partir de dades recollides de la configuració exacta de desplegament de destinació.
L'adaptació lingüística en la IA se centra en l'ensenyament de models per gestionar idiomes específics mitjançant l'afinament i l'aprenentatge per transferència, mentre que els sistemes d'IA agnòstics a l'idioma tenen com a objectiu processar qualsevol idioma sense formació específica per a l'idioma. Ambdós enfocaments aborden els reptes multilingües, però difereixen fonamentalment en l'arquitectura, les dades d'entrenament i el desplegament al món real.
