V svetu strojnega učenja so nabori podatkov redko nevtralni. Zmanjševanje pristranskosti vključuje proaktivno inženirstvo za prepoznavanje in nevtralizacijo nepravičnih odstopanj, medtem ko je ojačanje pristranskosti nevaren pojav, pri katerem modeli dejansko pretiravajo z obstoječimi neenakostmi in pogosto dajejo napovedi, ki so bistveno bolj diskriminatorne kot pomanjkljivi podatki, na katerih so bili učeni.
Strateški tehnični posegi, namenjeni prepoznavanju, blaženju in uravnoteženju sistemske nepravičnosti znotraj podatkov o usposabljanju in rezultatov modelov.
Nenameren proces, pri katerem algoritmi strojnega učenja krepijo in preveč indeksirajo obstoječe stereotipne vzorce, najdene v podatkih.
| Funkcija | Zmanjšanje pristranskosti nabora podatkov | Ojačitev pristranskosti nabora podatkov |
|---|---|---|
| Primarni cilj | Doseči pravične in poštene rezultate | Povečajte napovedno zaupanje (nenamerno) |
| Vpliv na trende podatkov | Aktivno izravnava nepoštene korelacije | Pretirava in trdno kodira obstoječe asimetrije |
| Metodologija | Povečevanje podatkov, ponovno tehtanje in revizije | Algoritmične bližnjice in induktivna pristranskost |
| Intenzivnost virov | Visoka; zahteva strokovni nadzor in kuracijo | Nizko; se zgodi samodejno, če ni označeno |
| Regulativni vpliv | Pomaga pri skladnosti z zakonom EU o umetni inteligenci in GDPR | Poveča tveganje pravnih in etičnih kazni |
| Dolgoročni rezultat | Robustna, posplošljiva in zaupanja vredna umetna inteligenca | Izkrivljeni, diskriminatorni in krhki modeli |
Zmanjševanje pristranskosti je težka bitka, saj pogosto zahteva žrtvovanje majhnega dela surove natančnosti, da se zagotovi pravična obravnava modela vseh skupin. Po drugi strani pa se ojačanje zgodi naravno, ker so algoritmi zasnovani tako, da najdejo najučinkovitejšo pot do pravilnega odgovora, in žal stereotipi pogosto zagotavljajo statistično »lahko« pot, ki jo model prevečkrat sprejme.
Zmanjševanje poskuša popraviti zgodovinske napake – kot so modeli kreditnega točkovanja, ki kaznujejo določene soseske – z ročnim prilagajanjem uteži podatkov. Amplifikacija te iste zgodovinske napake spremeni v digitalne zakone; če model vidi, da so bila določeni skupini v preteklosti zavrnjena posojila, se lahko odloči, da je treba tej skupini *vedno* zavrniti, zaradi česar je prihodnost še bolj restriktivna kot preteklost.
Inženirji se borijo proti zmanjševanju pristranskosti v treh fazah: predobdelava (čiščenje podatkov), medobdelava (spreminjanje matematike med učenjem) in naknadna obdelava (prilagajanje končnih rezultatov). Ojačitev se običajno prikrade med fazo »medobdelave«, kjer želja modela po zmanjšanju napak privede do tega, da ignorira »šum« manjšinskih primerov v korist »signala« večine.
Najstrašnejši del ojačanja pristranskosti je njena sposobnost, da sčasoma narašča. Če pristransko orodje za zaposlovanje filtrira raznolike kandidate, podatki za »uspešne« zaposlene postanejo še manj raznoliki, kar nato naslednjo različico orodja nauči, da je še bolj omejujoča. Ustrezne strategije zmanjševanja prekinejo ta cikel z uvedbo »kontrafaktualnih« primerov, ki izpodbijajo predpostavke modela.
Če uporabim ogromen nabor podatkov, se bo pristranskost sama od sebe izničila.
Pravzaprav večji nabori podatkov pogosto vsebujejo bolj subtilne, sistemske pristranskosti, ki jih modeli še bolje poudarijo. Obseg ni nadomestilo za raznolikost ali pravičnost.
Algoritmi so nevtralni, ker so samo matematika.
Matematika je nevtralna, vendar cilji, ki jih postavljamo algoritmom – kot je »maksimiranje natančnosti« – interagirajo s pristranskimi podatki in ustvarjajo pristranske rezultate. »Nevtralna« pot je pogosto najbolj diskriminatorna.
Zmanjševanje pristranskosti je za umetno inteligenco le 'politična korektnost'.
Pravzaprav gre za tehnično nujnost; modeli, ki ne zmanjšujejo pristranskosti, v resničnem svetu pogosto ne uspejo, ker ne morejo obravnavati različnih vhodnih podatkov, kar vodi do odmevnih napak in izgube prihodka.
Odstranitev »občutljivih« stolpcev, kot sta rasa ali spol, preprečuje pristranskost.
To je »pravičnost skozi slepoto« in le redko deluje. Modeli lahko te lastnosti zlahka sklepajo s pomočjo posredniških podatkov, kot so poštne številke, nakupovalne navade ali celo stavčna struktura.
Zmanjševanje pristranskosti je nujna etična in tehnična zahteva za vsak model, ki komunicira z ljudmi ali sprejema odločitve, ki spreminjajo življenja. Medtem ko je ojačanje privzeto vedenje večine neoptimiziranih algoritmov, je aktivno zmanjševanje edini način za izgradnjo umetne inteligence, ki je v sodobnem okolju zakonita in vredna zaupanja.
Ta primerjava podrobno opisuje operativne razlike med logistično analitiko v realnem času, ki obdeluje podatke senzorjev v živo za optimizacijo vozil sredi poti, in refleksijo po potovanju, ki naknadno ocenjuje zgodovinske metrike potovanj, da bi odkrila sistemske neučinkovitosti voznega parka in dolgoročne priložnosti za prihranek stroškov.
Izbira med analitiko vedenja uporabnikov, ki temelji na podatkih, in izkustveno intuicijo oblikovalca predstavlja temeljno ravnovesje v sodobnem razvoju digitalnih izdelkov. Medtem ko analitika zagotavlja empirične, kvantitativne dokaze o tem, kako uporabniki komunicirajo z živim vmesnikom, intuicija izkorišča strokovno znanje in psihologijo za inovacije in reševanje abstraktnih uporabniških problemov, še preden podatki sploh obstajajo.
Analiza tržnih trendov obravnava širša gibanja v panogi, vedenje strank in gospodarske premike, medtem ko se analiza na ravni podjetja osredotoča na uspešnost in strategijo določenega podjetja. Oba pristopa se pogosto uporabljata pri vlaganju, poslovnem načrtovanju in konkurenčnih raziskavah, vendar odgovarjata na zelo različna vprašanja.
Analiza zagonskih podjetij, ki temelji na podatkih, se za oceno zagonskih podjetij opira na merljive metrike, kot so rast, prihodki in zadrževanje zaposlenih, medtem ko se analiza, ki temelji na pripovedovanju, osredotoča na pripovedovanje zgodb, vizijo in kvalitativne signale. Oba pristopa vlagatelji in ustanovitelji pogosto uporabljajo za oceno potenciala, vendar se razlikujeta v načinu interpretacije dokazov in utemeljitvi odločitev.
Medtem ko astrološke napovedi nebesne cikle preslikajo v človeške izkušnje zaradi simbolnega pomena, statistično napovedovanje analizira empirične zgodovinske podatke za oceno prihodnjih numeričnih vrednosti. Ta primerjava preučuje razkorak med starodavnim, na arhetipih temelječim ogrodjem za osebno refleksijo in sodobno, na podatkih temelječo metodologijo, ki se uporablja za objektivno odločanje v poslovnem svetu in znanosti.
