Konparaketa honek teknologiak lor dezakeenaren eta hura eraikitzen eta zabaltzen dutenen betebehar moralen arteko aldea aztertzen du. Botere teknikoa esponentzialki handitzen denez, erronka berrikuntzak bere ondorioak modu arduratsuan eta garden batean kudeatzeko dugun gaitasuna gainditzen ez duela ziurtatzea da.
Nabarmendunak
Erantzukizunik gabeko gaitasunak alborapen sistemikoa eta jendearen mesfidantza dakar.
Gaitasunik gabeko erantzukizunak sistema seguruak baina alferrikakoak edo zaharkituak sortzen ditu.
«Lerrokatze arazoa» da gaur egungo etika teknikoaren erronka nagusia.
EBko IA Legea bezalako legedia bi polo hauen arteko zubi-lana egiteko diseinatuta dago.
Zer da Gaitasun teknikoa?
Teknologia edo sistema baten potentzia gordina, eraginkortasuna eta funtzionalitate-mugak.
Moore-ren Legeak eta algoritmoen eraginkortasunean eta datuen prozesamenduan egindako aurrerapenek bultzatuta.
Errendimendu-neurrien bidez neurtua, hala nola latentzia, errendimendua eta zehaztasun puntuazioak.
"Egin al daiteke?" galderan jartzen du arreta, "Egin beharko litzateke?" galderan baino gehiago.
Askotan errendimendu handiko hardwarea dakar, hala nola H100 GPUak eta AI txip espezializatuak.
Automatizazioaren eta begiztatik gizakiaren esku-hartzea kenduz eskalatzen da.
Zer da Erantzukizun Etikoa?
Sistema teknikoen eragin sozial, moral eta nahi gabekoen erantzukizunaren esparrua.
Gizakiengan zentratutako emaitzetan oinarritzen da, hala nola bidezkotasuna, gardentasuna eta segurtasuna.
'Azalpen' (XAI) behar du gizakiek makina batek erabaki bat zergatik hartu duen uler dezaten.
Legezko erantzukizuna dakar: sistema autonomo bat huts egiten duenean nor den arduraduna zehaztea.
Talde gorriaren eta alborapenaren auditoriak erabiltzen ditu zabaldu aurretik kalte potentzialak identifikatzeko.
Zeregin kritikoen gainbegiratzea mantentzeko 'Human-in-the-loop' (HITL) sistemak sustatzen ditu.
Konparazio Taula
Ezaugarria
Gaitasun teknikoa
Erantzukizun Etikoa
Foku nagusia
Errendimendua eta abiadura
Segurtasuna eta Bidezkotasuna
Galdera nagusia
Zein azkar joan gaitezke?
Non gelditu beharko genuke?
Ebaluazio tresna
Erreferentziak eta estres probak
Inpaktu-ebaluazioak eta auditoriak
Hazkundearen bultzatzailea
I+G inbertsioa
Gizarte-konfiantza eta araudia
Arrisku-profila
Zor teknikoa
Kalte sozial eta legalak
Emaitza Helburua
Optimizazioa
Lerrokatzea
Xehetasunak alderatzea
Abiadura-arrakala
Gaitasun Teknikoa askotan tximista-abiaduran mugitzen da, software bertsio eta hardware gaitasun berriak hilabete batzuk igaro ondoren abiarazten direlarik. Erantzukizun Etikoa motelago mugitzen da, eztabaida filosofikoa, adostasun publikoa eta legegintzako ekintza behar baititu. "Erritmo arazo" honek esan nahi du askotan gizartearen funtzionamendua funtsean aldatu duten teknologiak arautzen ari garela.
Optimizazioa vs. Lerrokatzea
Gaitasunerako soilik optimizatutako sistema batek helburu batera iristeko biderik eraginkorrena aurkituko du, eta horrek pribatutasunean edo bidezkotasunean murrizketak barne har ditzake. Erantzukizun etikoak lerrokatze-mekanismo gisa jokatzen du, sistema giza balioen barruan funtzionatzera behartuz, nahiz eta eraginkortasun hutsa murriztu. Bermatzen du irtenbide tekniko "onena" irtenbide "bidezkoena" ere badela.
Gardentasuna eta Kutxa Beltza
Gaitasun tekniko handiak, batez ere ikaskuntza sakonean, askotan "Kutxa Beltz" sistemak sortzen ditu, non logika gizakiek jarraitzeko konplexuegia den. Erantzukizunak gardentasuna eskatzen du, garatzaileak errendimendu txiki bat sakrifikatzera behartuz sistemaren erabakiak ikuskatu eta azaldu ahal izateko. Hori gabe, teknologiarekiko konfiantza azkar higatzen da.
Autonomiako erantzukizuna
Sistema bat teknikoki gai denean bere erabakiak hartzeko —adibidez, ibilgailu autonomo bat edo diagnostiko medikoko tresna bat—, erantzukizunaren gaia premiazkoa bihurtzen da. Gaitasunak makinaren jarduteko gaitasuna definitzen du, baina erantzukizunak definitzen du nork ordaintzen duen prezioa ekintza horrek kaltea eragiten badu. 'Tresna' izatetik 'eragile' izatera igarotze hau da gobernantza modernoaren oztopo handiena.
Abantailak eta Erabiltzailearen interfazea
Gaitasun teknikoa
Abantailak
+Arazo konplexuak konpontzen ditu
+Produktibitatea handitzen du
+Hazkunde ekonomikoa bultzatzen du
+Ezaugarri berriak gaitzen ditu
Erabiltzailearen interfazea
−Gehiegizko erabilerarako potentziala
−Opakoa izan daiteke.
−Alborapena sor dezake
−Gizarte-kostua alde batera uzten du
Erantzukizun Etikoa
Abantailak
+Giza eskubideak babesten ditu
+Epe luzerako konfiantza sortzen du
+Arrisku legalak murrizten ditu
+Bidezkotasuna bermatzen du
Erabiltzailearen interfazea
−Abiarazpena moteldu dezake
−Betetze-kostu handiagoak
−Berrikuntza mugatu dezake.
−Neurtzeko konplexua.
Ohiko uste okerrak
Mitologia
Etikak beti moteltzen du berrikuntza.
Errealitatea
Izan ere, esparru etikoek berrikuntza bizkortu dezakete "bide-arau" argiak eskainiz, enpresei teknologia berrietan inbertitzeko konfiantza emanez, bat-bateko lege- edo harreman publikoetako erreakzio baten beldurrik gabe.
Mitologia
Makina bat zehatza bada, etikoki egokia da.
Errealitatea
Zehaztasuna neurri teknikoa da, ez morala. Aurpegi-ezagutza sistema bat % 99ko zehatza izan daiteke, baina etikoki arazo bat izan daiteke baimenik gabe zaintza masiborako erabiltzen bada.
Mitologia
Ingeniariak ez dira jendeak bere tresnak nola erabiltzen dituen erantzule.
Errealitatea
"Balioen araberako diseinu" modernoak argudiatzen du ingeniariek balizko erabilera okerrak aurreikusteko betebeharra dutela. Erraz arma bihurtzeko "gai" den tresna bat eraikitzea gero eta gehiago ikusten da erantzukizun-hutsegite gisa.
Mitologia
AI etikoa PR trikimailu bat besterik ez da.
Errealitatea
«Etika garbitzea» existitzen den arren, benetako erantzukizunak legezko kontratu lotesleak, auditoria independenteak eta softwarearen arkitektura-aldaketak dakartza, fidagarritasunez jokatzen duela ziurtatzeko.
Sarritan Egindako Galderak
Zer da 'Diseinuaren Bidezko Etika'?
Ikuspegi honetan, lehen egunetik bertatik txertatzen dira kontuan kontuan hartu beharreko alderdi etikoak arkitektura teknikoan. Amaieran "segurtasun geruza" bat gehitu beharrean, garatzaileek pribatutasuna, alborapena eta erantzukizuna kontuan hartzen dituzte kodetze prozesuaren etapa guztietan.
Nor da arduraduna IA batek akats bat egiten duenean?
Eztabaida juridiko garrantzitsua da hau. Gaur egun, erantzukizuna normalean IA zabaldu duen erakundearena da, baina lege berriek eredua eraiki zuten garatzaileen eta hura erabili zuten erabiltzaileen arteko erantzukizun partekatua aztertzen ari dira.
Neurtu al dezakegu erantzukizun etikoa?
"Ordezkapen-neurriak" erabiltzen ditugu, hala nola eragin-ratio desberdinak (alborapena neurtzeko), azalpen-puntuazioak eta sistema automatizatuetan gizakien gainidazketen maiztasuna. Gigahertzak edo teraflopak bezain zehatzak ez diren arren, hauek etikaren ikuspegi kuantifikagarria eskaintzen dute.
Zergatik da hain garrantzitsua 'Azalpengarritasuna' erantzukizunerako?
Sistema batek mailegu bat zergatik ukatu duen edo irudi mediko bat zergatik markatu duen azaldu ezin baduzu, ezin duzu erabakia auzitan jarri. Azalpengarritasuna da gizakiei teknologia (eta bere jabeak) emaitza zehatzen erantzule egiteko aukera ematen dien zubia.
Gaitasuna handitzeak beti murrizten al du segurtasuna?
Ez derrigorrez. Askotan, gaitasun handiagoak segurtasun-ezaugarri hobeak ahalbidetzen ditu, hala nola sistemaren osasunaren monitorizazio zehatzagoa. Arriskua gaitasuna eskalatzen denean gertatzen da segurtasun-aurrekontua proportzionalki handitu gabe.
Zer da 'Talde Gorria' ariketa bat?
Praktika hau hacker edo ikertzaile etiko talde batek sistema bat hausten edo modu ez-etiko batean jokatzera behartzen saiatzen den praktika bat da. Sistema baten erantzukizuna publiko orokorrarengana iritsi aurretik probatzeko modu bat da.
Nola kudeatzen dute startup txikiek erantzukizun etikoa?
Startup-ek sarritan hirugarrenen esparru etikoak eta alborapenak detektatzeko tresna irekiak erabiltzen dituzte. Google edo Microsoft-en etika-batzorde erraldoiak ez badituzte ere, "etika arinak" ezar ditzakete beren diseinu-erabakiak dokumentatuz eta erabiltzaileekin gardentasunez jokatuz.
Zer da 'Eragin Algoritmikoaren Ebaluazioa'?
Ingurumen-inpaktuaren azterketa baten antzera, algoritmo berri batek pertsona-talde desberdinei nola eragin diezaiekeen aztertzen duen txosten formal bat da hau. Gobernu askok zerbitzu publikoetan erabiltzen diren sistemetarako derrigorrezkoak izaten hasi dira.
Epaia
Gaitasun Teknikoa da aurrerapenaren motorra, eta Erantzukizun Etikoa, berriz, bolantea. Gaitasunean zentratu arazo konputazional konplexuak konpondu behar dituzunean, baina ez zabaldu inoiz irtenbide horiek giza eragina kudeatzeko erantzukizun-esparru sendo bat gabe.