Dirbtinio intelekto valdymastechnologijų politikaetikadirbtinis intelektas

Dirbtinio intelekto įgalinimas ir dirbtinio intelekto reguliavimas

Šiame palyginime nagrinėjama įtampa tarp dirbtinio intelekto spartinimo siekiant padidinti žmonių galimybes ir apsauginių barjerų įdiegimo siekiant užtikrinti saugumą. Nors įgalinimas orientuotas į ekonomikos augimo ir kūrybinio potencialo maksimalų didinimą per atvirą prieigą, reguliavimas siekia sušvelninti sisteminę riziką, užkirsti kelią šališkumui ir nustatyti aiškią teisinę atsakomybę už automatizuotus sprendimus.

Akcentai

Įgalinimas dirbtinį intelektą traktuoja kaip žmogaus tobulinimo įrankį, o ne kaip pakaitalą.
Reglamente „raudonųjų komandų“ ir saugos auditai įvedami kaip privalomi pramonės standartai.
Diskusijose Silicio slėnio „greito judėjimo“ kultūra dažnai supriešinama su Europos „atsargumo“ vertybėmis.
Abi pusės sutinka, kad tikslas yra naudingas dirbtinis intelektas, tačiau jos iš esmės nesutaria, kaip jį pasiekti.

Kas yra Dirbtinio intelekto įgalinimas?

Filosofija, kurios centre – dirbtinio intelekto plėtros spartinimas, siekiant sustiprinti žmogaus intelektą, produktyvumą ir mokslinius atradimus.

Dėmesys sutelkiamas į dirbtinio intelekto „demokratizavimą“, teikiant atvirojo kodo įrankius individualiems kūrėjams ir mažoms įmonėms.
Pirmenybę teikia greitam iteravimui ir diegimui, siekiant išspręsti sudėtingus pasaulinius iššūkius, tokius kaip klimato kaita ir ligos.
Teigia, kad pagrindinė dirbtinio intelekto rizika yra ne jo egzistavimas, o koncentracija kelių elitų rankose.
Pabrėžiamas dirbtinio intelekto, kaip „antrojo piloto“ arba „kentauro“, kuris dirba kartu su žmonėmis, o ne juos pakeičia, vaidmuo.
Teigia, kad rinkos konkurencija yra veiksmingiausias būdas natūraliai atmesti prastus arba šališkus dirbtinio intelekto modelius.

Kas yra Dirbtinio intelekto reglamentas?

Valdymo metodas, kuriuo siekiama sukurti teisinę sistemą, skirtą dirbtinio intelekto etinei, socialinei ir saugos rizikai valdyti.

Dirbtinio intelekto sistemas suskirsto pagal rizikos lygį, o kai kuriuose regionuose „nepriimtinos rizikos“ technologijos yra visiškai uždraustos.
Reikalaujama, kad kūrėjai būtų skaidrūs dėl duomenų, naudojamų modeliams mokyti, ir jų rezultatų logikos.
Dėmesys skiriamas „algoritminio šališkumo“, kuris gali sukelti diskriminaciją samdant, skolinant ar vykdant teisėsaugą, prevencijai.
Nustato griežtą įmonių atsakomybę, jei jų dirbtinio intelekto sistemos padaro fizinę žalą ar didelius finansinius nuostolius.
Dažnai apima trečiųjų šalių auditus ir sertifikavimo procesus, kol didelės rizikos dirbtinio intelekto įrankis gali patekti į rinką.

Palyginimo lentelė

Funkcija	Dirbtinio intelekto įgalinimas	Dirbtinio intelekto reglamentas
Pagrindinis tikslas	Inovacijos ir augimas	Saugumas ir etika
Ideali ekosistema	Atvirojo kodo / Leidžiamoji	Standartizuotas / stebimas
Rizikos filosofija	Nesėkmė yra mokymosi žingsnis	Nesėkmės reikia išvengti
Progreso greitis	Eksponentinis / Greitas	Sąmoningas / Kontroliuojamas
Pagrindiniai suinteresuotieji subjektai	Įkūrėjai ir tyrėjai	Politikos formuotojai ir etikos specialistai
Atsakomybės našta	Bendrinama su galutiniu vartotoju	Koncentruotas į kūrėją
Įėjimo kaina	Žemas / prieinamas	Didelis / griežtas atitikties reikalavimas

Išsamus palyginimas

Inovacijos ir saugumas

Įgalinimo šalininkai mano, kad ribojančios taisyklės slopina kūrybiškumą, reikalingą siekiant proveržio medicinoje ir energetikoje. Priešingai, reguliavimo šalininkai teigia, kad be griežtos priežiūros rizikuojame diegti „juodųjų dėžių“ sistemas, kurios gali padaryti negrįžtamą socialinę žalą arba masinę dezinformaciją. Tai klasikinis kompromisas tarp greito veikimo sprendžiant problemas ir atsargaus veikimo, siekiant išvengti naujų problemų.

Ekonominis poveikis

Įgalinimas daugiausia dėmesio skiria didžiuliam produktyvumo padidėjimui, atsirandančiam leidžiant dirbtiniam intelektui be jokių kliūčių įsiskverbti į kiekvieną pramonės šaką. Tačiau reguliavimas pabrėžia, kad nereguliuojamas dirbtinis intelektas, jei nebus kruopščiai valdomas, gali lemti darbo vietų praradimą ir rinkos monopolijas. Viena pusė nagrinėja bendrą sukurtą turtą, kita – kaip tas turtas ir galimybės paskirstomos visuomenėje.

Atvirojo kodo ir uždaros sistemos

Pagrindinis ginčytinas klausimas yra tai, ar galingi dirbtinio intelekto modeliai turėtų būti prieinami visiems, ar laikomi už korporacijų sienų. Įgalinimo šalininkai mano, kad atvirojo kodo programinė įranga neleidžia vienai įmonei tapti pernelyg galingai ir leidžia pasaulinei bendruomenei taisyti klaidas. Reguliavimo institucijos dažnai nerimauja, kad atvirojo kodo galingi modeliai pernelyg palengvina blogiems veikėjams jų panaudojimą kibernetinėms atakoms ar bioterorizmui.

Pasaulinis konkurencingumas

Šalys dažnai baiminasi, kad pernelyg griežtai reguliuodamos praras geriausius savo talentus šalims, kuriose taikomos švelnesnės taisyklės. Toks „lenktynių dėl dugno“ mentalitetas daugelį stumia į įgalinimo poziciją, kad išliktų priekyje pasaulinėse technologijų lenktynėse. Tačiau tarptautinės organizacijos vis labiau siekia „Briuselio efekto“, kai aukšti reguliavimo standartai vienoje didelėje rinkoje tampa pasauline norma visiems.

Privalumai ir trūkumai

Dirbtinio intelekto įgalinimas

Privalumai

+ Greitesni moksliniai proveržiai
+ Mažesnė įėjimo kliūtis
+ Maksimalus ekonomikos augimas
+ Pasaulinė technologijų lyderystė

Pasirinkta

− Nepatikrintas algoritminis šališkumas
− Netinkamo naudojimo rizika
− Privatumo problemos
− Galimas darbo vietų praradimas

Dirbtinio intelekto reglamentas

Privalumai

+ Gina pilietines teises
+ Užtikrina visuomenės pasitikėjimą
+ Sumažina sisteminę riziką
+ Aiški teisinė atsakomybė

Pasirinkta

− Lėtesnis inovacijų tempas
− Didelės atitikties išlaidos
− Reguliavimo užgrobimo rizika
− Talentas gali išeiti

Dažni klaidingi įsitikinimai

Mitas

Reguliuotojai nori visiškai sunaikinti dirbtinio intelekto pramonę.

Realybė

Dauguma reguliavimo institucijų iš tikrųjų nori sukurti stabilią aplinką, kurioje įmonės galėtų augti nebijodamos masinių ieškinių ar visuomenės nepasitenkinimo. Jie taisykles laiko „stabdžiais“, leidžiančiais automobiliui saugiai važiuoti greičiau, o ne nuolatiniu „stop“ ženklu.

Mitas

Dirbtinio intelekto įgalinimas naudingas tik didelėms technologijų įmonėms.

Realybė

Iš tiesų daugelis įgalinimo šalininkų yra dideli atvirojo kodo gerbėjai, nes tai leidžia startuoliams ir studentams konkuruoti su technologijų gigantais. Reglamentai dažnai yra palankūs didelėms įmonėms, nes jos yra vienintelės, galinčios sau leisti samdyti teisines komandas, reikalingas atitikčiai užtikrinti.

Mitas

Turime visiškai pasirinkti vieną arba kitą.

Realybė

Daugumoje šiuolaikinių sistemų, tokių kaip ES Dirbtinio intelekto įstatymas ar JAV vykdomasis įsakymas, bandoma rasti kompromisą. Jos leidžia laisvai kurti inovacijas „smėlio dėžėse“, tuo pačiu griežtai reglamentuodamos svarbias sritis, tokias kaip sveikatos priežiūra ar stebėjimas.

Mitas

Reguliavimas neleis dirbtiniam intelektui būti šališkam.

Realybė

Reglamentai gali įpareigoti testavimą ir skaidrumą, tačiau jie negali stebuklingai ištrinti šališkumo iš duomenų, naudojamų dirbtiniam intelektui apmokyti. Jie suteikia būdą, kaip užtikrinti žmonių atsakomybę šališkumo atveju, tačiau techninis „sąžiningumo“ iššūkis inžinieriams išlieka.

Dažnai užduodami klausimai

Kas nutiks, jei viena šalis reguliuos dirbtinį intelektą, o kitos – ne?

Tai sukuria „reguliavimo arbitražo“ situaciją, kai įmonės gali perkelti savo būstines į šalis, kuriose taisyklės yra liberalesnės. Tačiau jei reguliavimo šalis turi didelę rinką (pvz., ES), įmonės paprastai tiesiog laikosi griežtesnių taisyklių visur, nes tai pigiau nei gaminti dvi skirtingas to paties produkto versijas. Tai dažnai vadinama „Briuselio efektu“ ir padeda nustatyti pasaulinius standartus net ir neturint pasaulinės sutarties.

Ar dirbtinio intelekto reguliavimas brangina programinę įrangą vartotojams?

Trumpuoju laikotarpiu tai gali būti įmanoma, ypač specializuotų įrankių atveju. Įmonės turi daugiau išleisti auditams, duomenų valymui ir teisinėms išlaidoms, o šios išlaidos dažnai perkeliamos vartotojui. Tačiau šalininkai teigia, kad „nereguliuojamos“ nelaimės, tokios kaip didelis duomenų nutekėjimas ar šališka medicininė diagnozė, kaina visuomenei ilgainiui yra daug didesnė.

Ar atvirojo kodo dirbtinis intelektas apskritai gali būti reguliuojamas?

Tai vienas iš sunkiausių klausimų šioje srityje šiuo metu. Sunku reguliuoti kodą, kuris jau buvo paskelbtas viešai. Vieni siūlo reguliuoti „skaičiavimus“ (didžiulę techninę įrangą, reikalingą dirbtiniam intelektui apmokyti), o ne patį kodą. Kiti mano, kad turėtume sutelkti dėmesį į dirbtinio intelekto *naudojimo* reguliavimą – bausti asmenį, kuris jį naudoja už žalą, – o ne asmenį, kuris parašė atvirojo kodo kodą.

Kas yra dirbtinio intelekto „reguliavimo smėlio dėžė“?

Smėlio dėžė – tai kontroliuojama aplinka, kurioje įmonės gali testuoti naujus dirbtinio intelekto produktus, prižiūrint reguliavimo institucijoms, ir joms iš karto netaikomi visi įstatymai. Tai leidžia vyriausybei pamatyti, kaip technologija veikia realiame pasaulyje, ir leidžia įmonėms diegti naujoves, gaunant atsiliepimus apie saugumą. Iš esmės tai yra naujų idėjų „bandomasis laikotarpis“, kol jos patenka į masinę rinką.

Kas iš tikrųjų rašo šiuos dirbtinio intelekto reglamentus?

Paprastai tai yra vyriausybės pareigūnų, akademinių tyrėjų ir pramonės ekspertų mišinys. ES tai yra Parlamentas ir Taryba; JAV tai dažnai yra vykdomosios agentūros, tokios kaip NIST arba FTC. Jos metų metus diskutuoja apie apibrėžimus ir rizikos lygius, siekdamos užtikrinti, kad įstatymai nepasentų vos tik išleidus naują modelį.

Ar įgalinimas veda prie „žudikų robotų“?

Tai dažnas mokslinės fantastikos tropas, tačiau tikrose diskusijose „įgalinimas“ labiau susijęs su tokiais dalykais kaip dirbtinio intelekto valdomas kodavimas ar individualizuotas mokymas. Rizika paprastai nėra fizinis robotas, o „egzistencinė rizika“ iš dirbtinio intelekto, kuris gali optimizuotis netinkamam tikslui. Įgalinimo šalininkai teigia, kad geriausia apsauga nuo vieno „nesąžiningo“ dirbtinio intelekto yra turėti daug skirtingų dirbtinių intelektų, kuriuos kuria daugybė skirtingų žmonių.

Kaip reguliavimas veikia mažus startuolius?

Startuoliai dažnai susiduria su sunkumais dėl reguliavimo, nes neturi tokių didelių teisinių išlaidų kaip tokios įmonės kaip „Google“ ar „Microsoft“. Jei įstatymas reikalauja 100 000 USD audito kiekvienam naujam modeliui, dviejų asmenų startuolis gali tiesiog bankrutuoti. Štai kodėl daugelyje naujesnių reglamentų yra „pakopinių“ taisyklių, kurios yra švelnesnės mažoms įmonėms ir griežtesnės „sisteminiams“ dirbtinio intelekto teikėjams.

Kodėl terminas „juodoji dėžė“ yra toks svarbus šioje diskusijoje?

„Juodoji dėžė“ – tai dirbtinis intelektas, kurio kūrėjai net iki galo nesupranta, kodėl jis priėmė konkretų sprendimą. Reguliuotojai nekenčia juodųjų dėžių, nes negalima įrodyti, kad jos nėra šališkos ar nesąžiningos. Įgalinimo šalininkai teigia, kad jei juodoji dėžė veikia – tarkime, ji randa vaistą nuo vėžio – rezultatas yra svarbesnis nei paaiškinimas. Diskusijos vyksta dėl to, ar turėtume teikti pirmenybę „supratimui“, ar „našumui“.

Nuosprendis

Pasirinkimas tarp šių dviejų priklauso nuo jūsų prioritetų: jei manote, kad didžiausia grėsmė yra atsilikimas nuo ligų gydymo ar jų nebuvimas, įgalinimas yra tinkamas kelias. Jei manote, kad didžiausia grėsmė yra privatumo pažeidimas ir automatizuoto šališkumo augimas, tuomet reguliuojamas požiūris yra būtinas ilgalaikiam stabilumui.

Susiję palyginimai

Abstraktūs principai ir realaus pasaulio poveikis

Kuriant valdymo sistemas, egzistuoja esminė įtampa tarp teorinių idealų grynumo ir painios praktinio įgyvendinimo realybės. Nors abstraktūs principai suteikia moralinį kompasą ir ilgalaikę viziją, realaus pasaulio poveikis sutelktas į tiesioginius rezultatus, kultūrinius niuansus ir nenumatytas pasekmes, kurios dažnai kyla, kai tobulos teorijos susiduria su netobulu žmonių elgesiu.

Atitiktis ir efektyvumas

Nors įmonių valdyme atitiktis dažnai vartojama kaip sinonimas, ji daugiausia dėmesio skiria išorinių įstatymų ir vidaus taisyklių laikymuisi, o veiksmingumas matuoja, kaip gerai šie veiksmai iš tikrųjų pasiekia norimą rezultatą. Organizacijos turi subalansuoti įstatymų raidės laikymąsi su praktine realybe – ar jų strategijos iš tikrųjų apsaugo verslą ir skatina veiklos rezultatus.

Bendruomenės inicijuotas planavimas ir planavimas „iš viršaus į apačią“

Sprendimai, kaip plėtoti mūsų miestus ir rajonus, dažnai priklauso nuo dviejų filosofijų pasirinkimo. Planavimas „iš viršaus į apačią“ remiasi centralizuota valdžia ir techniniais ekspertais, kurie skatina efektyvumą, o bendruomenės inicijuotas planavimas suteikia vietos gyventojams galių formuoti savo aplinką tiesiogiai dalyvaujant ir dalijantis sprendimų priėmimo galia.

Decentralizuotas dirbtinio intelekto naudojimas ir centralizuotas dirbtinio intelekto valdymas

Šiame palyginime nagrinėjama įtampa tarp atvirojo kodo, paskirstytų dirbtinio intelekto modelių diegimo visuomenėje ir struktūrizuotos, reguliavimo priežiūros, kurią pirmenybę teikia didelės korporacijos ir vyriausybės. Nors decentralizuotas naudojimas teikia pirmenybę prieinamumui ir privatumui, centralizuotas valdymas daugiausia dėmesio skiria saugos standartams, etiniam suderinamumui ir sisteminės rizikos, susijusios su galingais didelio masto modeliais, mažinimui.

Duomenų prieiga ir duomenų atsakomybė

Šiame palyginime nagrinėjama esminė pusiausvyra tarp vartotojų įgalinimo užtikrinant sklandų informacijos prieinamumą ir griežtos priežiūros, reikalingos siekiant užtikrinti duomenų saugumą, privatumą ir atitiktį reikalavimams. Nors prieiga skatina inovacijas ir greitį, atsakomybė yra esminis apsauginis elementas, apsaugantis nuo netinkamo duomenų naudojimo ir išlaikantis pasitikėjimą organizacija.