Techniniai pajėgumai ir etinė atsakomybė
Šiame palyginime analizuojamas atotrūkis tarp to, ką technologijos gali pasiekti, ir jas kuriančių bei diegiančių asmenų moralinių įsipareigojimų. Techninei galiai augant eksponentiškai, iššūkis yra užtikrinti, kad inovacijos neaplenktų mūsų gebėjimo atsakingai ir skaidriai valdyti jų pasekmes.
Akcentai
- Gebėjimai be atskaitomybės veda prie sisteminio šališkumo ir visuomenės nepasitikėjimo.
- Atskaitomybė be gebėjimų lemia saugias, bet nenaudingas arba pasenusias sistemas.
- „Suderinimo problema“ yra pagrindinis šiuolaikinės techninės etikos iššūkis.
- Tokie teisės aktai kaip ES dirbtinio intelekto įstatymas yra skirti panaikinti atotrūkį tarp šių dviejų polių.
Kas yra Techniniai pajėgumai?
Technologijos ar sistemos grynoji galia, efektyvumas ir funkcinės ribos.
- Vadovaujamasi Moore'o dėsniu ir algoritminio efektyvumo bei duomenų apdorojimo proveržiais.
- Matuojamas pagal našumo rodiklius, tokius kaip delsa, pralaidumas ir tikslumo balai.
- Dėmesys sutelkiamas į klausimą „ar tai įmanoma padaryti?“, o ne į „ar tai reikėtų padaryti?“
- Dažnai naudojama didelio našumo įranga, pvz., H100 GPU ir specializuoti dirbtinio intelekto lustai.
- Padidina mastą automatizuojant ir pašalinant žmogaus įsikišimą iš ciklo.
Kas yra Etinė atskaitomybė?
Atsakomybės už techninių sistemų socialinį, moralinį ir nenumatytą poveikį sistema.
- Orientuojasi į žmogui svarbius rezultatus, tokius kaip sąžiningumas, skaidrumas ir saugumas.
- Reikalingas „paaiškinimas“ (XAI), kad žmonės galėtų suprasti, kodėl mašina priėmė sprendimą.
- Apima teisinę atsakomybę – nustato, kas yra atsakingas, kai sugenda autonominė sistema.
- Naudoja raudonųjų komandų ir šališkumo auditus, kad nustatytų galimą žalą prieš diegimą.
- Skatina „žmogaus intarpo“ (HITL) sistemas palaikyti svarbiausių užduočių priežiūrą.
Palyginimo lentelė
| Funkcija | Techniniai pajėgumai | Etinė atskaitomybė |
|---|---|---|
| Pagrindinis dėmesys | Našumas ir greitis | Saugumas ir sąžiningumas |
| Pagrindinis klausimas | Kaip greitai galime važiuoti? | Kur turėtume sustoti? |
| Vertinimo įrankis | Lyginamieji testai ir streso testai | Poveikio vertinimai ir auditai |
| Augimo variklis | MTEP investicijos | Visuomenės pasitikėjimas ir reguliavimas |
| Rizikos profilis | Techninė skola | Socialinė ir teisinė žala |
| Rezultato tikslas | Optimizavimas | Lygiavimas |
Išsamus palyginimas
Greičio skirtumas
Techniniai pajėgumai dažnai vystosi žaibišku greičiu – naujos programinės įrangos versijos ir aparatinės įrangos galimybės išleidžiamos kas kelis mėnesius. Etinė atsakomybė vystosi lėčiau, nes jai reikia filosofinių diskusijų, visuomenės sutarimo ir teisėkūros veiksmų. Ši „tempo problema“ reiškia, kad dažnai reguliuojame technologijas, kurios jau iš esmės pakeitė visuomenės funkcionavimą.
Optimizavimas ir lygiavimas
Sistema, optimizuota vien pagal galimybes, ras efektyviausią kelią tikslui pasiekti, o tai gali apimti ir privatumo ar sąžiningumo mažinimą. Etinė atskaitomybė veikia kaip suderinimo mechanizmas, verčiantis sistemą veikti vadovaujantis žmogiškosiomis vertybėmis, net jei tai mažina grynąjį efektyvumą. Ji užtikrina, kad „geriausias“ techninis sprendimas taip pat būtų „teisingiausias“ sprendimas.
Skaidrumas ir juodoji dėžė
Dėl didelių techninių pajėgumų, ypač gilaus mokymosi srityje, dažnai susidaro „juodosios dėžės“ sistemos, kurių logika yra pernelyg sudėtinga žmonėms suprasti. Atskaitomybė reikalauja skaidrumo, todėl kūrėjai yra priversti paaukoti nedidelį našumo lygį, kad sistemos sprendimus būtų galima audituoti ir paaiškinti. Be to, pasitikėjimas technologijomis greitai sumažės.
Atsakomybė autonomijoje
Kai sistema techniškai geba pati priimti sprendimus, pavyzdžiui, autonominė transporto priemonė ar medicininės diagnostikos įrankis, atsakomybės klausimas tampa neatidėliotinas. Pajėgumas apibrėžia mašinos gebėjimą veikti, tačiau atsakomybė apibrėžia, kas sumoka kainą, jei tas veiksmas padaro žalą. Šis perėjimas nuo „įrankio“ prie „agento“ yra didžiausia šiuolaikinio valdymo kliūtis.
Privalumai ir trūkumai
Techniniai pajėgumai
Privalumai
- +Išsprendžia sudėtingas problemas
- +Padidina produktyvumą
- +Skatina ekonomikos augimą
- +Įgalina naujas funkcijas
Pasirinkta
- −Galimas netinkamas naudojimas
- −Gali būti nepermatomas
- −Gali sukelti šališkumą
- −Nepaiso socialinių išlaidų
Etinė atskaitomybė
Privalumai
- +Gina žmogaus teises
- +Kuria ilgalaikį pasitikėjimą
- +Sumažina teisinę riziką
- +Užtikrina sąžiningumą
Pasirinkta
- −Gali sulėtinti paleidimą
- −Didesnės atitikties išlaidos
- −Gali apriboti inovacijas
- −Sudėtinga išmatuoti
Dažni klaidingi įsitikinimai
Etika visada stabdo inovacijas.
Iš tiesų, etikos sistemos gali paspartinti inovacijas, nustatydamos aiškias „kelių taisykles“, kurios suteikia įmonėms pasitikėjimo investuoti į naujas technologijas, nebijant staigaus teisinio ar viešųjų ryšių neigiamo poveikio.
Jei mašina yra tiksli, ji yra etiškai pagrįsta.
Tikslumas yra techninis, o ne moralinis rodiklis. Veido atpažinimo sistema gali būti 99 % tiksli, tačiau vis tiek kelti etinių problemų, jei ji naudojama masiniam stebėjimui be sutikimo.
Inžinieriai neatsako už tai, kaip žmonės naudoja savo įrankius.
Šiuolaikinis „vertę į vertę orientuotas dizainas“ teigia, kad inžinieriai privalo numatyti galimą netinkamą panaudojimą. Įrankio, kurį „galima“ lengvai paversti ginklu, kūrimas vis dažniau laikomas atsakomybės stoka.
Etiškas dirbtinis intelektas tėra viešųjų ryšių triukas.
Nors egzistuoja „etinių principų plovimas“, tikroji atskaitomybė apima privalomas teisines sutartis, nepriklausomus auditus ir programinės įrangos architektūrinius pakeitimus, kurie užtikrina patikimą jos veikimą.
Dažnai užduodami klausimai
Kas yra „Etika pagal dizainą“?
Kas atsakingas, kai DI padaro klaidą?
Ar galime išmatuoti etinę atsakomybę?
Kodėl „paaiškinimas“ yra toks svarbus atskaitomybei?
Ar didėjantys pajėgumai visada mažina saugumą?
Kas yra „raudonosios komandos“ pratimas?
Kaip maži startuoliai tvarko etinę atsakomybę?
Kas yra „algoritminis poveikio vertinimas“?
Nuosprendis
Techniniai pajėgumai yra pažangos variklis, o etinė atsakomybė – vairas. Susitelkite į pajėgumus, kai reikia spręsti sudėtingas skaičiavimo problemas, tačiau niekada nenaudokite šių sprendimų be tvirtos atskaitomybės sistemos, skirtos valdyti poveikį žmonėms.
Susiję palyginimai
Abstraktūs principai ir realaus pasaulio poveikis
Kuriant valdymo sistemas, egzistuoja esminė įtampa tarp teorinių idealų grynumo ir painios praktinio įgyvendinimo realybės. Nors abstraktūs principai suteikia moralinį kompasą ir ilgalaikę viziją, realaus pasaulio poveikis sutelktas į tiesioginius rezultatus, kultūrinius niuansus ir nenumatytas pasekmes, kurios dažnai kyla, kai tobulos teorijos susiduria su netobulu žmonių elgesiu.
Atitiktis ir efektyvumas
Nors įmonių valdyme atitiktis dažnai vartojama kaip sinonimas, ji daugiausia dėmesio skiria išorinių įstatymų ir vidaus taisyklių laikymuisi, o veiksmingumas matuoja, kaip gerai šie veiksmai iš tikrųjų pasiekia norimą rezultatą. Organizacijos turi subalansuoti įstatymų raidės laikymąsi su praktine realybe – ar jų strategijos iš tikrųjų apsaugo verslą ir skatina veiklos rezultatus.
Bendruomenės inicijuotas planavimas ir planavimas „iš viršaus į apačią“
Sprendimai, kaip plėtoti mūsų miestus ir rajonus, dažnai priklauso nuo dviejų filosofijų pasirinkimo. Planavimas „iš viršaus į apačią“ remiasi centralizuota valdžia ir techniniais ekspertais, kurie skatina efektyvumą, o bendruomenės inicijuotas planavimas suteikia vietos gyventojams galių formuoti savo aplinką tiesiogiai dalyvaujant ir dalijantis sprendimų priėmimo galia.
Decentralizuotas dirbtinio intelekto naudojimas ir centralizuotas dirbtinio intelekto valdymas
Šiame palyginime nagrinėjama įtampa tarp atvirojo kodo, paskirstytų dirbtinio intelekto modelių diegimo visuomenėje ir struktūrizuotos, reguliavimo priežiūros, kurią pirmenybę teikia didelės korporacijos ir vyriausybės. Nors decentralizuotas naudojimas teikia pirmenybę prieinamumui ir privatumui, centralizuotas valdymas daugiausia dėmesio skiria saugos standartams, etiniam suderinamumui ir sisteminės rizikos, susijusios su galingais didelio masto modeliais, mažinimui.
Dirbtinio intelekto įgalinimas ir dirbtinio intelekto reguliavimas
Šiame palyginime nagrinėjama įtampa tarp dirbtinio intelekto spartinimo siekiant padidinti žmonių galimybes ir apsauginių barjerų įdiegimo siekiant užtikrinti saugumą. Nors įgalinimas orientuotas į ekonomikos augimo ir kūrybinio potencialo maksimalų didinimą per atvirą prieigą, reguliavimas siekia sušvelninti sisteminę riziką, užkirsti kelią šališkumui ir nustatyti aiškią teisinę atsakomybę už automatizuotus sprendimus.