See võrdlus analüüsib lõhet tehnoloogia võimete ja selle loojate ning rakendajate moraalsete kohustuste vahel. Kuna tehniline võimsus kasvab eksponentsiaalselt, seisneb väljakutse selles, kuidas tagada, et innovatsioon ei ületaks meie võimet selle tagajärgi vastutustundlikult ja läbipaistvalt hallata.
Tehnoloogia või süsteemi toores võimsus, efektiivsus ja funktsionaalsed piirid.
Tehniliste süsteemide sotsiaalsete, moraalsete ja ettenägematute mõjude eest vastutuse raamistik.
| Funktsioon | Tehniline võimekus | Eetiline vastutus |
|---|---|---|
| Peamine fookus | Jõudlus ja kiirus | Ohutus ja õiglus |
| Põhiküsimus | Kui kiiresti me saame minna? | Kus me peaksime peatuma? |
| Hindamisvahend | Võrdlusnäitajad ja stressitestid | Mõjuhinnangud ja auditid |
| Kasvu liikumapanev jõud | Teadus- ja arendustegevuse investeeringud | Ühiskondlik usaldus ja regulatsioon |
| Riskiprofiil | Tehniline võlg | Sotsiaalne ja juriidiline kahju |
| Tulemuseesmärk | Optimeerimine | Joondus |
Tehniline võimekus areneb sageli välgukiirusel, uusi tarkvaraversioone ja riistvaravõimalusi tuleb turule iga paari kuu tagant. Eetiline vastutus areneb aeglasemalt, kuna see nõuab filosoofilist debatti, avalikku konsensust ja seadusandlikke meetmeid. See „tempoprobleem“ tähendab, et me reguleerime sageli tehnoloogiaid, mis on juba ühiskonna toimimist põhjalikult muutnud.
Ainult võimekusele optimeeritud süsteem leiab eesmärgi saavutamiseks kõige tõhusama tee, mis võib hõlmata privaatsuse või õigluse osas nurkade lõikamist. Eetiline vastutus toimib joondusmehhanismina, sundides süsteemi tegutsema inimlike väärtuste raames isegi siis, kui see vähendab puhast efektiivsust. See tagab, et „parim“ tehniline lahendus on ka kõige „õiglasem“ lahendus.
Suur tehniline võimekus, eriti süvaõppes, viib sageli nn musta kasti süsteemideni, mille loogika on inimestele liiga keeruline jälgida. Vastutus nõuab läbipaistvust, sundides arendajaid ohverdama väikest osa jõudlusest, et tagada süsteemi otsuste auditeerimine ja selgitamine. Ilma selleta kaob usaldus tehnoloogia vastu kiiresti.
Kui süsteem on tehniliselt võimeline ise otsuseid langetama – näiteks autonoomne sõiduk või meditsiiniline diagnostikavahend –, muutub vastutuse küsimus pakiliseks. Võimekus määratleb masina tegutsemisvõime, kuid vastutus määratleb, kes maksab hinna, kui see tegevus põhjustab kahju. See nihe „tööriistalt” „agendiks” on tänapäeva valitsemise suurim takistus.
Eetika aeglustab alati innovatsiooni.
Tegelikult saavad eetilised raamistikud innovatsiooni kiirendada, pakkudes selgeid „liiklusreegleid“, mis annavad ettevõtetele kindlustunde investeerida uutesse tehnoloogiatesse, kartmata ootamatut juriidilist või PR-vastast reaktsiooni.
Kui masin on täpne, on see eetiliselt korrektne.
Täpsus on tehniline, mitte moraalne mõõdik. Näotuvastussüsteem võib olla 99% täpne, kuid siiski eetiliselt problemaatiline, kui seda kasutatakse massijälgimiseks ilma nõusolekuta.
Insenerid ei vastuta selle eest, kuidas inimesed oma tööriistu kasutavad.
Kaasaegne „väärtustundlik disain” väidab, et inseneridel on kohustus ette näha võimalikke väärkasutusi. Tööriista ehitamist, mida on „võimalik” hõlpsasti relvaks muuta, peetakse üha enam vastutuse läbikukkumiseks.
Eetiline tehisintellekt on lihtsalt PR-trikk.
Kuigi „eetika pesemine” eksisteerib, hõlmab tõeline vastutus siduvaid juriidilisi lepinguid, sõltumatuid auditeid ja tarkvara arhitektuurilisi muudatusi, mis tagavad selle usaldusväärse toimimise.
Tehniline võimekus on progressi mootor ja eetiline vastutus on rooliratas. Keskendu võimekusele, kui sul on vaja lahendada keerulisi arvutuslikke probleeme, aga ära kunagi rakenda neid lahendusi ilma tugeva vastutusraamistikuta inimtegevuse mõju haldamiseks.
Juhtimissüsteemide kujundamisel valitseb põhimõtteline pinge teoreetiliste ideaalide puhtuse ja praktilise rakendamise keerulise reaalsuse vahel. Kui abstraktsed põhimõtted pakuvad moraalset kompassi ja pikaajalist visiooni, siis reaalse maailma mõju keskendub kohestele tulemustele, kultuurilistele nüanssidele ja ettenägematutele tagajärgedele, mis sageli tekivad siis, kui täiuslikud teooriad kohtuvad ebatäiusliku inimkäitumisega.
See võrdlus uurib kriitilist tasakaalu kasutajatele sujuva teabe kättesaadavuse kaudu volituste andmise ja andmete turvalisuse, privaatsuse ja nõuetele vastavuse tagamiseks vajaliku range järelevalve vahel. Kuigi juurdepääs soodustab innovatsiooni ja kiirust, toimib vastutus olulise kaitsepiirdena, mis hoiab ära andmete väärkasutamise ja säilitab organisatsiooni usalduse.
See võrdlus uurib valitsemises valitsevat põhimõttelist pinget tegevuse vahel, mille eesmärk on tuua kasu kogu kogukonnale, ja tegevuste vahel, mille eesmärk on maksimeerida isiklikku või ettevõtte kasumit. Kui avalik huvi keskendub kollektiivsele heaolule ja ressursside õiglasele jaotamisele, siis erakasu keskendub individuaalsele õitsengule ja turupõhistele stiimulitele, tekitades sageli keerulisi eetilisi dilemmasid poliitikas ja õiguses.
Avaliku rahastamise ja erasektori partnerluse vahel valimine eeldab täieliku demokraatliku kontrolli ja erasektori tõhususe kaalumist. Kuigi avalik rahastamine tagab, et projekt teenib inimesi ilma kasumit taotlemata, saab erasektori partnerlus kiirendada ehitust ja nihutada finantsriskid valitsuselt eemale pikaajaliste teenuslepingute või teemaksude vastu.
See võrdlus uurib pinget agressiivse turvameetmete ja avaliku usalduse sotsiaalse vajaduse vahel. Kuigi jõuliste turvameetmete eesmärk on kuritegevust ennetada kohaloleku ja tehnoloogia abil, võivad need õõnestada kogukonna usaldust, kui neid tajutakse pealetükkivate või kallutatud meetmetena, mis võib kahjustada just seda turvalisust, mida nad pakkuda püüavad.
