mākslīgais intelektszināšanu pārvaldībalēmumu pieņemšanaekspertu sistēmascilvēks pret mākslīgo intelektu
Mākslīgā intelekta zināšanu sistēmas pret cilvēka eksperta spriedumu
Mākslīgā intelekta zināšanu sistēmas apstrādā milzīgus datu kopumus mašīnas ātrumā, savukārt cilvēku ekspertu spriedumi balstās uz dzīves pieredzi, intuīciju un kontekstuālu spriešanu. Abas pieejas ietekmē lēmumus medicīnā, tiesībās, finansēs un zinātnē, taču tās krasi atšķiras mērogojamības, konsekvences un pielāgošanās spējas jaunām situācijām ziņā.
Iezīmes
Mākslīgais intelekts paplašina ekspertu līmeņa informācijas piekļuvi miljardiem ar gandrīz nulles robežizmaksām
Cilvēku eksperti pielāgojas patiesi jaunām situācijām, izmantojot analoģisku spriešanu
Abu pieeju apvienošana konsekventi pārspēj jebkuras atsevišķas pieejas izmantošanu.
Mākslīgā intelekta halucinācijas un cilvēka kognitīvās aizspriedumi ir principiāli atšķirīgi neveiksmes veidi
Kas ir Mākslīgā intelekta zināšanu sistēmas?
Programmatūras sistēmas, kas, izmantojot mašīnmācīšanos un valodu modeļus, uzglabā, izgūst un apstrādā strukturētu un nestrukturētu informāciju.
Mūsdienu mākslīgā intelekta zināšanu sistēmas var indeksēt miljardiem dokumentu un iegūt atbilstošas tekstas mazāk nekā sekundē.
Viņi paļaujas uz tādām metodēm kā atgūšanas paplašināta ģenerēšana, zināšanu grafi un lieli valodu modeļi, lai sintezētu atbildes.
Atšķirībā no statiskām datubāzēm, tās apgūst modeļus no apmācības datiem un var vispārināt uz jautājumiem, ko nekad iepriekš nav redzējušas.
Kā vadošos piemērus var minēt medicīnas asistentus, piemēram, IBM Watson for Oncology, un vispārējas nozīmes rīkus, piemēram, GPT-4 ar izguves spraudņiem.
Viņi cīnās ar halucinācijām, radot ticami skanošu, bet faktiski nepareizu informāciju, ja avoti ir neskaidri vai to vispār nav.
Kas ir Cilvēka eksperta spriedums?
Lēmumus un novērtējumus veic apmācīti profesionāļi, pamatojoties uz daudzu gadu izglītību, praktisko pieredzi un kontekstuālo izpratni.
Saskaņā ar Andersa Eriksona un kolēģu pētījumu, eksperta spriedums attīstās aptuveni 10 000 apzinātas prakses stundu laikā.
Cilvēki var izvērtēt ētiskos, emocionālos un sociālos faktorus, kas neietilpst nevienā oficiālā datu kopā.
Pētījumi radioloģijā liecina, ka pieredzējuši speciālisti pārspēj jaunākos ārstus, un daudzi algoritmi netipisku vai retu gadījumu gadījumā
Eksperti pielāgojas jaunām situācijām, spriežot pēc analoģijas, balstoties uz iepriekšējo pieredzi, nevis atgūstot saglabātos modeļus.
Cilvēka spriedums ir pakļauts kognitīvām neobjektivitātēm, piemēram, piesaistes, pieejamības un apstiprināšanas neobjektivitātei, ko identificējuši Kānemans un Tverskis.
Salīdzinājuma tabula
Funkcija
Mākslīgā intelekta zināšanu sistēmas
Cilvēka eksperta spriedums
Informācijas izguves ātrums
Milisekundes miljardiem dokumentu
Sekundes līdz minūtes, ko ierobežo darba atmiņa un lasīšanas ātrums
Mērogojamība
Horizontāli mērogojas ar skaitļošanas un krātuves iespējām
Ierobežots pieejamo apmācīto speciālistu skaits
Konsekvence
Augsta konsekventa, ņemot vērā identiskus ievades datus
Mainīgs, ko ietekmē nogurums, garastāvoklis un nesenās aktivitātes ietekme
Jaunu situāciju risināšana
Bieži vien neizdodas vai halucinē ārpus apmācību izplatīšanas
Var spriest analoģiski un improvizēt, balstoties uz pirmajiem principiem
Maksa par vaicājumu
Robežizmaksas gandrīz nulles pēc ieviešanas
Augstas robežizmaksas, bieži vien no 100 līdz 500 USD par eksperta laika stundu
Neobjektivitātes profils
Atspoguļo apmācības datos iestrādātās neobjektivitātes
Pakļauts labi dokumentētām kognitīvām aizspriedumiem
Auditējamība
Lēmumus var reģistrēt, bet pamatojums bieži vien ir neskaidrs
Argumentāciju var apšaubīt, apspriest un izskaidrot
Domēna pārklājums
Plašs, bet sekls bez precizēšanas
Šaura, bet dziļa kompetences joma
Emocionālā un ētiskā spriešana
Ierobežots ar modeļiem, kas apgūti no teksta
Patiesa spēja izjust empātiju un morālu apspriešanu
Detalizēts salīdzinājums
Kā viņi apstrādā informāciju
Mākslīgā intelekta zināšanu sistēmas sadala vaicājumus matemātiskos attēlojumos, meklē vektoru datubāzēs vai zināšanu grafikos un ģenerē atbildes, paredzot visticamāko vārdu vai faktu secību. Turpretī cilvēku eksperti aktivizē ilgtermiņa atmiņu, apsver konkurējošas hipotēzes un bieži vien skaļi izrunā problēmas vai prātā atkārto scenārijus. Mākslīgā intelekta pieeja izceļas ar plašumu un atcerēšanos, savukārt cilvēciskā pieeja izceļas, kad problēmu risināšanai ir nepieciešama maņu signālu, ķermeņa valodas vai neizteikta konteksta integrācija.
Precizitāte un kļūdu modeļi
Abas sistēmas pieļauj kļūdas, taču šo kļūdu raksturs krasi atšķiras. Mākslīgā intelekta sistēmas reizēm rada pārliecinātas halucinācijas, safabricējot citātus vai statistiku, kas izklausās autoritatīvi, bet neeksistē. Cilvēki biežāk pieļauj izlaiduma kļūdas, balstoties uz sākotnējo diagnozi vai ļaujot neseniem spilgtiem gadījumiem izkropļot savas varbūtības aplēses. Pētījumi medicīniskās diagnostikas jomā liecina, ka abu pieeju apvienošana, ko dažreiz sauc par cilvēka iesaisti mākslīgajā intelektā, samazina kļūdu līmeni vairāk nekā katra metode atsevišķi.
Izmaksas, piekļuve un mērogojamība
Kad mākslīgā intelekta sistēma ir apmācīta un ieviesta, tā var vienlaikus apkalpot miljoniem lietotāju ar gandrīz nulles robežizmaksām, padarot pieejamu ekspertu līmeņa vadību reģionos, kuros trūkst apmācītu speciālistu. Cilvēkresursu zināšanas joprojām ir dārgas un ģeogrāfiski koncentrētas, jo speciālisti ir koncentrēti lielākajos medicīnas centros un pētniecības universitātēs. Šī plaisa ir galvenais iemesls globālajām sarunām par veselības un izglītības vienlīdzību saistībā ar mākslīgā intelekta ieviešanu.
Uzticēšanās, atbildība un ētika
Kad mākslīgā intelekta sistēma sniedz nepareizus padomus, atbildība ir neskaidra: vai tā ir izstrādātāja, ieviesēja vai gala lietotāja atbildība? Cilvēku ekspertiem ir profesionālas licences, atbildība par ļaunprātīgu rīcību un reputācijas riski, kas rada skaidrākas atbildības robežas. No otras puses, cilvēkus var ietekmēt finansiāli stimuli, politika vai personiskas attiecības tādā veidā, kā to nevar izdarīt rūpīgi izstrādāts algoritms. Neviena no pieejām nav ētiski neitrāla, un abām ir nepieciešama pārvaldība.
Mācīšanās un adaptācija
Mākslīgā intelekta sistēmas tiek atjauninātas, izmantojot pārapmācības ciklus, kas var ilgt nedēļas un kuriem ir nepieciešamas atlasītas datu kopas, savukārt cilvēku eksperti nepārtraukti mācās no katra pacienta, klienta vai gadījuma, ar kuru viņi saskaras. Radiologs, kurš šodien redz retu audzēju, to atcerēsies rīt; mākslīgā intelekta modelis no šādiem gadījumiem mācās tikai tad, ja tie tiek pievienoti nākamajai apmācības grupai. Tas padara cilvēkus atsaucīgākus pret jauniem draudiem, piemēram, jauniem patogēniem, bet lēnāk absorbē liela mēroga statistikas modeļus.
Priekšrocības un trūkumi
Mākslīgā intelekta zināšanu sistēmas
Iepriekšējumi
+Masveida mērogojamība
+Zibensātra atgūšana
+Zemas robežizmaksas
+Konsekventa izejas jauda
Ievietots
−Nosliece uz halucinācijām
−Neskaidra spriešana
−Ierobežota romāna spriešana
−Apmācības datu neobjektivitāte
Cilvēka eksperta spriedums
Iepriekšējumi
+Kontekstuālā izpratne
+Ētiskā spriešana
+Pielāgojas jaunumam
+Skaidra atbildība
Ievietots
−Dārgi par katru vaicājumu
−Ierobežota mērogojamība
−Kognitīvās aizspriedumi
−Mainīga konsistence
Biežas maldības
Mīts
Mākslīgā intelekta zināšanu sistēmas vienmēr ir precīzākas nekā cilvēku eksperti.
Realitāte
Precizitāte ir ļoti atkarīga no uzdevuma. Šaurās, labi novērtētās jomās, piemēram, radioloģijas skrīningā, lai noteiktu bieži sastopamas pazīmes, mākslīgais intelekts var sasniegt vai pārspēt vidusmēra klīnicistus. Retos, netipiskos vai daudzfaktoru gadījumos pieredzējuši cilvēki joprojām pārspēj. Pētījumi konsekventi liecina, ka hibrīdkomandas pārspēj jebkuru no pusēm atsevišķi.
Mīts
Cilvēku eksperti pieņem lēmumus, pamatojoties tikai uz loģiku un pierādījumiem.
Realitāte
Pat pieredzējušus profesionāļus ietekmē kognitīvie saīsinājumi, nesen notikuši neaizmirstami gadījumi, nogurums un emocionālais stāvoklis. Kānemana pētījums par 1. un 2. sistēmas domāšanu liecina, ka intuitīvi spriedumi, lai gan bieži vien ir noderīgi, ir sistemātiski neobjektīvi paredzamā veidā.
Mīts
Mākslīgā intelekta sistēmas saprot informāciju, ko tās iegūst.
Realitāte
Lieli valodu modeļi manipulē ar statistiskiem modeļiem tekstā bez jebkāda pamatota pasaules modeļa. Tie var sniegt tekošas, pārliecinātas atbildes par tēmām, par kurām tiem nav īstas izpratnes, tāpēc rodas halucinācijas un tāpēc cilvēka uzraudzība joprojām ir būtiska.
Mīts
Kad mākslīgā intelekta sistēma ir apmācīta, tā automātiski paliek aktuāla.
Realitāte
Lielākajai daļai ieviesto mākslīgā intelekta zināšanu sistēmu ir zināšanu ieguves termiņš, un tās nemācās no jaunas informācijas reāllaikā. To atjaunināšana prasa atkārtotu apmācību vai papildināšanu ar izguves kanāliem, kas ielādē jaunus datus, un abas šīs darbības ietver inženiertehniskus piepūles un izmaksas.
Mīts
Mākslīgais intelekts nevar atkārtot vai palīdzēt cilvēka spriedumiem.
Realitāte
Mākslīgais intelekts jau papildina ekspertu darbu zāļu atklāšanā, juridiskajā pētniecībā un diagnostiskajā attēlveidošanā. Mērķis reti ir pilnīga aizstāšana; tā vietā mākslīgais intelekts veic rutīnas modeļu salīdzināšanu, lai eksperti varētu koncentrēties uz neskaidriem, svarīgiem lēmumiem, kuros cilvēka spriedums sniedz vislielāko vērtību.
Bieži uzdotie jautājumi
Vai mākslīgā intelekta zināšanu sistēmas var pilnībā aizstāt cilvēkus-ekspertus?
Ne lielākajā daļā augstu likmju jomu. Mākslīgais intelekts izceļas ar informācijas izgūšanu un modeļu salīdzināšanu, taču tam trūkst kontekstuālās, ētiskās un adaptīvās spriešanas, kas raksturo patiesu kompetenci. Lielākā daļa veiksmīgo ieviešanas gadījumu izmanto mākslīgo intelektu, lai papildinātu ekspertu darbu, nevis aizstātu tos, apstrādājot ikdienas vaicājumus, vienlaikus eskalējot sarežģītas lietas cilvēkiem.
Kas ir ar atgūšanu papildināta ģenerēšana un kāpēc tā ir svarīga?
Ar izgūšanas palīdzību papildināta ģenerēšana jeb RAG ir metode, kurā mākslīgā intelekta sistēma vispirms meklē atbilstošus dokumentus atlasītā zināšanu bāzē un pēc tam izmanto šos dokumentus, lai pamatotu savu atbildi. Tas ievērojami samazina halucinācijas, jo modelis atsaucas uz reāliem avotiem, nevis paļaujas tikai uz apmācības laikā iegaumētiem modeļiem. Tā ir arhitektūra, kas ir pamatā lielākajai daļai uzņēmumu mākslīgā intelekta asistentu 2025. un 2026. gadā.
Kā kognitīvās aizspriedumi ietekmē cilvēka eksperta spriedumus?
Tādas neobjektivitātes kā enkurošana (pārmērīga paļaušanās uz pirmo informācijas vienību), pieejamība (spriešana pēc tā, kas viegli nāk prātā) un apstiprinājuma neobjektivitāte (pierādījumu meklēšana, kas apstiprina esošos uzskatus) kropļo ekspertu lēmumus medicīnā, jurisprudencē un finansēs. Šo neobjektivitāti apzināšanās apvienojumā ar strukturētiem lēmumu pieņemšanas rīkiem un otrajiem viedokļiem var ievērojami uzlabot precizitāti.
Vai mākslīgā intelekta halucinācijas ir bīstamas reālās pasaules lietojumos?
Jā, tāpēc augsta riska ieviešanai ir nepieciešama cilvēka pārskatīšana. Mākslīgā intelekta sistēmas ir izgudrojušas tiesas prāvas, uz kurām juristi atsaucās iesniegumos, safabricējušas medicīniskos pētījumus un sagatavojušas ticamu, bet nepatiesu statistiku. Aizsargbarjeras ietver avotu citēšanu, ticamības vērtēšanu, izguves pamatojumu un cilvēka informēšanu par būtiskiem lēmumiem.
Kas ir lētāk: mākslīgā intelekta zināšanu sistēmas vai cilvēku eksperti?
Mākslīgais intelekts ir ievērojami lētāks plašā mērogā. Robežmodeļa apmācība izmaksā miljoniem dolāru, bet miljona vaicājumu apkalpošana pēc tam izmaksā tikai dažus dolārus skaitļošanas jomā. Cilvēki-eksperti tādās jomās kā medicīna un jurisprudence iekasē no 200 līdz 600 dolāriem stundā, padarot mākslīgo intelektu pievilcīgu liela apjoma, mazāk svarīgu uzdevumu veikšanai.
Kā zināšanu grafi atšķiras no lieliem valodu modeļiem?
Zināšanu grafi uzglabā informāciju kā strukturētas vienības un attiecības, padarot spriešanu skaidru un vaicājamu. Lieli valodu modeļi netieši uzglabā zināšanas kā parametru svarus. Hibrīdās sistēmas apvieno abus: zināšanu grafs nodrošina faktuālu pamatojumu, savukārt valodas modelis apstrādā dabiskās valodas izpratni un ģenerēšanu.
Vai cilvēku eksperti var mācīties no mākslīgā intelekta atsauksmēm?
Jā, un šis ir viens no daudzsološākajiem pielietojumiem. Pētījumi liecina, ka radiologi uzlabo savu diagnostikas precizitāti, ja viņiem tiek sniegti otrs MI atzinums, un ka juristi līgumos atrod vairāk kļūdu, ja MI norāda uz iespējamām problēmām. Galvenais ir izturēties pret MI kā pret līdzstrādnieku, nevis orākulu.
Kuras jomas visvairāk gūst labumu no mākslīgā intelekta un cilvēku zināšanu apvienošanas?
Vislielākos ieguvumus gūst medicīna, tiesību zinātne, zinātniskā pētniecība un finanšu analīze. Katrā no tām mākslīgais intelekts apstrādā modeļu atpazīšanu milzīgos datu kopumos, savukārt cilvēki veic kontekstuālu spriedumu, ētisku uzraudzību un radošu problēmu risināšanu. Ieguvumi ir arī klientu apkalpošanas un pamatizglītības jomā, lai gan katra lēmuma ietekme ir mazāka.
Kā jūs mērāt mākslīgā intelekta zināšanu sistēmas precizitāti?
Bieži sastopamie kritēriji ietver faktuālus kvalitātes nodrošināšanas datu kopumus, piemēram, “Natural Questions”, konkrētai jomai specifiskus testus, piemēram, MedQA medicīnai, un cilvēku veiktu atbilžu kvalitātes novērtējumu. Precizitāte vien nav pietiekama; sistēmas tiek vērtētas arī pēc halucināciju biežuma, citēšanas uzticamības un kalibrēšanas, kas nozīmē, vai to norādītā ticamība atbilst faktiskajai pareizībai.
Vai mākslīgā intelekta zināšanu sistēmas turpinās uzlaboties ātrāk nekā cilvēku eksperti?
Mākslīgā intelekta iespējas strauji attīstās, un katru gadu jauni modeļi demonstrē labāku spriešanas spēju un faktuālo pamatojumu. Cilvēku zināšanas attīstās lēnāk, jo tās ir atkarīgas no apmācību kanāliem, kas aizņem desmit gadus vai ilgāk. Tomēr cilvēka pielāgošanās spējas griesti patiesi jaunās situācijās joprojām ir nozīmīga priekšrocība, ko mākslīgais intelekts vēl nav sasniedzis.
Spriedums
Izvēlieties mākslīgā intelekta zināšanu sistēmas, ja nepieciešama ātra, konsekventa un lēta piekļuve plaša mēroga informācijai no daudziem lietotājiem vai atrašanās vietās. Izvēlieties cilvēka eksperta spriedumu, ja likmes ir augstas, situācija ir neparasta vai ētiskajai un kontekstuālajai spriešanai ir tikpat liela nozīme kā sākotnējai precizitātei. Praksē vislabākos rezultātus iegūst, apvienojot abus: ļaujot mākslīgajam intelektam veikt izgūšanu un modeļu saskaņošanu, bet cilvēkiem nodrošināt uzraudzību, interpretāciju un galīgo atbildību.
