See põhjalik analüüs vastandab tehisnärvivõrgu treenimise mehaanikat inimese kognitiivse arenguga. Kui süvaõpe tugineb statistiliste mustrite leidmiseks tagasilevitamisele, massiivsetele andmekogumitele ja miljarditele iteratiivsetele korrigeerimistele, siis inimese õppimine kasutab konteksti, füüsilise kogemuse ja kontseptuaalse abstraktsiooni poolt juhitud ülitõhusat ja vähese andmemahuga sünaptilist plastilisust.
Kunstlike raskuste matemaatiline optimeerimine gradiendi laskumise ja massiivsete andmekogumite abil veafunktsiooni minimeerimiseks.
Närviteede bioloogiline kohanemine, mida juhivad sensoorne kogemus, uudishimu ja kontekstuaalne kontseptualiseerimine.
| Funktsioon | Neuraalvõrgu koolitus | Inimese õppeprotsessid |
|---|---|---|
| Esmane mehhanism | Matemaatiline gradiendi laskumine ja tagasilevi | Bioloogiline sünaptiline plastilisus ja neurotransmitterite modulatsioon |
| Andmete tõhusus | Äärmiselt madal; nõuab tohutuid arvutusandmestikke | Äärmiselt kõrge; referentseerib reegleid väheste näidete põhjal |
| Energiatarve | Megavatid suuremahuliseks klastrite koolitamiseks | Ligikaudu 20 vatti pidevat ainevahetusvõimsust |
| Pidev õppimine | Kehv; kalduvus eelmised ülesanded täielikult unustada | Suurepärane; lisab uued oskused vanadele raamistikele |
| Õppimissuund | Rangelt eesmärgile orienteeritud kahjumifunktsiooni minimeerimise kaudu | Uurimuslik, iseseisev ja kontekstitundlik |
| Riistvara ja tarkvara jaotus | Koodi ja füüsiliste ränikiipide eristamine | Lahutamatu; füüsiline arhitektuur on tarkvara |
Tehisvõrgud õpivad, kohandades numbrilisi kaalusid jäiga maatriksi ulatuses. Tagasilevitamise ajal arvutab keskne algoritm väljundi täpse vea ja edastab arvutuspõhised parandused süsteemis tagasi. Inimese ajud seevastu kasutavad lokaliseeritud sünaptilist plastilisust. Füüsilised rajad tugevnevad või nõrgenevad rakuliste piikide ajastuse põhjal, võimaldades bioloogilisel süsteemil orgaaniliselt kohaneda ilma globaalse peaalgoritmita, mis neid kohandusi haldaks.
Jalgratta äratundmiseks peab tehisvõrk töötlema tuhandeid erinevaid pilte, mis sisaldavad erinevaid nurki, valgustust ja tausta, et kaardistada statistilisi piire. Inimlaps peab jalgratast tavaliselt nägema vaid üks või kaks korda. Inimese kognitiivne protsess kasutab olemasolevaid vaimseid raamistikke, intuitiivset füüsikat ja struktuurianaloogiaid, samas kui tehisvõrk alustab sisuliselt iga kord, kui uus arhitektuur initsialiseeritakse, juhusliku müra tühjalt lehelt.
Kunstlikud süsteemid on väljaspool oma kitsaid treeningjaotusi kurikuulsalt haprad. Mudel, mis on treenitud meisterlikult konkreetset videomängu mängima, kukub täielikult läbi, kui taustavärv veidi muutub, välja arvatud juhul, kui seda sihipäraselt peenhäälestatakse. Inimesed on suurepärased ülekandeõppes, rakendades sujuvalt ühes valdkonnas õpitud abstraktseid tasakaalu, hoo ja strateegia kontseptsioone täiesti võõrastes stsenaariumides.
Kui tehisnärvivõrk on sunnitud õppima täiesti uut ülesannet, kirjutavad värsked gradiendiuuendused sageli üle eelmiste ülesannete jaoks määratud numbrilised kaalud, põhjustades katastroofilise unustamise. Inimajud saavad elukestva õppega elegantselt hakkama. Me magame, et koondada igapäevased kogemused pikaajalisteks struktuurideks, tagades, et autojuhtimise õppimine ei halvendaks meie võimet kirjutada, rääkida ega tuttavaid nägusid ära tunda.
Kunstlikud närvivõrgud toimivad täpselt nagu bioloogiline inimese aju.
Mõiste „närvivõrk” on suuresti metafoor. Kui varased disainilahendused olid lõdvalt inspireeritud bioloogiast, siis tänapäevane süvaõpe tugineb jäigale maatriksarvutusele ja globaalsetele optimeerimisalgoritmidele, mis ei näe sugugi välja nagu elava ajukoe segane, keemiline ja asünkroonne mehaanika.
Süvaõppe mudelitel on pärast treenimist inimlaadne arusaam.
Tehisintellekti mudelid on suurepärased sisendite ja väljundite vaheliste statistiliste korrelatsioonide kaardistamisel, kuid neil puudub täielikult semantiline arusaam. Mudel suudab genereerida veest veatuid kirjeldusi ilma igasuguse niiskuse, janu või füüsilise olemasolu mõisteta.
Inimese ajul on fikseeritud salvestusmaht, just nagu arvuti mälupangal.
Inimese mälu ei tööta nagu digitaalne kõvaketas, mis täitub gigabaitidega andmeid. Bioloogiline mälu on konstruktiivne ja assotsiatiivne; uute kontseptsioonide õppimine loob tegelikult rohkem konksusid, mis võivad tulevase teabe hankimist lihtsamaks muuta, selle asemel, et füüsiline ruum otsa saaks.
Tehisintellekti võrgu suuruse suurendamine annab sellele automaatselt inimtasemel arutluskäigu.
Parameetrite skaleerimine parandab mustrite sobitamist ja annab tulemuseks keeruka matkimise, kuid see ei lahenda põhilisi arhitektuurilisi piiranguid. Pelgalt suurus ei anna tehisintellektile sisemist motivatsiooni, füüsilist kehastust ega võimet maailma kohta juhuslikult arutleda.
Neuraalvõrkude treenimine on võrratu, kui on vaja analüüsida tohutul hulgal struktureeritud andmeid, et leida peeneid, kõrgmõõtmelisi mustreid, mis inimsilmale silmale jäävad. Siiski jääb inimese õppimine adaptiivse ja loomingulise probleemide lahendamise kuldstandardiks ettearvamatutes keskkondades, kus andmeid on vähe ja kontekst on kõik.
Mudeliteenuse A/B-testimine suunab liiklust konkureerivate mudeliversioonide vahel, et mõõta reaalset toimivust, samas kui ühe mudeli juurutamine saadab kõigile kasutajatele ühe mudeli. Meeskonnad valivad nende vahel riskitaluvuse, liiklusmahu ja statistilise valideerimise vajaduse alusel enne täielikku juurutamist.
Sisuväljaannete A/B-testimine hõlmab variatsioonide levitamist erinevatele sihtrühmadele ja tulemuslikkuse mõõtmist, samas kui ühekordsed sisuväljaanded suunavad ühe versiooni korraga kõigile. Igal lähenemisviisil on erinevad eesmärgid, kusjuures A/B-testimine eelistab andmepõhist optimeerimist ja ühekordsed väljaanded seavad esikohale kiiruse ja lihtsuse.
See detailne võrdlus uurib adaptiivsete intelligentsete mootorite arhitektuurilisi erinevusi, operatsioonilisi piiranguid ja reaalset jõudlust võrreldes fikseeritud käitumisega automatiseerimissüsteemidega. Vaatleme, kuidas süsteemid, mis pidevalt õpivad uutest keskkonnaandmetest, sobivad kokku jäikade ja ennustatavate reeglipõhiste raamistikega.
Adaptiivne otsing kohandab dünaamiliselt, kuidas ja millist teavet süsteem päringu põhjal hangib, samas kui staatilised otsingukanalid järgivad fikseeritud reegleid olenemata kontekstist. Mõlemad toetavad tänapäevaseid tehisintellekti rakendusi, kuid erinevad oluliselt paindlikkuse, maksumuse ja täpsuse poolest. Nende vahel valimine sõltub töökoormuse keerukusest ja eelarvest.
Agentide koolitamine keskkondades hõlmab õppimist reaalajas simuleeritud või füüsilise keskkonnaga suhtlemise kaudu, samas kui võrguühenduseta andmestiku koolitamine tugineb eelnevalt kogutud andmetele ilma täiendava keskkonnale juurdepääsuta. Mõlemad lähenemisviisid treenivad masinõppe mudeleid, kuid erinevad põhimõtteliselt selle poolest, kuidas agendid kogemusi koguvad ja jõudlust parandavad.
