Napovedovanje strojnega učenja v primerjavi z napovedovanjem s strani človeških strokovnjakov
Napovedovanje s strojnim učenjem se za napovedovanje prihodnjih rezultatov opira na algoritme, usposobljene na podlagi zgodovinskih podatkov, medtem ko napovedovanje s strani strokovnjakov temelji na strokovni presoji, domenskem znanju in kontekstualnem sklepanju. Oba pristopa imata različne prednosti in številne organizacije ju zdaj združujejo za natančnejše napovedi.
Poudarki
Strojno učenje blesti v zaznavanju obsega in vzorcev, medtem ko ljudje blestijo v novih situacijah in kontekstualnem sklepanju.
Vrhunski človeški supernapovedovalci so pri nalogah geopolitičnih napovedi premagali algoritme za približno 30 %.
Modeli strojnega učenja zahtevajo preusposabljanje za obvladovanje dogodkov brez primere, medtem ko se lahko človeški strokovnjaki prilagajajo v realnem času.
Hibridni sistemi s človekom v zanki vse bolj veljajo za zlati standard za napovedovanje z visokimi vložki.
Kaj je Napovedovanje strojnega učenja?
Pristop, ki temelji na podatkih in uporablja algoritme, usposobljene na zgodovinskih naborih podatkov, za prepoznavanje vzorcev in ustvarjanje napovedi o prihodnjih dogodkih.
Modeli napovedovanja s strojnim učenjem se učijo iz velikih količin zgodovinskih podatkov, namesto da bi bili eksplicitno programirani s pravili.
Med pogoste algoritme spadajo ARIMA, Prophet, nevronske mreže LSTM in metode za povečanje gradientov, kot je XGBoost.
Ti modeli so odlični pri zaznavanju kompleksnih, nelinearnih vzorcev, ki bi jih ljudje težko opazili ročno.
Učinkovitost se običajno izboljša, ko je na voljo več podatkov za usposabljanje, ob predpostavki, da kakovost podatkov ostane visoka.
Priljubljene platforme, ki ponujajo napovedovanje strojnega učenja, vključujejo Amazon Forecast, Google Vertex AI in odprtokodne knjižnice, kot sta scikit-learn in TensorFlow.
Kaj je Napovedovanje s strani strokovnjakov?
Pristop, ki temelji na presoji, pri katerem strokovnjaki za določeno področje uporabljajo izkušnje, intuicijo in razumevanje konteksta za napovedovanje prihodnjih rezultatov.
Napovedovanje s strani strokovnjakov se formalno preučuje že od sedemdesetih let prejšnjega stoletja, zlasti z raziskavami Philipa Tetlocka o supernapovedovalcih.
Strokovnjaki lahko vključijo kvalitativne informacije, kot so politično ozračje, razpoloženje potrošnikov ali nastajajoči trendi, ki jih podatki sami po sebi morda ne morejo zajeti.
Študije kažejo, da združene napovedi več strokovnjakov pogosto prekašajo napovedi posameznih strokovnjakov.
Tetlockov projekt Good Judgment je ugotovil, da najuspešnejši napovedovalci dosledno prekašajo tako algoritme kot povprečne strokovnjake z znatnimi razlikami.
Človeški napovedovalci se lahko hitro prilagodijo dogodkom brez primere, kot so pandemije ali geopolitični premiki, ne da bi se morali preusposabljati.
Primerjalna tabela
Funkcija
Napovedovanje strojnega učenja
Napovedovanje s strani strokovnjakov
Primarni vhod
Zgodovinski numerični podatki
Znanje področja, izkušnje, kvalitativni kontekst
Hitrost napovedovanja
Skoraj takojšen po treningu
Počasneje, zahteva premišljeno analizo
Obravnavanje dogodkov Črni labod
Slabo brez prekvalifikacije
Močan, zna razmišljati o novih scenarijih
Prilagodljivost
Visoka skalabilnost za številne naloge
Omejeno z razpoložljivim časom strokovnjaka
Razumljivost
Pogosto črna skrinjica, čeprav obstajajo orodja za razlago
Odločitve je mogoče pojasniti z razmišljanjem
Dovzetnost za pristranskost
Odraža pristranskosti v podatkih o usposabljanju
Podvržen kognitivnim pristranskostim, kot sta sidranje in pretirana samozavest
Struktura stroškov
Visoki začetni stroški, nizki mejni stroški
Potrebno je stalno strokovno nadomestilo
Prilagodljivost spremembam
Zahteva ponovno usposabljanje za delo z novimi podatki
Lahko prilagodi sklepanje v realnem času
Podrobna primerjava
Natančnost in dosedanje rezultate
Raziskava projekta Good Judgment Philipa Tetlocka je pokazala, da vrhunski človeški supernapovedovalci pri geopolitičnih vprašanjih za približno 30 % prekašajo algoritmične izhodiščne vrednosti. Vendar pa na področjih z obilico zgodovinskih podatkov, kot so vremenske napovedi ali povpraševanje v trgovini na drobno, modeli strojnega učenja pogosto močno prekašajo človeško presojo. Zmagovalec natančnosti je v resnici odvisen od tega, ali je prihodnost podobna preteklosti.
Zahteve po podatkih in skalabilnost
Modeli strojnega učenja za dobro delovanje potrebujejo znatne količine čistih, strukturiranih podatkov in imajo težave, ko so ti podatki redki ali polni šuma. Človeški strokovnjaki lahko podajajo razumne napovedi tudi z omejenimi informacijami, tako da se opirajo na analogije in predhodne izkušnje. Po drugi strani pa ustvarjanje tisočih napovedi, ko je model strojnega učenja naučen, skoraj nič ne stane, medtem ko skaliranje človeškega strokovnega znanja zahteva zaposlovanje in usposabljanje več ljudi.
Razumljivost in zaupanje
Deležniki pogosto želijo razumeti, zakaj napoved pravi to, kar pravi, in človeški strokovnjaki lahko običajno korak za korakom predstavijo njihovo sklepanje. Mnogi modeli strojnega učenja, zlasti globoke nevronske mreže, delujejo kot črne skrinjice, kjer je notranja logika nepregledna. Orodja za razlago, kot sta SHAP in LIME, pomagajo, vendar dodajajo kompleksnost in ne zadovoljijo vedno regulatorjev ali odločevalcev, ki potrebujejo jasne utemeljitve.
Odziv na nove situacije
Ko se zgodi nekaj resnično brez primere, na primer pandemija COVID-19, ki je po vsem svetu prekinila dobavne verige, modeli strojnega učenja, usposobljeni na podatkih pred pandemijo, pogosto spektakularno odpovejo, dokler jih ne preučimo. Človeški strokovnjaki lahko o novih scenarijih razmišljajo z uporabo osnovnih načel in sproti prilagajajo svoje miselne modele. Zaradi te prilagodljivosti je človeška presoja še posebej dragocena v obdobjih strukturnih sprememb ali kriz.
Stroški in naložbe v vire
Izgradnja zmogljivega sistema za napovedovanje s strojnim učenjem zahteva naložbe v podatkovno infrastrukturo, inženirske talente in računalniške vire, vendar so mejni stroški na napoved nato majhni. Napovedovanje s strani človeških strokovnjakov zahteva stalno porabo za plače, programe usposabljanja in pogosto konkurenčno nadomestilo za ohranitev najboljših talentov. Za organizacije z omejenim proračunom je izbira pogosto odvisna od tega, ali imajo podatke ali dostop do strokovnega znanja.
Hibridni pristopi
Vse bolj natančne napovedi izhajajo iz kombiniranja obeh metod in ne iz izbire ene same. Strojno učenje lahko obvladuje težka kvantitativna dela in površinske vzorce, medtem ko človeški strokovnjaki pregledujejo rezultate, prilagajajo kvalitativne dejavnike in preglasijo model, ko zaznajo, da nekaj ni v redu. Ta pristop s človekom v zanki postaja standardna praksa na področjih, od financ do epidemiologije.
Prednosti in slabosti
Napovedovanje strojnega učenja
Prednosti
+Hitro obdeluje ogromne nabore podatkov
+Tehtnice z minimalnimi mejnimi stroški
+Zazna skrite vzorce
+Dosledno in ponovljivo
Vse
−Potrebuje velike nabore podatkov za učenje
−Slabo z dogodki brez primere
−Pogosto nima razlage
−Lahko podeduje pristranskosti podatkov
Napovedovanje s strani strokovnjakov
Prednosti
+Prilagodi se novim scenarijem
+Vključuje kvalitativni kontekst
+Odločitve so razložljive
+Podatki o usposabljanju niso potrebni
Vse
−Omejena skalabilnost
−Podvrženo kognitivnim pristranskostim
−Počasneje in dražje
−Spremenljivo med posamezniki
Pogoste zablode
Mit
Strojno učenje vedno daje natančnejše napovedi kot ljudje.
Resničnost
Natančnost je močno odvisna od domene. V stabilnih okoljih, bogatih s podatki, strojno učenje pogosto zmaga, v novih ali hitro spreminjajočih se situacijah pa spretni človeški napovedovalci pogosto prekašajo algoritme. Študije, kot je Tetlockova raziskava supernapovedovalcev, kažejo, da lahko ljudje premagajo izhodišča strojnega učenja pri geopolitičnih vprašanjih.
Mit
Napovedovanje strokovnjakov je zgolj ugibanje, ki temelji na občutku.
Resničnost
Izkušeni strokovnjaki za napovedovanje uporabljajo strukturirane metode, kot so napovedovanje referenčnih razredov, dekompozicija in posodabljanje verjetnosti. Spremljajo svoje napovedi, se učijo iz napak in uporabljajo strogo sklepanje, namesto da bi se zanašali zgolj na intuicijo.
Mit
Ko je model napovedovanja strojnega učenja enkrat usposobljen, ga ni treba nikoli več posodabljati.
Resničnost
Modeli se sčasoma degradirajo, ko se vzorci v resničnem svetu spreminjajo, kar je težava, znana kot konceptni premik. Večina produkcijskih sistemov strojnega učenja zahteva redno ponovno usposabljanje, spremljanje in vzdrževanje, da ostanejo natančni.
Mit
Več podatkov vedno izboljša napovedi strojnega učenja.
Resničnost
Kakovost podatkov je prav tako pomembna kot količina. Pristranski, zastareli ali šumni podatki lahko dejansko poslabšajo napovedi, dodajanje istih pomanjkljivih podatkov pa ne odpravi osnovnih težav.
Mit
Človeški strokovnjaki so preveč pristranski, da bi zanesljivo napovedovali.
Resničnost
Čeprav kognitivne pristranskosti obstajajo, tehnike strukturiranega napovedovanja in združevanje napovedi več neodvisnih strokovnjakov znatno zmanjšajo pristranskost. Tetlockova raziskava je pokazala, da so lahko združene napovedi strokovnjakov izjemno natančne.
Pogosto zastavljena vprašanja
Kaj je natančnejše, strojno učenje ali napovedovanje s strani človeških strokovnjakov?
Odvisno od situacije. Strojno učenje ponavadi zmaga na področjih, bogatih s podatki in stabilnih, kot sta povpraševanje v trgovini na drobno ali vreme, kjer zgodovinski vzorci zanesljivo napovedujejo prihodnost. Človeški strokovnjaki ponavadi zmagajo v novih ali hitro spreminjajočih se situacijah, kot so geopolitične krize ali pandemije. Raziskave projekta Good Judgment so pokazale, da vrhunski človeški supernapovedovalci premagajo algoritme pri svetovnih dogodkih za približno 30 %.
Ali lahko modeli strojnega učenja napovedujejo dogodke, ki jih še nikoli niso videli?
Na splošno ne, ne brez ponovnega usposabljanja. Modeli strojnega učenja prepoznavajo vzorce iz zgodovinskih podatkov, zato lahko resnično brez primere dogodki, kot je COVID-19 ali nenadne regulativne spremembe, povzročijo, da ne delujejo, dokler niso posodobljeni z novimi informacijami. Človeški strokovnjaki se s temi situacijami spopadajo bolje, ker lahko sklepajo na podlagi osnovnih načel.
Koliko podatkov potrebujete za napovedovanje s strojnim učenjem?
Ni univerzalnega odgovora, vendar večina praktičnih modelov napovedovanja potrebuje vsaj stotine ali tisoče opazovanj, da se naučijo smiselnih vzorcev. Preprosti modeli, kot je linearna regresija, lahko delujejo z manj, medtem ko pristopi globokega učenja običajno zahtevajo veliko večje nabore podatkov. Kakovost podatkov je pogosto pomembnejša od same količine.
Kaj je super napovedovalec?
Supernapovedovalec je izraz, ki ga je skoval raziskovalec Philip Tetlock, da bi opisal posameznike, ki dosledno dajejo zelo natančne napovedi o svetovnih dogodkih. Običajno so številčni, odprtega duha, pripravljeni posodabljati prepričanja na podlagi novih dokazov in dobri v razčlenjevanju kompleksnih problemov na manjše dele. Približno 2 % udeležencev Tetlockovih študij se je kvalificiralo kot supernapovedovalci.
Ali lahko združite strojno učenje in človeško napovedovanje?
Absolutno, in številne organizacije zdaj počnejo prav to. Pogost pristop je uporaba modelov strojnega učenja za ustvarjanje osnovnih napovedi, nato pa jih pregledajo in prilagodijo strokovnjaki na podlagi kvalitativnih dejavnikov, ki jih model morda spregleda. Ta hibridna metoda pogosto prekaša kateri koli pristop posebej, zlasti na področjih, kot so finance, upravljanje dobavne verige in zdravstvo.
Katere so glavne pristranskosti pri napovedovanju s strani človeških strokovnjakov?
Med pogoste kognitivne pristranskosti spadajo sidranje (pretirano zanašanje na začetne informacije), potrditvena pristranskost (iskanje dokazov, ki podpirajo obstoječa stališča), pretirana samozavest in pristranskost nedavnosti (dajanje prevelike teže nedavnim dogodkom). Strukturirane metode napovedovanja in združevanje več neodvisnih napovedi pomagajo znatno zmanjšati te pristranskosti.
Katere panoge najbolj uporabljajo napovedovanje s strojnim učenjem?
Trgovina na drobno, finance, energetika, zdravstvo in upravljanje dobavne verige so med največjimi uporabniki. Podjetja uporabljajo napovedovanje strojnega učenja za načrtovanje povpraševanja, napovedovanje cen delnic, napovedovanje energetske obremenitve, stopnje sprejema pacientov in optimizacijo zalog. Amazon, Google in Walmart so znani primeri organizacij, ki izvajajo napovedovanje strojnega učenja v velikem obsegu.
Kako ocenjujete natančnost napovedi?
Med pogoste metrike spadajo povprečna absolutna napaka (MAE), korenska povprečna kvadratna napaka (RMSE), povprečna absolutna odstotna napaka (MAPE) in za verjetnostne napovedi Brierjev rezultat ali logaritemska izguba. Najboljša metrika je odvisna od tega, ali vas bolj zanimajo tipične napake, velike napake ali kalibracija ocen verjetnosti.
Ali je napovedovanje s strani strokovnjakov še vedno pomembno v dobi umetne inteligence?
Da, zelo. Čeprav umetna inteligenca dobro obvladuje prepoznavanje vzorcev v velikem obsegu, ljudje še vedno prekašajo v situacijah, ki zahtevajo kontekstualno presojo, etično sklepanje in prilagajanje novim okoliščinam. Mnogi sistemi umetne inteligence so zasnovani posebej za dopolnitev človeških strokovnjakov in ne za njihovo nadomestitev, povpraševanje po usposobljenih napovedovalcih pa še naprej narašča.
Katere veščine naredijo dobrega človeškega napovedovalca?
Vrhunski napovedovalci se običajno dobro znajdejo s številkami, so intelektualno skromni, pripravljeni spremeniti svoje mnenje in spretni v razbijanju velikih vprašanj na manjše, bolj odgovorljive dele. Aktivno iščejo dokaze, ki ovržejo napovedi, skrbno spremljajo svoje napovedi in postopoma posodabljajo verjetnosti, namesto da bi prehitro sklepali.
Ocena
Napovedovanje s strojnim učenjem izberite, kadar imate na voljo obilo zgodovinskih podatkov, potrebujete napovedi v velikem obsegu in delujete v relativno stabilnem okolju. Napovedovanje s strani strokovnjakov izberite, kadar se soočate z novimi situacijami, omejenimi podatki ali scenariji, kjer je kontekstualno sklepanje pomembnejše od prepoznavanja vzorcev. Pri večini resnih aplikacij so najboljši rezultati kombinacija obeh pristopov, namesto da bi ju obravnavali kot konkurenčna.