Mašininio mokymosi prognozavimas ir žmogaus eksperto prognozavimas
Mašininio mokymosi prognozavimas remiasi algoritmais, apmokytais remiantis istoriniais duomenimis, kad numatytų būsimus rezultatus, o žmonių ekspertų prognozės remiasi profesionaliu sprendimu, srities žiniomis ir kontekstiniu samprotavimu. Abu metodai turi savų privalumų, ir daugelis organizacijų dabar juos derina, kad galėtų gauti tikslesnes prognozes.
Akcentai
Mašininis mokymasis pasižymi masto ir modelių aptikimu, o žmonės – naujomis situacijomis ir kontekstiniu samprotavimu.
Geriausi žmonių superprognozuotojai geopolitinių prognozių užduotyse algoritmus aplenkė maždaug 30 %.
ML modeliams reikia perkvalifikavimo, kad jie galėtų susidoroti su precedento neturinčiais įvykiais, o žmonių ekspertai gali prisitaikyti realiuoju laiku.
Hibridinės žmogaus valdomos sistemos vis dažniau laikomos auksiniu standartu didelių statymų prognozavimui.
Kas yra Mašininio mokymosi prognozavimas?
Duomenimis pagrįstas metodas, kai naudojami algoritmai, apmokyti naudojant istorinius duomenų rinkinius, siekiant nustatyti modelius ir generuoti prognozes apie būsimus įvykius.
Mašininio mokymosi prognozavimo modeliai mokosi iš didelių istorinių duomenų kiekių, o ne yra aiškiai programuojami pagal taisykles.
Įprasti algoritmai apima ARIMA, Prophet, LSTM neuroninius tinklus ir gradiento stiprinimo metodus, tokius kaip XGBoost.
Šie modeliai puikiai aptinka sudėtingus, netiesinius modelius, kuriuos žmonėms būtų sunku pastebėti rankiniu būdu.
Našumas paprastai pagerėja, kai atsiranda daugiau mokymo duomenų, darant prielaidą, kad duomenų kokybė išlieka aukšta.
Populiarios platformos, siūlančios ML prognozavimą, yra „Amazon Forecast“, „Google Vertex AI“ ir atvirojo kodo bibliotekos, tokios kaip „scikit-learn“ ir „TensorFlow“.
Kas yra Žmogaus eksperto prognozavimas?
Sprendimais pagrįstas metodas, kai srities specialistai, remdamiesi patirtimi, intuicija ir kontekstiniu supratimu, prognozuoja būsimus rezultatus.
Žmonių ekspertų prognozavimas oficialiai tiriamas nuo XX a. aštuntojo dešimtmečio, ypač per Philipo Tetlocko tyrimus apie superprognozuotojus.
Ekspertai gali įtraukti kokybinę informaciją, pavyzdžiui, politinį klimatą, vartotojų nuotaikas ar kylančias tendencijas, kurių vien duomenys gali neaprėpti.
Tyrimai rodo, kad apibendrintos kelių ekspertų prognozės dažnai pranoksta individualių ekspertų prognozes.
Tetlocko „Good Judgment Project“ nustatė, kad geriausiai veikiantys prognozuotojai nuolat gerokai lenkia tiek algoritmus, tiek vidutinius ekspertus.
Žmonių prognozuotojai gali greitai prisitaikyti prie precedento neturinčių įvykių, tokių kaip pandemijos ar geopolitiniai pokyčiai, nereikalaujant persikvalifikavimo.
Palyginimo lentelė
Funkcija
Mašininio mokymosi prognozavimas
Žmogaus eksperto prognozavimas
Pirminė įvestis
Istoriniai skaitiniai duomenys
Srities žinios, patirtis, kokybinis kontekstas
Prognozavimo greitis
Beveik akimirksniu, kai tik apmokyta
Lėtesnis, reikalauja apgalvotos analizės
„Juodosios gulbės“ įvykių tvarkymas
Vargšas be perkvalifikavimo
Stiprus, gali samprotauti apie naujus scenarijus
Mastelio keitimas
Labai pritaikomas daugeliui užduočių
Ribotas turimo eksperto laiko
Aiškinamasis aspektas
Dažnai tai yra „juodoji dėžė“, nors paaiškinamumo įrankiai ir egzistuoja
Sprendimus galima paaiškinti samprotaujant
Jautrumas šališkumui
Atspindi mokymo duomenų šališkumą
Gali pasireikšti kognityviniams šališkumams, tokiems kaip įsitvirtinimas ir per didelis pasitikėjimas savimi
Sąnaudų struktūra
Didelės pradinės išlaidos, mažos ribinės išlaidos
Reikalingas nuolatinis eksperto atlyginimas
Prisitaikymas prie pokyčių
Reikia iš naujo apmokyti dirbti su naujais duomenimis
Gali koreguoti samprotavimus realiuoju laiku
Išsamus palyginimas
Tikslumas ir pasiekimai
Philipo Tetlocko „Good Judgment Project“ tyrimai parodė, kad geriausi žmonių superprognozuotojai geopolitiniais klausimais algoritminius bazinius duomenis pranoksta maždaug 30 %. Tačiau srityse, kuriose gausu istorinių duomenų, pavyzdžiui, orų prognozės ar mažmeninė paklausa, mašininio mokymosi modeliai dažnai gerokai pranoksta žmonių sprendimus. Tikslumo nugalėtojas iš tikrųjų priklauso nuo to, ar ateitis panaši į praeitį.
Duomenų reikalavimai ir mastelio keitimas
Mašininio mokymosi modeliams reikia didelio kiekio švarių, struktūrizuotų duomenų, kad jie gerai veiktų, ir jiems sunku, kai tų duomenų trūksta arba jie yra triukšmingi. Žmonės ekspertai gali pateikti pagrįstas prognozes net ir turėdami ribotą informaciją, remdamiesi analogijomis ir ankstesne patirtimi. Kita vertus, apmokius mašininio mokymosi modelį, tūkstančių prognozių generavimas beveik nieko nekainuoja, o norint išplėsti žmonių patirtį, reikia samdyti ir apmokyti daugiau žmonių.
Aiškinamasis ir pasitikėjimas
Suinteresuotosios šalys dažnai nori suprasti, kodėl prognozėje teigiama taip, kaip teigiama, o žmonės ekspertai paprastai gali žingsnis po žingsnio peržvelgti jų samprotavimus. Daugelis mašininio mokymosi modelių, ypač gilieji neuroniniai tinklai, veikia kaip juodosios dėžės, kuriose vidinė logika yra neskaidri. Paaiškinamumo įrankiai, tokie kaip SHAP ir LIME, padeda, tačiau jie padidina sudėtingumą ir ne visada tenkina reguliavimo institucijas ar sprendimus priimančius asmenis, kuriems reikia aiškių pagrindimų.
Reakcija į naujas situacijas
Kai nutinka kažkas išties precedento neturinčio, pavyzdžiui, COVID-19 pandemija, sutrikdanti tiekimo grandines visame pasaulyje, mašininio mokymosi modeliai, apmokyti remiantis ikipandeminiais duomenimis, dažnai patiria didelių sunkumų, kol nėra permokyti. Žmonės ekspertai gali samprotauti apie naujus scenarijus, remdamiesi pirmaisiais principais, ir akimirksniu koreguoti savo mentalinius modelius. Šis prisitaikymas daro žmogaus sprendimus ypač vertingus struktūrinių pokyčių ar krizių laikotarpiais.
Sąnaudų ir išteklių investicijos
Norint sukurti pajėgią mašininio mokymosi prognozavimo sistemą, reikia investuoti į duomenų infrastruktūrą, inžinierių talentą ir skaičiavimo išteklius, tačiau vėliau ribinės prognozės sąnaudos yra labai mažos. Žmonių ekspertų prognozavimas reikalauja nuolatinių išlaidų atlyginimams, mokymo programoms ir dažnai konkurencingam atlyginimui, siekiant išlaikyti geriausius talentus. Organizacijoms, turinčioms ribotą biudžetą, pasirinkimas dažnai priklauso nuo to, ar jos turi duomenų, ar prieigą prie ekspertų.
Hibridiniai metodai
Vis dažniau tiksliausios prognozės gaunamos derinant abu metodus, o ne pasirenkant vieną. Mašininis mokymasis gali susidoroti su dideliais kiekybiniais pokyčiais ir paviršiaus modeliais, o žmonės ekspertai peržiūri rezultatus, koreguoja kokybinius veiksnius ir pakeičia modelį, kai pajunta, kad kažkas negerai. Toks žmogaus įtraukimas į procesą tampa standartine praktika įvairiose srityse – nuo finansų iki epidemiologijos.
Privalumai ir trūkumai
Mašininio mokymosi prognozavimas
Privalumai
+Greitai apdoroja didelius duomenų rinkinius
+Svarstyklės su minimaliomis ribinėmis sąnaudomis
+Aptinka paslėptus modelius
+Nuoseklus ir atkartojamo atkūrimo
Pasirinkta
−Reikia didelių mokymo duomenų rinkinių
−Prastas dėl precedento neturinčių įvykių
−Dažnai trūksta interpretuojamumo
−Gali paveldėti duomenų šališkumą
Žmogaus eksperto prognozavimas
Privalumai
+Prisitaiko prie naujų scenarijų
+Įtraukia kokybinį kontekstą
+Sprendimai yra paaiškinami
+Mokymo duomenų nereikia
Pasirinkta
−Ribotas mastelio keitimas
−Priklauso nuo kognityvinių šališkumų
−Lėtesnis ir brangesnis
−Kintamas tarp individų
Dažni klaidingi įsitikinimai
Mitas
Mašininis mokymasis visada pateikia tikslesnes prognozes nei žmonės.
Realybė
Tikslumas labai priklauso nuo srities. Stabilioje, duomenimis turtingoje aplinkoje mašininis mokymasis dažnai laimi, tačiau naujose ar sparčiai kintančiose situacijose kvalifikuoti žmonių prognozuotojai dažnai pranoksta algoritmus. Tokie tyrimai kaip Tetlocko superprognozuotojų tyrimas rodo, kad žmonės gali pranokti mašininio mokymosi bazinius rodiklius geopolitiniais klausimais.
Mitas
Žmonių ekspertų prognozės tėra spėlionės, paremtos nuojauta.
Realybė
Kvalifikuoti prognozavimo ekspertai naudoja struktūrizuotus metodus, tokius kaip etaloninių klasių prognozavimas, skaidymas ir tikimybių atnaujinimas. Jie seka savo prognozes, mokosi iš klaidų ir taiko griežtą samprotavimą, užuot pasikliauję vien intuicija.
Mitas
Kartą apmokyto ML prognozavimo modelio niekada nereikia atnaujinti.
Realybė
Modeliai laikui bėgant blogėja, nes keičiasi realaus pasaulio modeliai – ši problema vadinama koncepcijos dreifu. Daugumai gamybinių mašininio mokymosi sistemų reikia reguliariai permokyti, stebėti ir prižiūrėti, kad jos išliktų tikslios.
Mitas
Daugiau duomenų visada pagerina mašininio mokymosi prognozes.
Realybė
Duomenų kokybė yra tokia pat svarbi kaip ir kiekybė. Šališki, pasenę ar triukšmingi duomenys gali pabloginti prognozes, o pridėjus daugiau tų pačių ydingų duomenų, pagrindinės problemos neišsprendžiamos.
Mitas
Žmonių ekspertai yra pernelyg šališki, kad galėtų patikimai prognozuoti.
Realybė
Nors egzistuoja kognityviniai šališkumai, struktūrizuoti prognozavimo metodai ir kelių nepriklausomų ekspertų prognozių apibendrinimas žymiai sumažina šališkumą. Tetlocko tyrimas parodė, kad apibendrintos ekspertų prognozės gali būti nepaprastai tikslios.
Dažnai užduodami klausimai
Kas yra tiksliau – mašininis mokymasis ar žmonių ekspertų prognozės?
Priklauso nuo situacijos. Mašininis mokymasis dažniausiai laimi duomenimis turtingose, stabiliose srityse, tokiose kaip mažmeninė paklausa ar orai, kur istoriniai modeliai patikimai prognozuoja ateitį. Žmonių ekspertai linkę laimi naujose ar greitai kintančiose situacijose, tokiose kaip geopolitinės krizės ar pandemijos. „Good Judgment Project“ tyrimai parodė, kad geriausi žmonių superprognozuotojai, vertindami pasaulio įvykius, apie 30 % lenkia algoritmus.
Ar mašininio mokymosi modeliai gali numatyti įvykius, kurių anksčiau niekada nematė?
Paprastai ne, be pakartotinio mokymo. ML modeliai atpažįsta modelius pagal istorinius duomenis, todėl išties precedento neturintys įvykiai, tokie kaip COVID-19 ar staigūs reguliavimo pokyčiai, gali sukelti jų gedimą, kol jie nebus atnaujinti su nauja informacija. Žmonės ekspertai geriau susidoroja su tokiomis situacijomis, nes jie gali samprotauti remdamiesi pagrindiniais principais.
Kiek duomenų reikia mašininio mokymosi prognozavimui?
Universalaus atsakymo nėra, tačiau daugumai praktinių prognozavimo modelių reikia bent šimtų ar tūkstančių stebėjimų, kad būtų galima išmokti reikšmingų modelių. Paprastiems modeliams, tokiems kaip tiesinė regresija, gali prireikti mažiau duomenų, o gilaus mokymosi metodams paprastai reikia daug didesnių duomenų rinkinių. Duomenų kokybė dažnai yra svarbesnė nei jų kiekis.
Kas yra superprognozuotojas?
Superprognozuotojas – tai mokslininko Philipo Tetlocko sugalvotas terminas, apibūdinantis asmenis, kurie nuolat pateikia labai tikslias prognozes apie pasaulio įvykius. Jie linkę mokėti skaičiuoti, būti atviri naujovėms, nori atnaujinti įsitikinimus remdamiesi naujais įrodymais ir gerai skaidyti sudėtingas problemas į mažesnes dalis. Apie 2 % Tetlocko tyrimų dalyvių atitiko superprognozuotojų kriterijus.
Ar galima suderinti mašininį mokymąsi ir žmonių atliekamas prognozes?
Be abejo, ir daugelis organizacijų dabar daro būtent tai. Įprastas metodas yra naudoti mašininio mokymosi modelius pradinėms prognozėms generuoti, o tada jas peržiūrėti ir pakoreguoti žmonių ekspertams remiantis kokybiniais veiksniais, kurių modelis gali nepastebėti. Šis hibridinis metodas dažnai pranoksta kiekvieną iš šių metodų atskirai, ypač tokiose srityse kaip finansai, tiekimo grandinės valdymas ir sveikatos apsauga.
Kokie yra pagrindiniai žmonių ekspertų prognozavimo šališkumai?
Dažni kognityviniai šališkumai yra įtvirtinimas (per didelis pasitikėjimas pradine informacija), patvirtinimo šališkumas (įrodymų, patvirtinančių esamus požiūrius, paieška), per didelis pasitikėjimas savimi ir naujausių įvykių šališkumas (per didelis svoris naujausiems įvykiams). Struktūrizuoti prognozavimo metodai ir kelių nepriklausomų prognozių apibendrinimas padeda gerokai sumažinti šiuos šališkumus.
Kokios pramonės šakos dažniausiai naudoja mašininio mokymosi prognozavimą?
Mažmeninė prekyba, finansai, energetika, sveikatos apsauga ir tiekimo grandinės valdymas yra vieni iš didžiausių šio metodo naudotojų. Įmonės naudoja mašininio mokymosi prognozavimą paklausos planavimui, akcijų kainų prognozavimui, energijos apkrovos prognozavimui, pacientų priėmimo rodikliams ir atsargų optimizavimui. „Amazon“, „Google“ ir „Walmart“ yra gerai žinomi organizacijų, naudojančių mašininio mokymosi prognozavimą dideliu mastu, pavyzdžiai.
Kaip vertinate prognozavimo tikslumą?
Įprasti rodikliai apima vidutinę absoliutinę paklaidą (MAE), vidutinę kvadratinę paklaidą (RMSE), vidutinę absoliutinę procentinę paklaidą (MAPE), o tikimybinėms prognozėms – Brier balą arba logaritminius nuostolius. Geriausias rodiklis priklauso nuo to, ar jums labiau rūpi tipinės paklaidos, didelės paklaidos ar tikimybės įverčių kalibravimas.
Ar žmonių ekspertų prognozės vis dar aktualios dirbtinio intelekto amžiuje?
Taip, labai. Nors dirbtinis intelektas gerai susidoroja su didelio masto šablonų atpažinimu, žmonės vis tiek pranoksta lūkesčius situacijose, kuriose reikalingas kontekstinis vertinimas, etinis samprotavimas ir prisitaikymas prie naujų aplinkybių. Daugelis dirbtinio intelekto sistemų yra specialiai sukurtos tam, kad papildytų žmonių ekspertus, o ne juos pakeistų, todėl kvalifikuotų prognozuotojų poreikis toliau auga.
Kokie įgūdžiai daro žmogų geru prognozuotoju?
Geriausi prognozuotojai paprastai jaučiasi patogiai su skaičiais, yra intelektualiai kuklūs, linkę keisti savo nuomonę ir geba didelius klausimus suskaidyti į mažesnes, labiau atsakomąsias dalis. Jie aktyviai ieško paneigiančių įrodymų, atidžiai stebi savo prognozes ir palaipsniui atnaujina tikimybes, o ne daro išvadas.
Nuosprendis
Rinkitės mašininio mokymosi prognozavimą, kai turite gausybę istorinių duomenų, jums reikia didelio masto prognozių ir veikiate santykinai stabilioje aplinkoje. Rinkitės žmonių ekspertų prognozavimą, kai susiduriate su naujomis situacijomis, ribotais duomenimis arba scenarijais, kai kontekstinis samprotavimas yra svarbesnis nei šablonų atpažinimas. Daugumoje rimtų programų geriausi rezultatai gaunami derinant abu metodus, o ne laikant juos konkurentais.