Comparthing Logo
mašininis mokymasisprognozavimasdirbtinis intelektasnuspėjamoji analizėeksperto vertinimas

Mašininio mokymosi prognozavimas ir žmogaus eksperto prognozavimas

Mašininio mokymosi prognozavimas remiasi algoritmais, apmokytais remiantis istoriniais duomenimis, kad numatytų būsimus rezultatus, o žmonių ekspertų prognozės remiasi profesionaliu sprendimu, srities žiniomis ir kontekstiniu samprotavimu. Abu metodai turi savų privalumų, ir daugelis organizacijų dabar juos derina, kad galėtų gauti tikslesnes prognozes.

Akcentai

  • Mašininis mokymasis pasižymi masto ir modelių aptikimu, o žmonės – naujomis situacijomis ir kontekstiniu samprotavimu.
  • Geriausi žmonių superprognozuotojai geopolitinių prognozių užduotyse algoritmus aplenkė maždaug 30 %.
  • ML modeliams reikia perkvalifikavimo, kad jie galėtų susidoroti su precedento neturinčiais įvykiais, o žmonių ekspertai gali prisitaikyti realiuoju laiku.
  • Hibridinės žmogaus valdomos sistemos vis dažniau laikomos auksiniu standartu didelių statymų prognozavimui.

Kas yra Mašininio mokymosi prognozavimas?

Duomenimis pagrįstas metodas, kai naudojami algoritmai, apmokyti naudojant istorinius duomenų rinkinius, siekiant nustatyti modelius ir generuoti prognozes apie būsimus įvykius.

  • Mašininio mokymosi prognozavimo modeliai mokosi iš didelių istorinių duomenų kiekių, o ne yra aiškiai programuojami pagal taisykles.
  • Įprasti algoritmai apima ARIMA, Prophet, LSTM neuroninius tinklus ir gradiento stiprinimo metodus, tokius kaip XGBoost.
  • Šie modeliai puikiai aptinka sudėtingus, netiesinius modelius, kuriuos žmonėms būtų sunku pastebėti rankiniu būdu.
  • Našumas paprastai pagerėja, kai atsiranda daugiau mokymo duomenų, darant prielaidą, kad duomenų kokybė išlieka aukšta.
  • Populiarios platformos, siūlančios ML prognozavimą, yra „Amazon Forecast“, „Google Vertex AI“ ir atvirojo kodo bibliotekos, tokios kaip „scikit-learn“ ir „TensorFlow“.

Kas yra Žmogaus eksperto prognozavimas?

Sprendimais pagrįstas metodas, kai srities specialistai, remdamiesi patirtimi, intuicija ir kontekstiniu supratimu, prognozuoja būsimus rezultatus.

  • Žmonių ekspertų prognozavimas oficialiai tiriamas nuo XX a. aštuntojo dešimtmečio, ypač per Philipo Tetlocko tyrimus apie superprognozuotojus.
  • Ekspertai gali įtraukti kokybinę informaciją, pavyzdžiui, politinį klimatą, vartotojų nuotaikas ar kylančias tendencijas, kurių vien duomenys gali neaprėpti.
  • Tyrimai rodo, kad apibendrintos kelių ekspertų prognozės dažnai pranoksta individualių ekspertų prognozes.
  • Tetlocko „Good Judgment Project“ nustatė, kad geriausiai veikiantys prognozuotojai nuolat gerokai lenkia tiek algoritmus, tiek vidutinius ekspertus.
  • Žmonių prognozuotojai gali greitai prisitaikyti prie precedento neturinčių įvykių, tokių kaip pandemijos ar geopolitiniai pokyčiai, nereikalaujant persikvalifikavimo.

Palyginimo lentelė

Funkcija Mašininio mokymosi prognozavimas Žmogaus eksperto prognozavimas
Pirminė įvestis Istoriniai skaitiniai duomenys Srities žinios, patirtis, kokybinis kontekstas
Prognozavimo greitis Beveik akimirksniu, kai tik apmokyta Lėtesnis, reikalauja apgalvotos analizės
„Juodosios gulbės“ įvykių tvarkymas Vargšas be perkvalifikavimo Stiprus, gali samprotauti apie naujus scenarijus
Mastelio keitimas Labai pritaikomas daugeliui užduočių Ribotas turimo eksperto laiko
Aiškinamasis aspektas Dažnai tai yra „juodoji dėžė“, nors paaiškinamumo įrankiai ir egzistuoja Sprendimus galima paaiškinti samprotaujant
Jautrumas šališkumui Atspindi mokymo duomenų šališkumą Gali pasireikšti kognityviniams šališkumams, tokiems kaip įsitvirtinimas ir per didelis pasitikėjimas savimi
Sąnaudų struktūra Didelės pradinės išlaidos, mažos ribinės išlaidos Reikalingas nuolatinis eksperto atlyginimas
Prisitaikymas prie pokyčių Reikia iš naujo apmokyti dirbti su naujais duomenimis Gali koreguoti samprotavimus realiuoju laiku

Išsamus palyginimas

Tikslumas ir pasiekimai

Philipo Tetlocko „Good Judgment Project“ tyrimai parodė, kad geriausi žmonių superprognozuotojai geopolitiniais klausimais algoritminius bazinius duomenis pranoksta maždaug 30 %. Tačiau srityse, kuriose gausu istorinių duomenų, pavyzdžiui, orų prognozės ar mažmeninė paklausa, mašininio mokymosi modeliai dažnai gerokai pranoksta žmonių sprendimus. Tikslumo nugalėtojas iš tikrųjų priklauso nuo to, ar ateitis panaši į praeitį.

Duomenų reikalavimai ir mastelio keitimas

Mašininio mokymosi modeliams reikia didelio kiekio švarių, struktūrizuotų duomenų, kad jie gerai veiktų, ir jiems sunku, kai tų duomenų trūksta arba jie yra triukšmingi. Žmonės ekspertai gali pateikti pagrįstas prognozes net ir turėdami ribotą informaciją, remdamiesi analogijomis ir ankstesne patirtimi. Kita vertus, apmokius mašininio mokymosi modelį, tūkstančių prognozių generavimas beveik nieko nekainuoja, o norint išplėsti žmonių patirtį, reikia samdyti ir apmokyti daugiau žmonių.

Aiškinamasis ir pasitikėjimas

Suinteresuotosios šalys dažnai nori suprasti, kodėl prognozėje teigiama taip, kaip teigiama, o žmonės ekspertai paprastai gali žingsnis po žingsnio peržvelgti jų samprotavimus. Daugelis mašininio mokymosi modelių, ypač gilieji neuroniniai tinklai, veikia kaip juodosios dėžės, kuriose vidinė logika yra neskaidri. Paaiškinamumo įrankiai, tokie kaip SHAP ir LIME, padeda, tačiau jie padidina sudėtingumą ir ne visada tenkina reguliavimo institucijas ar sprendimus priimančius asmenis, kuriems reikia aiškių pagrindimų.

Reakcija į naujas situacijas

Kai nutinka kažkas išties precedento neturinčio, pavyzdžiui, COVID-19 pandemija, sutrikdanti tiekimo grandines visame pasaulyje, mašininio mokymosi modeliai, apmokyti remiantis ikipandeminiais duomenimis, dažnai patiria didelių sunkumų, kol nėra permokyti. Žmonės ekspertai gali samprotauti apie naujus scenarijus, remdamiesi pirmaisiais principais, ir akimirksniu koreguoti savo mentalinius modelius. Šis prisitaikymas daro žmogaus sprendimus ypač vertingus struktūrinių pokyčių ar krizių laikotarpiais.

Sąnaudų ir išteklių investicijos

Norint sukurti pajėgią mašininio mokymosi prognozavimo sistemą, reikia investuoti į duomenų infrastruktūrą, inžinierių talentą ir skaičiavimo išteklius, tačiau vėliau ribinės prognozės sąnaudos yra labai mažos. Žmonių ekspertų prognozavimas reikalauja nuolatinių išlaidų atlyginimams, mokymo programoms ir dažnai konkurencingam atlyginimui, siekiant išlaikyti geriausius talentus. Organizacijoms, turinčioms ribotą biudžetą, pasirinkimas dažnai priklauso nuo to, ar jos turi duomenų, ar prieigą prie ekspertų.

Hibridiniai metodai

Vis dažniau tiksliausios prognozės gaunamos derinant abu metodus, o ne pasirenkant vieną. Mašininis mokymasis gali susidoroti su dideliais kiekybiniais pokyčiais ir paviršiaus modeliais, o žmonės ekspertai peržiūri rezultatus, koreguoja kokybinius veiksnius ir pakeičia modelį, kai pajunta, kad kažkas negerai. Toks žmogaus įtraukimas į procesą tampa standartine praktika įvairiose srityse – nuo finansų iki epidemiologijos.

Privalumai ir trūkumai

Mašininio mokymosi prognozavimas

Privalumai

  • + Greitai apdoroja didelius duomenų rinkinius
  • + Svarstyklės su minimaliomis ribinėmis sąnaudomis
  • + Aptinka paslėptus modelius
  • + Nuoseklus ir atkartojamo atkūrimo

Pasirinkta

  • Reikia didelių mokymo duomenų rinkinių
  • Prastas dėl precedento neturinčių įvykių
  • Dažnai trūksta interpretuojamumo
  • Gali paveldėti duomenų šališkumą

Žmogaus eksperto prognozavimas

Privalumai

  • + Prisitaiko prie naujų scenarijų
  • + Įtraukia kokybinį kontekstą
  • + Sprendimai yra paaiškinami
  • + Mokymo duomenų nereikia

Pasirinkta

  • Ribotas mastelio keitimas
  • Priklauso nuo kognityvinių šališkumų
  • Lėtesnis ir brangesnis
  • Kintamas tarp individų

Dažni klaidingi įsitikinimai

Mitas

Mašininis mokymasis visada pateikia tikslesnes prognozes nei žmonės.

Realybė

Tikslumas labai priklauso nuo srities. Stabilioje, duomenimis turtingoje aplinkoje mašininis mokymasis dažnai laimi, tačiau naujose ar sparčiai kintančiose situacijose kvalifikuoti žmonių prognozuotojai dažnai pranoksta algoritmus. Tokie tyrimai kaip Tetlocko superprognozuotojų tyrimas rodo, kad žmonės gali pranokti mašininio mokymosi bazinius rodiklius geopolitiniais klausimais.

Mitas

Žmonių ekspertų prognozės tėra spėlionės, paremtos nuojauta.

Realybė

Kvalifikuoti prognozavimo ekspertai naudoja struktūrizuotus metodus, tokius kaip etaloninių klasių prognozavimas, skaidymas ir tikimybių atnaujinimas. Jie seka savo prognozes, mokosi iš klaidų ir taiko griežtą samprotavimą, užuot pasikliauję vien intuicija.

Mitas

Kartą apmokyto ML prognozavimo modelio niekada nereikia atnaujinti.

Realybė

Modeliai laikui bėgant blogėja, nes keičiasi realaus pasaulio modeliai – ši problema vadinama koncepcijos dreifu. Daugumai gamybinių mašininio mokymosi sistemų reikia reguliariai permokyti, stebėti ir prižiūrėti, kad jos išliktų tikslios.

Mitas

Daugiau duomenų visada pagerina mašininio mokymosi prognozes.

Realybė

Duomenų kokybė yra tokia pat svarbi kaip ir kiekybė. Šališki, pasenę ar triukšmingi duomenys gali pabloginti prognozes, o pridėjus daugiau tų pačių ydingų duomenų, pagrindinės problemos neišsprendžiamos.

Mitas

Žmonių ekspertai yra pernelyg šališki, kad galėtų patikimai prognozuoti.

Realybė

Nors egzistuoja kognityviniai šališkumai, struktūrizuoti prognozavimo metodai ir kelių nepriklausomų ekspertų prognozių apibendrinimas žymiai sumažina šališkumą. Tetlocko tyrimas parodė, kad apibendrintos ekspertų prognozės gali būti nepaprastai tikslios.

Dažnai užduodami klausimai

Kas yra tiksliau – mašininis mokymasis ar žmonių ekspertų prognozės?
Priklauso nuo situacijos. Mašininis mokymasis dažniausiai laimi duomenimis turtingose, stabiliose srityse, tokiose kaip mažmeninė paklausa ar orai, kur istoriniai modeliai patikimai prognozuoja ateitį. Žmonių ekspertai linkę laimi naujose ar greitai kintančiose situacijose, tokiose kaip geopolitinės krizės ar pandemijos. „Good Judgment Project“ tyrimai parodė, kad geriausi žmonių superprognozuotojai, vertindami pasaulio įvykius, apie 30 % lenkia algoritmus.
Ar mašininio mokymosi modeliai gali numatyti įvykius, kurių anksčiau niekada nematė?
Paprastai ne, be pakartotinio mokymo. ML modeliai atpažįsta modelius pagal istorinius duomenis, todėl išties precedento neturintys įvykiai, tokie kaip COVID-19 ar staigūs reguliavimo pokyčiai, gali sukelti jų gedimą, kol jie nebus atnaujinti su nauja informacija. Žmonės ekspertai geriau susidoroja su tokiomis situacijomis, nes jie gali samprotauti remdamiesi pagrindiniais principais.
Kiek duomenų reikia mašininio mokymosi prognozavimui?
Universalaus atsakymo nėra, tačiau daugumai praktinių prognozavimo modelių reikia bent šimtų ar tūkstančių stebėjimų, kad būtų galima išmokti reikšmingų modelių. Paprastiems modeliams, tokiems kaip tiesinė regresija, gali prireikti mažiau duomenų, o gilaus mokymosi metodams paprastai reikia daug didesnių duomenų rinkinių. Duomenų kokybė dažnai yra svarbesnė nei jų kiekis.
Kas yra superprognozuotojas?
Superprognozuotojas – tai mokslininko Philipo Tetlocko sugalvotas terminas, apibūdinantis asmenis, kurie nuolat pateikia labai tikslias prognozes apie pasaulio įvykius. Jie linkę mokėti skaičiuoti, būti atviri naujovėms, nori atnaujinti įsitikinimus remdamiesi naujais įrodymais ir gerai skaidyti sudėtingas problemas į mažesnes dalis. Apie 2 % Tetlocko tyrimų dalyvių atitiko superprognozuotojų kriterijus.
Ar galima suderinti mašininį mokymąsi ir žmonių atliekamas prognozes?
Be abejo, ir daugelis organizacijų dabar daro būtent tai. Įprastas metodas yra naudoti mašininio mokymosi modelius pradinėms prognozėms generuoti, o tada jas peržiūrėti ir pakoreguoti žmonių ekspertams remiantis kokybiniais veiksniais, kurių modelis gali nepastebėti. Šis hibridinis metodas dažnai pranoksta kiekvieną iš šių metodų atskirai, ypač tokiose srityse kaip finansai, tiekimo grandinės valdymas ir sveikatos apsauga.
Kokie yra pagrindiniai žmonių ekspertų prognozavimo šališkumai?
Dažni kognityviniai šališkumai yra įtvirtinimas (per didelis pasitikėjimas pradine informacija), patvirtinimo šališkumas (įrodymų, patvirtinančių esamus požiūrius, paieška), per didelis pasitikėjimas savimi ir naujausių įvykių šališkumas (per didelis svoris naujausiems įvykiams). Struktūrizuoti prognozavimo metodai ir kelių nepriklausomų prognozių apibendrinimas padeda gerokai sumažinti šiuos šališkumus.
Kokios pramonės šakos dažniausiai naudoja mašininio mokymosi prognozavimą?
Mažmeninė prekyba, finansai, energetika, sveikatos apsauga ir tiekimo grandinės valdymas yra vieni iš didžiausių šio metodo naudotojų. Įmonės naudoja mašininio mokymosi prognozavimą paklausos planavimui, akcijų kainų prognozavimui, energijos apkrovos prognozavimui, pacientų priėmimo rodikliams ir atsargų optimizavimui. „Amazon“, „Google“ ir „Walmart“ yra gerai žinomi organizacijų, naudojančių mašininio mokymosi prognozavimą dideliu mastu, pavyzdžiai.
Kaip vertinate prognozavimo tikslumą?
Įprasti rodikliai apima vidutinę absoliutinę paklaidą (MAE), vidutinę kvadratinę paklaidą (RMSE), vidutinę absoliutinę procentinę paklaidą (MAPE), o tikimybinėms prognozėms – Brier balą arba logaritminius nuostolius. Geriausias rodiklis priklauso nuo to, ar jums labiau rūpi tipinės paklaidos, didelės paklaidos ar tikimybės įverčių kalibravimas.
Ar žmonių ekspertų prognozės vis dar aktualios dirbtinio intelekto amžiuje?
Taip, labai. Nors dirbtinis intelektas gerai susidoroja su didelio masto šablonų atpažinimu, žmonės vis tiek pranoksta lūkesčius situacijose, kuriose reikalingas kontekstinis vertinimas, etinis samprotavimas ir prisitaikymas prie naujų aplinkybių. Daugelis dirbtinio intelekto sistemų yra specialiai sukurtos tam, kad papildytų žmonių ekspertus, o ne juos pakeistų, todėl kvalifikuotų prognozuotojų poreikis toliau auga.
Kokie įgūdžiai daro žmogų geru prognozuotoju?
Geriausi prognozuotojai paprastai jaučiasi patogiai su skaičiais, yra intelektualiai kuklūs, linkę keisti savo nuomonę ir geba didelius klausimus suskaidyti į mažesnes, labiau atsakomąsias dalis. Jie aktyviai ieško paneigiančių įrodymų, atidžiai stebi savo prognozes ir palaipsniui atnaujina tikimybes, o ne daro išvadas.

Nuosprendis

Rinkitės mašininio mokymosi prognozavimą, kai turite gausybę istorinių duomenų, jums reikia didelio masto prognozių ir veikiate santykinai stabilioje aplinkoje. Rinkitės žmonių ekspertų prognozavimą, kai susiduriate su naujomis situacijomis, ribotais duomenimis arba scenarijais, kai kontekstinis samprotavimas yra svarbesnis nei šablonų atpažinimas. Daugumoje rimtų programų geriausi rezultatai gaunami derinant abu metodus, o ne laikant juos konkurentais.

Susiję palyginimai

„DeepSeek V4“ ir „GPT-4“ klasės modeliai

„DeepSeek V4“ yra kylantis atvirojo svorio didelių kalbų modelis, sukurtas Kinijos dirbtinio intelekto laboratorijoje, o GPT-4 klasės modeliai nurodo „OpenAI“ flagmanines uždarojo kodo sistemas. Šiame palyginime nagrinėjama jų architektūra, galimybės, kainos, prieinamumas ir našumas realiame pasaulyje, siekiant padėti kūrėjams ir įmonėms išmintingai pasirinkti.

„Google“ paieška ir žinių grafiko paieška

„Google“ paieška yra plataus masto žiniatinklio indeksavimo variklis, kurį dauguma žmonių naudoja kasdien, o „Knowledge Graph Search“ yra „Google“ struktūrizuotų objektų duomenų bazė, kurioje pateikiami tiesioginiai atsakymai ir informacijos skydeliai. Supratimas, kuo jie skiriasi, padeda paaiškinti, kodėl kai kurios užklausos pateikia išsamius faktus, o kitos – tradicines mėlynas nuorodas.

„Google“ paieškos algoritmas ir supaprastinti klasės modeliai

„Google“ paieškos algoritmas reitinguoja milijardus tinklalapių, naudodamas mašininį mokymąsi ir šimtus signalų, o supaprastinti klasių modeliai perteikia dirbtinio intelekto koncepcijas į lengvai mokomas, prieinamas sistemas. Viena sistema veikia planetos mastu gamyboje; kita tarnauja kaip pedagoginis tiltas mokiniams, mokantis, kaip iš tikrųjų veikia dirbtinis intelektas.

„Vienas su vienu“ atitikimas aptikimo ir daugelio su vienu atitikimo metodų srityse

„Vienas su vienu“ atitikimo metodas kiekvienam pagrindiniam objektui priskiria vieną numatomą langelį, o „daugelis su vienu“ atitikimo metodas leidžia kelias prognozes suderinti su vienu taikiniu. Abi strategijos formuoja tai, kaip šiuolaikiniai detektoriai, tokie kaip DETR ir „Faster R-CNN“, mokosi lokalizuoti objektus, kiekvienas iš jų turi skirtingus kompromisus tikslumo, mokymo stabilumo ir pasikartojančių aptikimų tvarkymo srityse.

A/B testavimas modelių aptarnavime ir vieno modelio diegime

A/B testavimas modeliuose nukreipia srautą tarp konkuruojančių modelio versijų, kad būtų galima įvertinti realų našumą, o diegiant vieną modelį visiems vartotojams pateikiamas vienas modelis. Komandos renkasi iš jų pagal rizikos toleranciją, srauto kiekį ir statistinio patvirtinimo poreikį prieš visišką diegimą.