Pasiskirstymo poslinkis įvyksta, kai statistinės duomenų savybės laikui bėgant keičiasi, blogindamos modelio našumą, o stacionarių duomenų prielaida daro prielaidą, kad šios savybės išlieka pastovios – tai pagrindinė, tačiau dažnai nerealistiška tradicinio mašininio mokymosi prielaida.
Reiškinys, kai įvesties duomenys arba tiksliniai kintamieji pakeičia savo statistines savybes po modelio įdiegimo.
Pagrindinė prielaida, kad duomenų pasiskirstymas išlieka stabilus ir nekintamas per visą modelio gyvavimo ciklą.
| Funkcija | Duomenų pasiskirstymo poslinkis | Stacionarių duomenų prielaida |
|---|---|---|
| Pagrindinis apibrėžimas | Statistinės duomenų savybės laikui bėgant kinta | Duomenų pasiskirstymas išlieka fiksuotas ir stabilus |
| Paplitimas realiame pasaulyje | Praktikoje itin dažnas | Dinamiškoje aplinkoje retai pasitvirtina |
| Poveikis modelio našumui | Sukelia degradaciją be įsikišimo | Daro prielaidą, kad laikui bėgant našumas yra pastovus |
| Teorinis traktavimas | Aktyvi tyrimų sritis su naujais sprendimais | Tradicinis statistinio mokymosi teorijos pagrindas |
| Sudėtingumo valdymas | Reikalingas stebėjimas, pritaikymas ir perkvalifikavimas | Paprasčiau įgyvendinama, bet dažnai klaidinanti |
| Domenų pavyzdžiai | Finansai, sveikatos apsauga, autonominės sistemos, rekomendacijų sistemos | Kontroliuojami eksperimentai, statinių vaizdų duomenų rinkiniai, modeliuojama aplinka |
| Algoritminis atsakas | Domeno adaptacija, nuolatinis mokymasis, patikimas optimizavimas | Standartinis traukinio bandymo padalijimas, kryžminis patvirtinimas |
Pasiskirstymo poslinkis atspindi, kas nutinka, kai pasaulis keičiasi pagal jūsų modelį – galbūt keičiasi vartotojų pageidavimai, suprastėja jutikliai arba svyruoja ekonominės sąlygos. Stacionarių duomenų prielaida, priešingai, įsivaizduoja sustabdytą akimirką, kai vakarykščiai duomenys puikiai atspindi rytojaus realybę. Dauguma vadovėlių prasideda nuo šios prielaidos, nes tai leidžia matematiką suprasti, nors praktikai greitai supranta, koks trapus yra šis komfortas.
Sukčiavimo aptikimo modelis, apmokytas ekonominio stabilumo laikotarpiu, gali sugesti recesijos metu, nes radikaliai pasikeičia operacijų modeliai. Panašiai ir vienoje ligoninėje sukurtos medicininės diagnostikos priemonės dažnai stringa, kai jos naudojamos kitur dėl skirtingų pacientų populiacijų ir įrangos. Tai ne kraštutiniai atvejai – tai norma. Stacionarumo prielaida nepateikia jokio žodyno tokiems reiškiniams apibūdinti, traktuodama juos kaip anomalijas, o ne laukiamą elgesį.
Norint spręsti pasiskirstymo pokyčio problemą, reikia nuolatinio budrumo: stebėti įvesties požymių pasiskirstymą, prognozavimo patikimumo balus ir atkreipti dėmesį, kai rezultatai nukrypsta nuo laukiamų bazinių verčių. Tokie metodai kaip Kolmogorovo-Smirnovo testas, populiacijos stabilumo indeksas ir maksimalus vidurkio neatitikimas padeda kiekybiškai įvertinti pokyčius. Stacionarumo sąlygomis tokia infrastruktūra atrodo nereikalinga – tol, kol tylūs gedimai kaupiasi ir sukelia katastrofišką modelio žlugimą.
Šiuolaikinis mašininis mokymasis sukūrė išsamius įrankių rinkinius nestacionarioms aplinkybėms. Domenų adaptacijos metodai suderina šaltinio ir tikslo pasiskirstymus. Internetinis mokymasis laipsniškai atnaujina modelius pagal naujus duomenis. Priežastinio ryšio išvados metodai ieško ryšių, atsparių tam tikriems pasiskirstymo pokyčiams. Ansamblio metodai palaiko kelis modelius skirtingiems režimams. Stacionarumo prielaida neleidžia to padaryti, todėl jos pažeidimas sukelia tiek daug problemų.
Paskirstymo pokyčių priėmimas sukelia tikrą sudėtingumą – daugiau inžinerijos, daugiau skaičiavimo, sudėtingesnį patvirtinimą ir sunkesnį derinimą. Kai kurios komandos iš pradžių priešinasi, pirmenybę teikdamos tariamam paprastumui daryti prielaidą apie stacionarumą. Tačiau pokyčio ignoravimo kaina paprastai viršija jo sprendimo kainą: neteisingos prognozės mažina pasitikėjimą, pajamas ir kartais saugumą. Tinkamos pusiausvyros tarp budrumo ir pragmatizmo radimas atskiria brandžias mašininio mokymosi operacijas nuo naivių diegimų.
Pasiskirstymo poslinkis veikia tik sudėtingus gilaus mokymosi modelius.
Net paprasta tiesinė regresija nepavyksta, kai pasikeičia ryšiai tarp kintamųjų. Bazinis modelis, prognozuojantis būsto kainas pagal palūkanų normas, pablogės, kai pasikeis pinigų politika, nepriklausomai nuo modelio sudėtingumo.
Jei mokymo ir testavimo rinkiniai yra iš to paties duomenų rinkinio, stacionarumas garantuojamas.
Laiko eilės tvarka yra nepaprastai svarbi. Atsitiktinis laiko eilučių duomenų skaidymas, o ne nuoseklus, gali paslėpti didelį nestacionarumą ir sukurti pavojingai optimistinius našumo įverčius, kurie diegimo metu suprastėja.
Stacionarių duomenų prielaida reiškia, kad duomenys niekada nesikeičia.
Praktiškai tyrėjai dažnai turi omenyje „pakankamai stacionarų esamam pritaikymui“. Nedideli svyravimai gali būti toleruojami, tačiau ši subtili interpretacija prarandama, todėl pasirenkami netinkami modeliai.
Norint aptikti pasiskirstymo poslinkį, reikia pažymėti duomenis iš naujo pasiskirstymo.
Daugelis veiksmingų metodų veikia visiškai be priežiūros, lygina įvesties pasiskirstymus arba modeliuoja patikimumo modelius nereikalaudami pagrindinių teisingumo etikečių – tai labai svarbu, kai etiketės yra brangios arba vėluoja.
Aptikus pokytį, problemą galima išspręsti tiesiog perkvalifikuojant duomenis naudojant naujus duomenis.
Perkvalifikavimas padeda, tačiau sukuria ir savų iššūkių: katastrofišką senų modelių užmiršimą, nepakankamą naujų duomenų kiekį, atrankos šališkumą žymint informaciją ir galimą nestabilumą pereinamaisiais laikotarpiais.
Domenų adaptacijos metodai panaikina poreikį nerimauti dėl pasiskirstymo poslinkio.
Šie metodai pagerina patikimumą esant konkrečioms prielaidoms apie tai, kaip skiriasi pasiskirstymai, tačiau universalaus sprendimo nėra. Pavyzdžiui, priešiškos srities adaptacija yra sudėtinga, kai šaltinio ir tikslinės sritys mažai sutampa.
Dinaminėse, didelės rizikos arba ilgai gyvuojančiose sistemose, kuriose duomenys neišvengiamai kinta, diegiant modelius, rinkitės aiškų paskirstymo poslinkio valdymą. Stacionarių duomenų prielaida išlieka pedagoginiu požiūriu vertinga ir praktiškai priimtina tik stabilioms, trumpalaikėms arba griežtai kontroliuojamoms programoms, kuriose pokyčiai yra išties nereikšmingi.
„DeepSeek V4“ yra kylantis atvirojo svorio didelių kalbų modelis, sukurtas Kinijos dirbtinio intelekto laboratorijoje, o GPT-4 klasės modeliai nurodo „OpenAI“ flagmanines uždarojo kodo sistemas. Šiame palyginime nagrinėjama jų architektūra, galimybės, kainos, prieinamumas ir našumas realiame pasaulyje, siekiant padėti kūrėjams ir įmonėms išmintingai pasirinkti.
„Google“ paieška yra plataus masto žiniatinklio indeksavimo variklis, kurį dauguma žmonių naudoja kasdien, o „Knowledge Graph Search“ yra „Google“ struktūrizuotų objektų duomenų bazė, kurioje pateikiami tiesioginiai atsakymai ir informacijos skydeliai. Supratimas, kuo jie skiriasi, padeda paaiškinti, kodėl kai kurios užklausos pateikia išsamius faktus, o kitos – tradicines mėlynas nuorodas.
„Google“ paieškos algoritmas reitinguoja milijardus tinklalapių, naudodamas mašininį mokymąsi ir šimtus signalų, o supaprastinti klasių modeliai perteikia dirbtinio intelekto koncepcijas į lengvai mokomas, prieinamas sistemas. Viena sistema veikia planetos mastu gamyboje; kita tarnauja kaip pedagoginis tiltas mokiniams, mokantis, kaip iš tikrųjų veikia dirbtinis intelektas.
„Vienas su vienu“ atitikimo metodas kiekvienam pagrindiniam objektui priskiria vieną numatomą langelį, o „daugelis su vienu“ atitikimo metodas leidžia kelias prognozes suderinti su vienu taikiniu. Abi strategijos formuoja tai, kaip šiuolaikiniai detektoriai, tokie kaip DETR ir „Faster R-CNN“, mokosi lokalizuoti objektus, kiekvienas iš jų turi skirtingus kompromisus tikslumo, mokymo stabilumo ir pasikartojančių aptikimų tvarkymo srityse.
A/B testavimas modeliuose nukreipia srautą tarp konkuruojančių modelio versijų, kad būtų galima įvertinti realų našumą, o diegiant vieną modelį visiems vartotojams pateikiamas vienas modelis. Komandos renkasi iš jų pagal rizikos toleranciją, srauto kiekį ir statistinio patvirtinimo poreikį prieš visišką diegimą.
