Duomenų infrastruktūros sluoksnis tvarko neapdorotų duomenų srautų saugojimą, apdorojimą ir valdymą, o modelių mokymo sluoksnis daugiausia dėmesio skiria algoritmų vykdymui, siekiant apmokyti mašininio mokymosi modelius. Abu jie yra būtini dirbtinio intelekto sistemose, tačiau atlieka iš esmės skirtingus vaidmenis kūrimo gyvavimo cikle.
Pagrindinė sistema, atsakinga už duomenų rinkimą, saugojimą, apdorojimą ir pateikimą tolesnėms programoms ir ML srautams.
Skaičiavimo sluoksnis, kuriame mašininio mokymosi modeliai mokosi šablonų iš paruoštų duomenų, taikydami iteracinius optimizavimo procesus.
| Funkcija | Duomenų infrastruktūros sluoksnis | Modelio mokymo sluoksnis |
|---|---|---|
| Pagrindinis tikslas | Patikimai saugokite, apdorokite ir pateikite duomenis | Mokykitės ir optimizuokite ML modelius su duomenimis |
| Pagrindinės technologijos | Kafka, kibirkštis, oro srautas, snaigė, S3 | PyTorch, TensorFlow, CUDA, Horovod, Ray |
| Skaičiavimo reikalavimai | CPU optimizuotas, didelis įvesties / išvesties pralaidumas | GPU/TPU optimizuotas, didelis atminties pralaidumas |
| Duomenų skalė | Petabaitų neapdorotų ir apdorotų duomenų | Gigabaitai iki terabaitų mokymo paketų |
| Pagrindiniai rodikliai | Vėlavimas, pralaidumas, duomenų naujumas | Praradimas, tikslumas, treniruočių laikas, konvergencija |
| Gedimo poveikis | Pasauliniai vamzdynai stringa arba pateikia pasenusius duomenis | Mokymo darbai vėl pradeda veikti arba sukuria prastus modelius |
| Tipiniai vartotojai | Duomenų inžinieriai, platformų komandos | ML inžinieriai, mokslininkai |
| Sąnaudų veiksniai | Saugyklos apimtis ir tinklo išėjimas | GPU valandos ir greitintuvo naudojimas |
Duomenų infrastruktūros sluoksnis yra prieš srovę, tiekdamas švarius ir patikimus duomenų rinkinius į mokymo srautą. Be jo modelių mokymo sluoksnis neturėtų nieko prasmingo, iš ko mokytis. Ir atvirkščiai, modelių mokymo sluoksnis naudoja tuos paruoštus duomenis ir sukuria apmokytus artefaktus, kurie galiausiai yra diegiami. Jie sudaro nuoseklią priklausomybę, o ne konkuruojančias alternatyvas.
Duomenų infrastruktūros darbo krūviai paprastai teikia pirmenybę didelės atminties talpos ir greito tinklo procesoriams, nes dauguma operacijų apima didelių duomenų kiekių perkėlimą ir transformavimą. Kita vertus, modelių mokymui reikalingi specializuoti greitintuvai, tokie kaip GPU arba TPU, kurie puikiai atlieka matricų daugybą, kuri yra gilaus mokymosi pagrindas. Aparatinės įrangos profiliai yra tokie skirtingi, kad debesijos paslaugų teikėjai dažnai juos įkainoja visiškai atskiroms egzempliorių šeimoms.
Duomenų infrastruktūros sluoksnio mastelio keitimas paprastai reiškia daugiau saugyklos mazgų pridėjimą, skaidinių skaičiaus didinimą arba duomenų skaidymą tarp regionų. Modelių mokymo sluoksnis mastelio keitimas vyksta skirtingai, dažnai paskirstant modelio svorius tarp daugelio GPU arba skaidant vieną didelį modelį tarp kelių greitintuvų. Abu šie sluoksniai susiduria su kliūtimis, tačiau sprendimai retai sutampa.
Duomenų komandos nerimauja dėl schemų dreifo, vėlai gaunamų duomenų ir srauto užpildymo. ML komandos nerimauja dėl gradiento sprogimų, kontrolinių taškų sugadinimo ir atkuriamumo tarp paleidimų. Kiekvienas sluoksnis turi savo stebimumo rinkinį, kuriame duomenų pusėje yra tokie įrankiai kaip „Great Expectations“ arba „Monte Carlo“, o mokymo pusėje – „Weights & Biases“ arba „MLflow“.
Duomenų infrastruktūros išlaidos paprastai yra pastovios ir nuspėjamos, daugiausia priklausomos nuo saugyklos apimties ir nuolatinio duomenų įkėlimo. Modelių mokymo išlaidos yra staigios ir priklausomos nuo projekto, nes vienas mokymo vykdymas per trumpą laiką gali sunaudoti tūkstančius GPU valandų. Organizacijos dažnai pastebi, kad mokymo išlaidos dominuoja modelio kūrimo metu, o duomenų išlaidos – pastovios gamybos metu.
Duomenų infrastruktūros sluoksnyje dirbantys inžinieriai paprastai turi duomenų inžinerijos arba paskirstytųjų sistemų patirties, turi gilių SQL, srautinių sistemų ir saugojimo variklių žinių. Modelių mokymo sluoksnyje dirbantys asmenys paprastai turi taikomosios matematikos arba mašininio mokymosi tyrimų patirties, turi skaitmeninio optimizavimo, neuroninių tinklų architektūrų ir greitintuvų programavimo patirties.
Jei turite pakankamai GPU, galite praleisti stipraus duomenų sluoksnio kūrimą.
Net ir galingiausia mokymo sistema sukuria prastus modelius, kai tiekiami triukšmingi, pasenę ar neteisingai paženklinti duomenys. Dauguma mašininio mokymosi (ML) gedimų gamyboje kyla dėl duomenų problemų, o ne dėl skaičiavimo trūkumo. Tvirtas duomenų pagrindas yra tai, kas lemia, kad GPU laikas iš tikrųjų atsiperka.
Modelių mokymas tėra scenarijaus vykdymas didelėje mašinoje.
Gamybos mokymai apima paskirstytą orkestravimą, kontrolinių taškų kūrimą, hiperparametrų valdymą, eksperimentų stebėjimą ir gedimų atkūrimą. Jei tai bus traktuojama kaip paprastas scenarijus, prarandama pažanga, rezultatai neatkuriami ir švaistomi skaičiavimo biudžetai.
Duomenų infrastruktūrą ir modelių mokymą galima optimizuoti atskirai.
Du sluoksniai yra glaudžiai susiję. Duomenų schemos, žymėjimo ar paskirstymo pakeitimai tiesiogiai veikia modelio našumą. Komandos, kurios juos optimizuoja atskirai, dažnai pastebi, kad jų modeliai tyliai blogėja, kai pasikeičia ankstesnių etapų duomenys.
Daugiau duomenų visada pagerina modelio tikslumą.
Kokybė yra daug svarbesnė nei kiekybė. Milijonų neteisingai paženklintų ar nesusijusių įrašų pridėjimas gali iš tikrųjų pakenkti modelio našumui. Kuruoti, gerai valdomi duomenų rinkiniai beveik visada pranoksta neapdorotus, nefiltruotus, nepriklausomai nuo dydžio.
Debesijos kompiuterijos valdomos paslaugos panaikina vidinių ekspertų poreikį abiejuose lygmenyse.
Valdomos platformos gerai atlieka įprastines operacijas, tačiau komandoms vis tiek reikia gilaus abiejų lygių supratimo, kad būtų galima reguliuoti našumą, kontroliuoti išlaidas ir derinti gedimus. Abstrakcija sumažina darbo krūvį, bet nepakeičia pagrindinių žinių.
Duomenų infrastruktūros sluoksnį rinkitės, kai jūsų prioritetas yra patikimas duomenų perkėlimas, valdymas ir analitikos teikimas dideliu mastu. Modelių mokymo sluoksnį rinkitės, kai daugiausia dėmesio skiriate mašininio mokymosi modelių kūrimui, eksperimentavimui ir optimizavimui. Praktiškai brandžioms dirbtinio intelekto sistemoms reikia, kad abu sluoksniai veiktų darniai, o stipri duomenų infrastruktūra leistų greičiau ir lengviau atkuriamai mokyti modelius.
„Kafka“ ir „Flink“ sudaro paskirstytą srautinio apdorojimo ekosistemą realaus laiko duomenų srautams, o apdorojimas atmintyje pagreitina analizę, nes duomenys saugomi tik RAM atmintyje – kiekvienas iš jų tenkina iš esmės skirtingus architektūrinius greičio, mastelio ir tvarumo poreikius.
„Netflix“ vidinė mašininio mokymosi platforma siūlo glaudžiai integruotus, didelio masto įrankius, skirtus transliacijų suasmeninimui, o nepriklausomi mašininio mokymosi įrankiai suteikia mažesnėms komandoms lankstumo ir kontrolės. Pasirinkimas priklauso nuo masto, pritaikymo poreikių ir esamų investicijų į infrastruktūrą.
Adaptyvi infrastruktūra dinamiškai prisitaiko prie kintančių darbo krūvių, naudodama automatizavimą ir mastelio keitimą realiuoju laiku, o statinės infrastruktūros projektavimas remiasi fiksuotais, iš anksto sukonfigūruotais ištekliais. Pasirinkimas priklauso nuo darbo krūvio kintamumo, biudžeto nuspėjamumo ir veikimo brandos jūsų debesijos aplinkoje.
Apkrovos balansavimas mašininio mokymosi sistemose valdo GPU reikalaujančius išvadų ir mokymo darbo krūvius specializuotoje įrangoje, o paprastas API užklausų apdorojimas paskirsto nedidelį HTTP srautą bendrosios paskirties serveriuose. Jie labai skiriasi sudėtingumu, išteklių poreikiu ir maršruto parinkimo išmanumu.
Atsparumas gedimams proaktyviai perkelia darbo krūvius į sveikas sistemas, kol vartotojai nepastebi problemų, o sistemos gedimų atveju iš naujo paleidžiamos sistemos reaktyviai atkuria paslaugas po netikėtų gedimų. Abu metodai siekia palaikyti prieinamumą, tačiau iš esmės skiriasi laiku, architektūros sudėtingumu ir poveikiu vartotojams.
