Systémy úložiska funkcií ponúkajú centralizovanú, opakovane použiteľnú a verziovanú správu funkcií pre pracovné postupy strojového učenia, zatiaľ čo ad hoc inžinierstvo funkcií sa spolieha na vlastné skripty vytvorené pre každý projekt. Výber medzi nimi formuje spôsob, akým tímy škálujú, spolupracujú a nasadzujú modely v produkčných prostrediach.
Centralizované platformy, ktoré ukladajú, verzujú a poskytujú vybrané funkcie pre modely strojového učenia naprieč tímami a projektmi.
Vytváranie vlastných, projektovo špecifických funkcií manuálne vykonávané dátovými vedcami pomocou skriptov, poznámkových blokov alebo jednorazových kanálov.
| Funkcia | Systémy ukladania funkcií | Ad Hoc inžinierstvo funkcií |
|---|---|---|
| Opätovné použitie funkcií | Vysoká – zdieľaná medzi tímami a projektmi | Nízka – zvyčajne špecifická pre projekt |
| Konzistentnosť tréningu a podávania | Vstavané cez zjednotené kanály | Manuálne, často nekonzistentné |
| Zložitosť nastavenia | Vyššie počiatočné nastavenie a infraštruktúra | Minimálne - len kód a dáta |
| Škálovateľnosť | Navrhnuté pre výrobné meradlo | Obmedzené kapacitou tímu a nástrojov |
| Riadenie a pôvod | Verzionovanie, riadenie prístupu, audítorské záznamy | Zvyčajne nelegálne alebo neformálne |
| Flexibilita pre experimentovanie | Mierne – obmedzené platformou | Veľmi vysoká - žiadne obmedzenia platformy |
| Čas do prvého modelu | Pomalšie kvôli réžii nastavenia | Rýchlejšie pre jednorazové projekty |
| Náklady na údržbu | Nižšie dlhodobé investície vo veľkom meradle | Vyššie s rastúcim počtom funkcií |
Systémy úložísk funkcií fungujú ako špecializované infraštruktúrne vrstvy, ktoré sa nachádzajú medzi zdrojmi surových údajov a modelmi strojového učenia. Zabezpečujú príjem, transformáciu, ukladanie a poskytovanie prostredníctvom jednotného kanála. Ad hoc inžinierstvo funkcií sa naopak nachádza všade tam, kde pracuje dátový vedec, zvyčajne v notebookoch alebo samostatných skriptoch, ktoré sťahujú údaje, aplikujú transformácie a priamo poskytujú modely. Architektonický rozdiel znamená, že úložiská funkcií vyžadujú počiatočné investície do nástrojov, zatiaľ čo ad hoc prístupy môžu začať len s CSV súborom a trochou kódu PANDA.
Jedným z najväčších problémov strojového učenia je skreslenie trénovania a poskytovania, kde model síce funguje dobre vo vývoji, ale v produkcii sa zhoršuje, pretože funkcie sa počítajú odlišne. Úložiská funkcií to riešia použitím rovnakého transformačného kódu pre dávkové trénovacie dáta aj inferenciu v reálnom čase. Pri ad hoc inžinierstve tímy často píšu jednu sadu logiky pre trénovanie a inú pre poskytovanie, čo prináša jemné chyby, ktoré sa notoricky ťažko ladia. Táto výhoda konzistencie sama o sebe prinútila mnoho organizácií prijať úložiská funkcií.
Keď sú funkcie uložené v zdieľanom úložisku, každý dátový vedec ich môže objaviť a znovu použiť, čo zabraňuje nadbytočnej práci a podporuje štandardizáciu. Noví členovia tímu si môžu prezerať katalóg existujúcich funkcií namiesto ich nanovo vymýšľania. Ad hoc inžinierstvo má tendenciu vytvárať izolované štruktúry, kde každý analytik prestavuje podobné funkcie izolovane, niekedy s mierne odlišnými definíciami, ktoré spôsobujú zmätok v následných procesoch. Postupom času táto fragmentácia sťažuje udržiavanie koherentnej stratégie funkcií v celej organizácii.
Ad hoc inžinierstvo funkcií vyniká počas skorého experimentovania, keď dátoví vedci potrebujú rýchlo iterovať na nových transformáciách bez obáv z nasadenia. Novú funkciu je možné otestovať v priebehu niekoľkých minút. Úložiská funkcií zvyšujú réžiu, pretože každá funkcia musí byť zaregistrovaná, overená a integrovaná do obslužnej infraštruktúry predtým, ako sa môže použiť v produkčnom prostredí. Rovnaká réžia sa však vyplatí, keď sa modely presunú do produkčného prostredia, pretože funkcia je už pripravená na produkčné prostredie a nevyžaduje si samostatné inžinierske úsilie.
Prevádzkovanie úložiska funkcií zahŕňa náklady na infraštruktúru pre úložisko, výpočty a orchestráciu, plus inžinierske úsilie potrebné na jeho údržbu. Pre malé tímy alebo jednotlivé projekty sa to môže zdať prehnané. Ad hoc inžinierstvo má takmer nulové náklady na infraštruktúru, ale hromadí skryté náklady na duplicitnú prácu, ladenie nekonzistentností a prepisovanie funkcií pre produkčný proces. Bod zlomu zvyčajne nastáva, keď má organizácia viacero modelov v produkčnom prostredí alebo niekoľko dátových vedcov pracuje na prekrývajúcich sa problémoch.
Úložiská funkcií sú iba databázy pre funkcie.
Úložisko funkcií je oveľa viac než len úložisko. Zahŕňa transformačné kanály, online a offline poskytovanie, objavovanie funkcií, sledovanie pôvodu a riadenie prístupu. Ak sa s ním zaobchádza ako s jednoduchou databázou, stráca sa väčšina jeho hodnoty, najmä záruky konzistencie medzi trénovaním a inferenciou.
Ad hoc inžinierstvo funkcií sa vôbec neškáluje.
Mnoho úspešných spoločností roky fungovalo na ad hoc kanáloch, kým nezaviedli úložiská funkcií. Tento prístup sa pomerne dobre škáluje pre malé tímy a niekoľko modelov. Čo však narúša spoluprácu, riadenie a konzistentnosť, keď počet modelov a dátových vedcov výrazne narastie.
Musíte si zvoliť jeden prístup navždy.
Väčšina vyspelých organizácií zaoberajúcich sa strojovým učením (ML) používa oboje. Dátoví vedci skúmajú nové nápady ad hoc v poznámkových blokoch a potom overené funkcie propagujú do úložiska funkcií na produkčné použitie. V praxi zvyčajne funguje najlepšie, ak sa s nimi zaobchádza ako s doplnkovými, a nie ako s konkurenčnými prístupmi.
Úložiská prvkov automaticky zlepšujú presnosť modelu.
Úložiská funkcií zlepšujú prevádzkovú kvalitu, nie nevyhnutne výkon modelu. Znižujú počet chýb, zrýchľujú nasadenie a zabraňujú nekonzistentnostiam, ale základné funkcie si stále vyžadujú premyslený dizajn. Zlá funkcia v úložisku je stále zlá funkcia.
Obchody s funkciami s otvoreným zdrojovým kódom sú pripravené na produkciu hneď po vybalení.
Nástroje ako Feast a Hopsworks poskytujú solídny základ, ale nasadenie do produkčného prostredia si stále vyžaduje značné inžinierske práce týkajúce sa monitorovania, škálovania, zabezpečenia a integrácie s existujúcou dátovou infraštruktúrou. Pripravenosť na použitie sa medzi projektmi značne líši.
Systémy úložísk funkcií sú lepšou voľbou pre organizácie, ktoré prevádzkujú viacero modelov v produkčnom prostredí alebo škálujú svoje operácie strojového učenia naprieč tímami, kde je najdôležitejšia konzistencia a opätovná použiteľnosť. Ad hoc inžinierstvo funkcií zostáva cenné pre samostatných dátových vedcov, výskumné projekty a experimentovanie v raných fázach, kde rýchlosť a flexibilita prevažujú nad výhodami centralizovanej infraštruktúry. Mnoho zrelých tímov v skutočnosti používa oboje, pričom sa spoliehajú na ad hoc prácu pre prieskum a úložiská funkcií pre všetko, čo sa dostane do produkčného prostredia.
A/B testovanie v modelových službách smeruje prevádzku medzi konkurenčnými verziami modelov na meranie reálneho výkonu, zatiaľ čo nasadenie jedného modelu poskytuje jeden model všetkým používateľom. Tímy si medzi nimi vyberajú na základe tolerancie rizika, objemu prevádzky a potreby štatistického overenia pred úplným nasadením.
A/B testovanie pri vydávaní obsahu zahŕňa zavádzanie variácií pre rôzne segmenty publika a meranie výkonnosti, zatiaľ čo jednorazové vydania obsahu ponúkajú jednu verziu všetkým naraz. Každý prístup vyhovuje iným cieľom, pričom A/B testovanie uprednostňuje optimalizáciu na základe dát a jednorazové vydania uprednostňujú rýchlosť a jednoduchosť.
Toto porovnanie analyzuje strategické voľby v strojovom učení medzi adaptáciou domény, ktorá prenáša znalosti z označeného zdrojového prostredia do iného cieľového prostredia, a školením v rámci domény, ktoré vytvára modely výlučne na základe údajov získaných z presného cieľového nastavenia nasadenia.
Toto podrobné porovnanie skúma architektonické rozdiely, prevádzkové limity a reálny výkon adaptívnych inteligenčných systémov v porovnaní so systémami automatizácie s pevným správaním. Pozrieme sa na to, ako systémy, ktoré sa neustále učia z nových environmentálnych údajov, fungujú v porovnaní s rigidnými, predvídateľnými rámcami založenými na pravidlách.
Adaptívne vyhľadávanie dynamicky upravuje spôsob a aké informácie systém načítava na základe dotazu, zatiaľ čo statické vyhľadávacie kanály sa riadia pevnými pravidlami bez ohľadu na kontext. Obe poháňajú moderné aplikácie umelej inteligencie, ale výrazne sa líšia vo flexibilite, nákladoch a presnosti. Výber medzi nimi závisí od zložitosti pracovnej záťaže a rozpočtu.
