Realiojo laiko rekomendacijos pateikia suasmenintus pasiūlymus per milisekundes, vartotojams sąveikaujant su platforma, o neprisijungus teikiamos paketinės rekomendacijos apdoroja didelius duomenų rinkinius pagal grafiką, kad pasiūlymai būtų generuojami iš anksto. Abu metodai atitinka skirtingus verslo tikslus, priklausomai nuo delsos tolerancijos, infrastruktūros ir vartotojo patirties prioritetų.
Akimirksniu generuoja suasmenintus pasiūlymus, pagrįstus vartotojo dabartiniu seanso elgesiu ir realiuoju kontekstu.
Apdoroja sukauptus naudotojų duomenis suplanuotose užduotyse, kad pateiktų rekomendacijas, kurios saugomos ir pateikiamos vėliau.
| Funkcija | Rekomendacijos realiuoju laiku | Neprisijungus pasiekiamos partijos rekomendacijos |
|---|---|---|
| Atsakymo delsa | Milisekundės (mažiau nei 100 ms) | Iš anksto apskaičiuota, pateikiama akimirksniu iš saugyklos |
| Duomenų apdorojimas | Srautinis, įvykių valdomas | Paketiniai, suplanuoti darbai |
| Infrastruktūra | „Kafka“, „Flink“, „Redis“, srautiniai procesoriai | „Spark“, „Hadoop“, duomenų saugyklos |
| Duomenų naujumas | Dabartinė sesija ir tiesioginiai signalai | Istoriniai duomenys iki paskutinio partijos paleidimo |
| Skaičiavimo kaina | Didesnis užklausų skaičius, nuolatinis apdorojimas | Mažesnis užklausų skaičius, sutelktas užduočių metu |
| Mastelio keitimo metodas | Srauto vartotojų horizontalus mastelio keitimas | Klasterio mastelio keitimas lygiagrečioms paketinėms užduotims |
| Tipiniai naudojimo atvejai | El. prekybos produktų karuselės, vaizdo įrašų srautai, reklamos | El. pašto kampanijos, savaitiniai grojaraščiai, naujienlaiškiai |
| Modelio sudėtingumas | Dažnai paprastesni greičio modeliai | Galima naudoti gilųjį mokymąsi su visais duomenų rinkiniais |
Realaus laiko rekomendacijos sužiba tada, kai tiesioginis dėmesys formuoja naudotojo patirtį. Jei kas nors įdeda prekę į krepšelį, realaus laiko sistema gali akimirksniu aptikti papildomus produktus dar prieš jam užbaigiant apmokėjimą. Neprisijungusios paketinės sistemos negali reaguoti į šį veiksmą, kol nebus paleista kita užduotis, o tai reiškia, kad pasiūlymas gali būti pateiktas po kelių valandų ar dienų el. paštu, o ne ekrane.
Realaus laiko srautų srautams valdyti reikalinga nuolat veikianti srautinio perdavimo infrastruktūra, kurią visą parą prižiūrėti paprastai yra brangiau. Paketinis apdorojimas sutelkia skaičiavimo naudojimą į nuspėjamus langus, todėl lengviau planuoti biudžetą ir optimizuoti. Daugelis komandų iš tikrųjų derina abu šiuos metodus, naudodamos paketines užduotis sudėtingiems modelių mokymams ir realaus laiko sistemas lengvoms prognozėms teikti.
Realaus laiko sistemos veikia su visais signalais, gaunamais dabartinio seanso metu, o tai riboja, kiek istorinio konteksto jos gali atsižvelgti. Paketinės sistemos turi prieigą prie visų istorinių įrašų, todėl gali apmokyti sudėtingesnius modelius, kurie fiksuoja ilgalaikius pageidavimus. Kompromisas priklauso nuo to, ar vertinate naujausią paspaudimą, ar gilesnį vartotojo supratimą.
Kuriant realaus laiko srautus, reikia daugiau judančių dalių, įskaitant įvykių magistrales, srauto procesorius ir mažo delsos funkcijų saugyklas. Paketines sistemas paprastai paprasčiau nustatyti, nes jos laikosi tradicinio ETL išgavimo, transformavimo ir įkėlimo modelio. Tačiau realaus laiko sistemos dažnai pasiekia didesnį įsitraukimą, kai yra stabilios, o tai pateisina papildomas inžinerines pastangas daugeliui įmonių.
Dauguma didelių platformų nepasirenka tik vienos ar kitos platformos. Įprasta hibridinė sistema naudoja neprisijungus vykdomas paketines užduotis modeliams apmokyti ir kandidatų rinkiniams generuoti, o tada ant viršaus sluoksniuoja realiuoju laiku atliekamą vertinimą, kad rezultatai būtų pertvarkyti pagal seanso kontekstą. Šis metodas suderina skaičiavimo efektyvumą su suasmeninimo kokybe ir tapo standartine architektūra tokiose įmonėse kaip „LinkedIn“ ir „YouTube“.
Realiojo laiko rekomendacijos visada tiksliau lenkia paketines rekomendacijas.
Tikslumas priklauso nuo naudojimo atvejo. Paketinės sistemos, apmokytos naudojant išsamius istorinius duomenis, dažnai pateikia tinkamesnius pasiūlymus dėl ilgalaikių pageidavimų, o realaus laiko sistemos puikiai fiksuoja tiesioginius ketinimus. Daugelis lyginamųjų tyrimų rodo, kad hibridinės sistemos pranoksta bet kurį metodą atskirai.
Paketinės rekomendacijos yra pasenusios ir jas keičia realaus laiko sistemos.
Paketinis apdorojimas išlieka daugelio rekomendacijų rinkinių pagrindu. Net įmonės, garsėjančios suasmeninimu realiuoju laiku, naudoja paketinius darbus modelių mokymui, kandidatų generavimui ir analizei. Šie du metodai vienas kitą papildo, o ne konkuruoja.
Realusis laikas reiškia, kad modelis persikvalifikuoja po kiekvieno vartotojo veiksmo.
Dauguma realaus laiko sistemų nepermoko modelių po kiekvieno įvykio. Vietoj to, jos taiko iš anksto apmokytus modelius gaunamiems signalams ir palaipsniui atnaujina funkcijų saugyklas arba įterpimus. Visiškas permokymas vis tiek vyksta neprisijungus pagal tvarkaraštį.
Jums reikia pasirinkti vieną metodą visai platformai.
Šiuolaikinės architektūros įprastai derina abu. Įprastas modelis naudoja paketinius darbus kandidatų grupėms generuoti ir realaus laiko sistemas jiems reitinguoti ir suasmeninti. Pasirinkti vieną iš jų yra reta, išskyrus labai specializuotus produktus.
Rekomendacijos realiuoju laiku yra per brangios mažoms įmonėms.
Debesijos paslaugos, tokios kaip „Amazon Personalize“, „Google Vertex AI“ ir valdomi „Kafka“ pasiūlymai, gerokai sumažino šią kliūtį. Mažos komandos gali diegti realaus laiko funkcijas nekurdamos srautinio perdavimo infrastruktūros nuo nulio.
Rinkitės realiuoju laiku teikiamas rekomendacijas, kai jūsų produktas priklauso nuo reakcijos į elgseną sesijos metu, pvz., pirkinių krepšelius, vaizdo įrašų srautus ar dinaminius skelbimus. Rinkitės neprisijungus teikiamas paketines rekomendacijas, kai jums reikia išsamios istorinių duomenų analizės, skirtos tokiems atvejams kaip savaitės santraukos, el. pašto kampanijos ar iš anksto apskaičiuoti pagrindiniai puslapiai. Praktiškai stipriausios sistemos derina abu, naudodamos paketines rekomendacijas sunkiems darbams atlikti, o realiuoju laiku – galutiniam darbui atlikti.
„DeepSeek V4“ yra kylantis atvirojo svorio didelių kalbų modelis, sukurtas Kinijos dirbtinio intelekto laboratorijoje, o GPT-4 klasės modeliai nurodo „OpenAI“ flagmanines uždarojo kodo sistemas. Šiame palyginime nagrinėjama jų architektūra, galimybės, kainos, prieinamumas ir našumas realiame pasaulyje, siekiant padėti kūrėjams ir įmonėms išmintingai pasirinkti.
„Google“ paieška yra plataus masto žiniatinklio indeksavimo variklis, kurį dauguma žmonių naudoja kasdien, o „Knowledge Graph Search“ yra „Google“ struktūrizuotų objektų duomenų bazė, kurioje pateikiami tiesioginiai atsakymai ir informacijos skydeliai. Supratimas, kuo jie skiriasi, padeda paaiškinti, kodėl kai kurios užklausos pateikia išsamius faktus, o kitos – tradicines mėlynas nuorodas.
„Google“ paieškos algoritmas reitinguoja milijardus tinklalapių, naudodamas mašininį mokymąsi ir šimtus signalų, o supaprastinti klasių modeliai perteikia dirbtinio intelekto koncepcijas į lengvai mokomas, prieinamas sistemas. Viena sistema veikia planetos mastu gamyboje; kita tarnauja kaip pedagoginis tiltas mokiniams, mokantis, kaip iš tikrųjų veikia dirbtinis intelektas.
„Vienas su vienu“ atitikimo metodas kiekvienam pagrindiniam objektui priskiria vieną numatomą langelį, o „daugelis su vienu“ atitikimo metodas leidžia kelias prognozes suderinti su vienu taikiniu. Abi strategijos formuoja tai, kaip šiuolaikiniai detektoriai, tokie kaip DETR ir „Faster R-CNN“, mokosi lokalizuoti objektus, kiekvienas iš jų turi skirtingus kompromisus tikslumo, mokymo stabilumo ir pasikartojančių aptikimų tvarkymo srityse.
A/B testavimas modeliuose nukreipia srautą tarp konkuruojančių modelio versijų, kad būtų galima įvertinti realų našumą, o diegiant vieną modelį visiems vartotojams pateikiamas vienas modelis. Komandos renkasi iš jų pagal rizikos toleranciją, srauto kiekį ir statistinio patvirtinimo poreikį prieš visišką diegimą.
