predpomnjenjeredispredpomnjenoporazdeljeni sistemiuspešnostmikrostoritveinfrastruktura v oblaku
Lokalno predpomnjenje v primerjavi s centraliziranimi gručami predpomnilnika
Lokalno predpomnjenje shranjuje podatke neposredno na aplikacijskih strežnikih za dostop z izjemno nizko zakasnitvijo, medtem ko centralizirane gruče predpomnilnika uporabljajo namensko, skupno infrastrukturo, do katere lahko hkrati dostopa več storitev za dosledno upravljanje stanja.
Poudarki
Lokalno predpomnjenje v celoti odpravi omrežno zakasnitev, vendar ustvarja izzive skladnosti, ki jih centralizirani sistemi rešujejo izvorno
Redis in Memcached poganjata večino centraliziranih uvedb v produkciji in ponujata funkcije, ki daleč presegajo preprosto shranjevanje ključev in vrednosti.
Hibridne arhitekture s kratkimi lokalnimi predpomnilniki TTL, ki jih podpirajo centralizirane gruče, so vse pogostejše v sistemih, občutljivih na zakasnitev.
Zahteve glede operativne zrelosti se drastično razlikujejo; lokalno predpomnjenje je varljivo preprosto, medtem ko porazdeljene gruče predpomnilnika zahtevajo resnično strokovno znanje.
Kaj je Lokalno predpomnjenje?
Predpomni podatke na istem računalniku kot aplikacijo, s čimer odpravi omrežne stroške za največjo hitrost.
Podatki se nahajajo v istem procesu ali računalniku kot aplikacija, običajno z uporabo struktur v pomnilniku, kot so zgoščevalne mape ali vgrajene knjižnice.
Za zadetke v predpomnilniku ni potrebnih omrežnih povratnih poti, kar ima za posledico odzivne čase, krajše od milisekunde.
Razveljavitev predpomnilnika postane zapletena, ko več primerkov aplikacij hrani zastarele kopije istih podatkov.
Priljubljene implementacije vključujejo Caffeine za Javo, cachetools za Python in izvorne objekte Map v Node.js.
Omejitve pomnilnika posameznih strežnikov omejujejo skupno velikost predpomnilniškega nabora podatkov, pogosto na nekaj gigabajtov.
Kaj je Centralizirani predpomnilniški grozdi?
Namenski strežniki za predpomnjenje, ki so v skupni rabi med več aplikacijami, zagotavljajo dosleden in prilagodljiv dostop do podatkov.
Redis in Memcached prevladujeta v produkcijskih uvajanjih, pri čemer Redis podpira persistence, pub/sub in kompleksne podatkovne strukture.
Omrežna zakasnitev običajno doda 0,5–2 milisekundi na operacijo, tudi znotraj istega območja razpoložljivosti.
Horizontalno skaliranje z deljenjem omogoča, da se velikosti predpomnilnika povečajo v terabajte v porazdeljenih gručah vozlišč.
En sam vir resnice odpravlja nedoslednosti zastarelih podatkov, ki pestijo lokalne predpomnilnike z več primerki
Operativna kompleksnost vključuje upravljanje preklopa v primeru okvare, replikacije, fragmentacije pomnilnika in ponovnega uravnoteženja gruč.
Primerjalna tabela
Funkcija
Lokalno predpomnjenje
Centralizirani predpomnilniški grozdi
Zakasnitev
Pod milisekundo (brez omrežnega preskoka)
Običajno 0,5–2 ms na operacijo
Doslednost
Morebitno; verjetno zastareli podatki v vseh instancah
Močna doslednost s pravilno konfiguracijo
Prilagodljivost
Omejeno s pomnilnikom enega strežnika
Horizontalno skaliranje prek združevanja v skupine
Operativna kompleksnost
Nizka; minimalna infrastruktura
Visoko; zahteva namensko strokovno znanje
Stroški zadetka v predpomnilniku
Samo cikli procesorja
CPU + omrežje + režijski stroški serializacije
Vpliv neuspeha
Izguba predpomnilnika, povezana z napako primerka aplikacije
Neodvisna domena odpovedi; lahko se elegantno degradira
Podpora za podatkovne strukture
Osnovni ključ-vrednost, omejen z jezikom
Bogati tipi (Redis: seznami, nabori, tokovi itd.)
Deljenje med storitvami
Nemogoče; podatki ujeti lokalno
Izvorno; zasnovano za dostop več uporabnikov
Podrobna primerjava
Značilnosti delovanja
Lokalno predpomnjenje absolutno prevladuje, ko je pomembna surova hitrost. Ker se vse dogaja med procesom, gre za čas dostopa od nanosekunde do mikrosekunde, ki mu noben omrežni sistem ne more konkurirati. Centralizirani grozdi plačujejo neizogiben davek zakasnitve za vsako operacijo, čeprav je ta davek za številne delovne obremenitve pogosto zanemarljiv. Zanimivo je, da lahko centralizirani predpomnilniki včasih prekašajo slabo implementirane lokalne predpomnilnike pri visoki sočasnosti, saj učinkoviteje obravnavajo zaklepanje in upravljanje pomnilnika kot ad-hoc lokalne implementacije.
Doslednost in razveljavitev
Tukaj se izkažejo centralizirani grozdi. Ko vaš uporabnik posodobi svoj profil, se razveljavitev tega vnosa v Redisu takoj razširi na vse porabnike. Z lokalnimi predpomnilniki ste obtičali bodisi s sprejemanjem zastarelih podatkov za trajanja TTL, gradnjo kompleksnih sistemov za razveljavitev oddajanja bodisi z implementacijo vzorcev skorajšnjega predpomnilnika, ki delno izničijo namen. Številne ekipe podcenjujejo ta izziv in na koncu pride do subtilnih napak, ki vplivajo na produkcijo, kjer različni strežniki ponujajo različne različice resnice.
Operativni stroški in skupni stroški
Lokalno predpomnjenje se zdi brezplačno, dokler ni več tako. Izognete se stroškom infrastrukture, plačate pa za inženirski čas zaradi težav s skladnostjo predpomnilnika in za pomnilnik aplikacij, ki bi sicer lahko stregel zahteve. Centralizirani grozdi zahtevajo vnaprejšnjo naložbo v spremljanje, avtomatizacijo preklopa ob okvari in načrtovanje zmogljivosti. Redis grozd ali upravljane storitve, kot je AWS ElastiCache, prenesejo nekaj bremena, vendar uvedejo lastne cenovne modele, ki se prilagajajo prepustnosti in porabi pomnilnika.
Arhitekturni vzorci in primeri uporabe
Mikroservisi s strogimi zahtevami glede zakasnitve na poteh z veliko branja pogosto združujejo oba pristopa: majhen lokalni predpomnilnik za najbolj vroče podatke s kratkimi časi trajanja (TTL), ki ga podpira centralizirana gruča za širšo skupno rabo. Čisto lokalno predpomnjenje deluje odlično za konfiguracijske podatke, prevedene predloge ali izračunane agregate, ki ne potrebujejo skladnosti med instancami. Centralizirani gruči postanejo bistveni za omejevanje hitrosti, shrambe sej, lestvice najboljših in vse scenarije, kjer se mora več storitev strinjati o trenutnem stanju.
Načini odpovedi in odpornost
Izguba lokalnega predpomnilnika pomeni, da se en primerek aplikacije obnovi iz vira, običajno iz obvladljivega radija eksplozije. Centralizirane okvare gruče lahko ohromijo več storitev hkrati, če se ne obravnavajo obrambno. Pametne arhitekture izvajajo odklopnike in se vračajo k izvornim bazam podatkov, ko gruče predpomnilnika nimajo dovolj dela. Redis Sentinel in Redis Cluster zagotavljata samodejni preklop na rezervno delovanje, vendar scenariji z razcepljenimi možgani in okna izgube podatkov med napredovanji ostajajo operativni problemi, s katerimi se lokalni predpomnilniki preprosto ne srečujejo.
Prednosti in slabosti
Lokalno predpomnjenje
Prednosti
+Izjemno nizka latenca
+Ni infrastrukture za upravljanje
+Enostavna izvedba na začetku
+Brez odvisnosti od omrežja
+Ničelni stroški serializacije
Vse
−Nočne more o doslednosti
−Pritisk pomnilnika na strežnike aplikacij
−Brez deljenja med instancami
−Ogrevanje predpomnilnika na uvedbo
−Težje spremljati in odpravljati napake
Centralizirani predpomnilniški grozdi
Prednosti
+Možnosti močne konsistence
+Deljeno med storitvami
+Horizontalno skalabilno
+Bogate podatkovne strukture (Redis)
+Neodvisna domena odpovedi
Vse
−Previsoka zakasnitev omrežja
−Operativna kompleksnost
−Dodatni stroški infrastrukture
−Režija serializacije
−Potencialna edina sporna točka
Pogoste zablode
Mit
Centralizirani predpomnilniki so vedno počasnejši in se jim je treba izogibati pri aplikacijah, ki so kritične za zmogljivost.
Resničnost
Medtem ko lokalno predpomnjenje izboljšuje surovo zakasnitev, dobro optimizirani centralizirani predpomnilniki pogosto obdelajo milijone operacij na sekundo z zanemarljivim vplivom. Obremenitev omrežja je pogosto majhna v primerjavi z obdelavo na ravni aplikacij, prednosti doslednosti pa pogosto odtehtajo mejne stroške zakasnitve.
Mit
Lokalno predpomnjenje je preprostejše, ker vam ni treba zagnati infrastrukture separate6.
Resničnost
Infrastruktura je sprva morda enostavnejša, vendar razveljavitev predpomnilnika v porazdeljenih lokalnih predpomnilnikih povzroča precejšnjo kompleksnost. Številne ekipe na koncu zgradijo ad-hoc porazdeljene sisteme za sinhronizacijo lokalnih predpomnilnikov, s čimer učinkovito in slabo preoblikujejo centralizirano predpomnjenje.
Mit
Redis je uporaben le kot centraliziran predpomnilnik in ne more dopolnjevati lokalnega predpomnjenja.
Resničnost
Redis pogosto služi kot podporno shrambo v večplastnih strategijah predpomnjenja. Aplikacije uporabljajo lokalne predpomnilnike za najbolj vroče podatke z agresivnimi TTL-ji, medtem ko Redis ponuja širši delovni nabor, ki združuje najboljše iz obeh pristopov.
Mit
Težave s koherenco predpomnilnika pri lokalnem predpomnjenju so redke in vplivajo le na obsežne sisteme.
Resničnost
Vsak sistem z več primerki aplikacij lahko naleti na težave z zastarelimi podatki. Tudi preprosta namestitev z dvema strežnikoma, ki streže uporabniške seje, lahko streže nasprotujoče si informacije, če lokalni predpomnilniki niso skrbno upravljani.
Mit
Centralizirane gruče predpomnilnika samodejno odpravijo vse pomisleke glede skladnosti.
Resničnost
Čeprav centralizirani sistemi zagotavljajo en sam vir resnice, lahko napake v aplikacijah, tekmovalni pogoji v odjemalski kodi in napačno konfigurirani TTL-ji še vedno povzročajo težave z doslednostjo. Zmanjšujejo, vendar ne odpravljajo potrebe po skrbnem načrtovanju razveljavitve predpomnilnika.
Pogosto zastavljena vprašanja
Kaj je lokalno predpomnjenje in kako deluje?
Lokalno predpomnjenje shranjuje pogosto dostopane podatke neposredno v pomnilniškem prostoru aplikacije ali na istem fizičnem strežniku. Ko vaša aplikacija potrebuje podatke, najprej preveri to shrambo v pomnilniku, preden se obrne na počasnejše zaledne sisteme, kot so baze podatkov. Ker vse ostane v procesu, ni omrežnih zakasnitev, zaradi česar je pridobivanje neverjetno hitro. Kompromis je v tem, da vsak primerek aplikacije vzdržuje svoj izoliran predpomnilnik, kar lahko povzroči težave z doslednostjo.
Kdaj naj namesto lokalnega predpomnjenja uporabim centralizirano gručo predpomnilnika?
Posezite po centraliziranih gručah, kadar mora več storitev ali primerkov aplikacij deliti predpomnjeno stanje, kadar vaš nabor podatkov presega velikost pomnilnika enega strežnika ali kadar je doslednost v vašem porazdeljenem sistemu pomembnejša od absolutne zakasnitve. Pogosti scenariji vključujejo shrambe uporabniških sej, števce, ki omejujejo hitrost, lestvice najboljših v realnem času in skupno konfiguracijo, ki mora ostati sinhronizirana.
Je Redis edina možnost za centralizirano predpomnjenje?
Redis prevladuje na tem področju z dobrim razlogom, saj ponuja persistence, pub/sub, tokove podatkov in bogate podatkovne strukture, ki presegajo preprosto shranjevanje ključ-vrednost. Memcached ostaja priljubljen za čisto predpomnjenje z minimalnimi stroški. Pojavile so se novejše alternative, kot sta KeyDB (razcep Redisa z večnitnim delovanjem) in Dragonfly, medtem ko med možnostmi, ki so izvorno v oblaku, so AWS ElastiCache, Azure Cache za Redis in Google Cloud Memorystore.
Ali lahko v isti aplikaciji kombiniram lokalno in centralizirano predpomnjenje?
Absolutno, in mnogi visokozmogljivi sistemi počnejo točno to. Tipičen vzorec pred gručo Redis postavi zelo majhen lokalni predpomnilnik z agresivnim TTL-jem, morda 1–5 sekund. To absorbira ponavljajoče se enake zahteve v milisekundah, hkrati pa omogoča relativno hitro širjenje neveljavnosti. Ključno je, da je lokalni TTL dovolj kratek, da zastareli podatki ne povzročajo težav, ki bi jih uporabnik opazil.
Kako obravnavam razveljavitev predpomnilnika z lokalnimi predpomnilniki v porazdeljenem sistemu?
To je resnično težko. Možnosti vključujejo nastavitev zelo kratkih časovnih obdobij (TTL) in sprejemanje začasne neaktivnosti, implementacijo mehanizmov oddajanja na ravni aplikacije za obveščanje vrstnikov o razveljavitvah ali uporabo vzorcev skorajšnjega predpomnilnika, kjer centraliziran kanal objave/podkanala koordinira razveljavitev. Vsak pristop doda kompleksnost, zato številne ekipe sčasoma preselijo vroče deljene podatke v centralizirane predpomnilnike.
Kateri so glavni operativni izzivi pri delovanju Redis Clusterja?
Gruča Redis zahteva skrbno načrtovanje postavitve fragmentov, konfiguracije replik za visoko razpoložljivost in obravnave ponovnega uravnoteženja med dogodki skaliranja. Fragmentacija pomnilnika lahko postopoma porabi več RAM-a, kot je pričakovano. Velike ključne vrednosti blokirajo enonitno zanko dogodkov, kar povzroča konice zakasnitve. Brez ustreznega spremljanja lahko dogodki preklopa ob okvari ostanejo neopaženi, dokler ne pride do kaskadnih napak.
Ali je lokalno predpomnjenje smiselno v kontejnerskih ali brezstrežniških okoljih?
Lokalno predpomnjenje deluje v vsebnikih, vendar zahteva skrben premislek o življenjskem ciklu. Vsebniki se pogosto znova zaženejo, brišejo kratkotrajne predpomnilnike, funkcije brez strežnika s hladnimi zagoni pa imajo manj koristi od lokalnega predpomnjenja med klici. Vendar pa lahko tudi kratkotrajen lokalni predpomnilnik znotraj ene same zahteve ali toplega primerka vsebnika dramatično zmanjša ponavljajoče se poizvedbe v zbirki podatkov. Pri funkcijah brez strežnika premislite, ali predpomnjenje v času inicializacije ali predpomnjenje na ravni zahteve ustreza vašim vzorcem dostopa.
Kako se odločim med Redisom in Memcachedom?
Izberite Memcached, ko potrebujete izjemno preprosto, visoko zmogljivo predpomnjenje z minimalnimi funkcijami, ki lahko prenese popolno izgubo podatkov ob ponovnem zagonu. Izberite Redis, ko potrebujete možnosti za ohranjanje podatkov, kompleksne podatkovne strukture, atomske operacije, sporočanje pub/sub ali obdelavo tokov. Vsestranskost Redisa običajno upravičuje nekoliko večjo porabo virov za večino sodobnih aplikacij.
Katere meritve naj spremljam glede delovanja predpomnilnika?
Za katero koli plast predpomnjenja sledite stopnji zadetkov, stopnji zgrešenih nalog, stopnji izključitev in percentilom zakasnitve. Lokalni predpomnilniki potrebujejo tudi spremljanje porabe pomnilnika, da se preprečijo uničenja zaradi pomanjkanja pomnilnika. Centralizirane gruče zahtevajo spremljanje stanja področja povezav, zakasnitev replikacije, komunikacijo vozlišč gruče in počasne dnevnike ukazov. Padajoča stopnja zadetkov pogosto signalizira spreminjajoče se vzorce dostopa ali nezadostno velikost predpomnilnika.
Ali obstajajo varnostni pomisleki, specifični za centralizirane gruče predpomnilnika?
Centralizirani predpomnilniki, ki se nahajajo na omrežno dostopni infrastrukturi, uvajajo površine za napade, ki se jim lokalni predpomnilniki izogibajo. Redis je bil v preteklosti dobavljen brez privzeto omogočenega preverjanja pristnosti, kar je vodilo do številnih izpostavljenih primerkov. Šifrirajte podatke med prenosom s TLS, omogočite preverjanje pristnosti, segmentirajte gručo predpomnilnika v omrežje in se izogibajte shranjevanju občutljivih podatkov v nešifrirani obliki. Lokalni predpomnilniki se soočajo z manj omrežnimi grožnjami, vendar lahko pride do uhajanja podatkov, če je ogrožen pomnilnik aplikacije.
Kakšna je primerjava cen v oblaku med izvajanjem lokalnih predpomnilnikov in upravljanimi centraliziranimi predpomnilniki?
Lokalno predpomnjenje uporablja pomnilnik, za katerega ste že plačali v svojih aplikacijskih strežnikih, zaradi česar so mejni stroški videti ničelni. V resnici trgujete s pomnilnikom aplikacije, ki bi lahko stregel zahteve. Upravljani centralizirani predpomnilniki, kot je ElastiCache, zaračunavajo na uro vozlišča in na gigabajt, kar postane pomembno pri velikem obsegu. Samoupravljajoči odprtokodni Redis na vaši lastni infrastrukturi preusmerja stroške na operativno delo in ne na stroške storitev.
Kaj se zgodi, ko centralizirana gruča predpomnilnika popolnoma odpove?
Brez ustreznih zaščitnih ukrepov lahko vaša aplikacija doživi naval množice, saj vsi primerki hkrati zadenejo vašo izvorno bazo podatkov. Implementirajte odklopnike, ki zaznajo nerazpoložljivost predpomnilnika in bodisi hitro odpovejo, bodisi strežejo zastarele podatke iz varnostne kopije bodisi se elegantno poslabšajo na zmanjšano funkcionalnost. Nekatere arhitekture uporabljajo lokalne predpomnilnike kot rezervne možnosti med izpadi centraliziranega predpomnilnika, vendar to ponovno povzroča pomisleke glede doslednosti.
Ocena
Za delovne obremenitve, ki so izjemno občutljive na zakasnitev in zahtevajo veliko branja, kjer je sprejemljiva rahla zastarelost in je pomembna preprostost, izberite lokalno predpomnjenje. Za centralizirane gruče predpomnilnika se odločite, kadar je potrebna doslednost med porazdeljenimi komponentami, skupnim stanjem ali velikostmi naborov podatkov, ki presegajo pomnilnik enega strežnika. Večina zrelih sistemov sčasoma uporablja oboje v večplastni arhitekturi.
