Konparazio honek AI ereduak gidatzeko sortzen ari den artearen eta arkitektura tekniko sendoak eraikitzeko diziplina tradizionalaren arteko aldea apurtzen du. Ingeniaritza azkarra gizakien eta hizkuntza-eredu handien arteko interfazea optimizatzean zentratzen den bitartean, sistemaren diseinuak azpiko azpiegitura eskalagarria, segurua eta eraginkorra dela ziurtatzen du.
Nabarmendunak
Azkarreko ingeniaritzak AIren erantzunaren "IQ" maximizatzen du.
Sistemaren diseinuak aplikazioaren "muskulua" eta "eskeletoa" eskaintzen ditu.
Prompting askotan saiakera eta akatsak dira; Diseinua frogatutako proiektuetan oinarritzen da.
AI aplikazio modernoek bi diziplinen arteko sinergia sakona eskatzen dute.
Zer da Ingeniaritza azkarra?
Sarrera zehatzak sortzeko praktika, AI ereduetatik kalitate handiko, zehatzak edo sortzaileak lortzeko.
Eredu linguistikoetan eta enkoadraketa logikoetan oinarritzen da.
Tiro gutxiko bultzada eta pentsamendu-katearen arrazoiketa bezalako teknikak biltzen ditu.
Giza asmoaren eta makinaren irteera probabilistikoaren arteko zubi gisa jokatzen du.
Eredu espezifikoen portaera eta aurreiritziak sakonki ulertzea eskatzen du.
Batez ere pila teknologikoaren "goialdean" zentratzen da (interfazea).
Zer da Sistemaren diseinua?
Software aplikazio konplexu baten arkitektura, osagaiak eta datu-fluxua definitzeko prozesua.
Eskalagarritasuna eta erabilgarritasuna bezalako eskakizun ez-funtzionaletan zentratzen da.
SQL vs. NoSQL edo Monolith vs. Microservices artean aukeratzea dakar.
Datuen koherentzia, karga orekaren eta latentziaren optimizazioa jorratzen ditu.
Aplikazioak errealitate fisikoan oinarritzen ditu (zerbitzariak, sareak, biltegiratzea).
Batez ere pila teknologikoaren "beheko" eta "erdialdean" zentratzen da.
Konparazio Taula
Ezaugarria
Ingeniaritza azkarra
Sistemaren diseinua
Helburu nagusia
Ereduaren irteerako zehaztasuna
Egiturazko osotasuna eta errendimendua
Oinarrizko trebetasunen multzoa
Hizkuntzalaritza, Logika, Psikologia
Arkitektura, Sareak, Datu-baseak
Interakzio-maila
Gizakitik eredura
Osagaitik osagaira
Feedback-aren begizta
Berehalakoa (ereduaren erantzunak)
Atzerapena (karga probak, monitorizazioa)
Determinismoa
Probabilistikoa (emaitza desberdinak)
Determinista (logika aurreikusgarria)
Mantentze-lanak
Gonbita iteratiboa fintzea
Refactoring eta azpiegituren eskalatzea
Xehetasunak alderatzea
Sarreraren izaera
Ingeniaritza azkarra komunikazioaren artea da, funtsean; "Hitz magiko" egokiak aurkitzen saiatzen ari zara kutxa beltzaren eredu bat jokatzeko. Sistemaren diseinua, ordea, plangintza zorrotza da. Sistemaren diseinuan, sarrera bakoitzak ibilbide aurreikusgarria du karga-orekatzaileen, cacheen eta datu-baseen bidez, eta galdera baten bidea milaka milioi parametro neuronalen barruan ezkutatzen da.
Aurreikusgarritasuna eta kontrola
Sistema diseinatzaile batek % 100eko aurreikusgarritasuna lortzen saiatzen da: erabiltzaile batek botoi batean klik egiten badu, datu-basea kodetutako moduan eguneratu behar da. Ingeniariek ehunekoen munduan lan egiten dute. Prompt onenak ere denboraren% 2 huts egin dezake LLMen sormen-izaera dela eta, berezko ziurgabetasun hori kudeatzeko 'evals' eta babes-barandak eskatzen dituena.
Eskalatzea eta errendimendua
Ingeniari bat eskalatzen denean, "token mugak" aztertzen ditu eta testuinguru gehiago leiho batean nola egokitu modeloaren arreta galdu gabe. Sistema diseinatzaile batek eskalatzen duenean, "eskalatze horizontala" aztertzen ari dira, zerbitzari-nodo gehiago gehituz aldi berean milioika aldi berean eskaera kudeatzeko, plataforma osoa trafikoaren pisuaren pean kraskatu gabe.
Eboluzioa eta bizitza luzea
Sistemen diseinuaren printzipioak nahiko egonkorrak dira; Gaur egungo datuen erreplikazioa kudeatzeko modua ez da funtsean aldatu hamarkada batean. Ingeniaritza azkarra tximista abiaduran mugitzen da. GPT-4-rako primeran funtzionatu zuen gonbidapena zaharkituta edo eraginkorragoa izan daiteke modelo bertsio berri bat kaleratzen denean, etengabeko birkalibrazioa eskatzen duena.
Abantailak eta Erabiltzailearen interfazea
Ingeniaritza azkarra
Abantailak
+Sartzeko oztopo baxua
+Ia berehalako emaitzak
+Malgua eta sortzailea
+Ez da koderik behar
Erabiltzailearen interfazea
−Irteera inkoherenteak
−Ereduaren emaitza espezifikoak
−Araztea zaila da
−Token kostu altuak
Sistemaren diseinua
Abantailak
+Oso aurreikusgarria
+Eskalan eraikia
+Eredu estandarizatuak
+Errazagoa da segurtatzea
Erabiltzailearen interfazea
−Masterizatzeko konplexua
−Inplementazio motela
−Aurretiazko ahalegin handia
−Azpiegitura garestiak
Ohiko uste okerrak
Mitologia
Ingeniaritza azkarra ordenagailu batekin "hitz egitea" besterik ez da.
Errealitatea
Ingeniaritza profesionalak logika egituratua, injekzio aldakorra eta proba sistematikoak (ebaluazioak) barne hartzen ditu, ereduak formatu eta segurtasun arau zorrotzak jarraitzen dituela ziurtatzeko.
Mitologia
Sistemaren diseinu onak esan nahi du aplikazioa ez dela inoiz kraskatuko.
Errealitatea
Sistemaren diseinua "porrot dotorea" da. Ondo diseinatutako sistema batek gauzak apurtuko direla suposatzen du, lineaz kanpo doan datu-base bat bezala, eta erredundantziak sartzen ditu aplikazioa martxan mantentzeko.
Mitologia
Ingeniariek software ingeniariak ordezkatuko dituzte.
Errealitatea
Gonbidapenek kodea sor dezaketen arren, sistemen diseinatzaileak behar dituzu kode hori arkitektura funtzionante, seguru eta eskalagarri batean antolatzeko, datuak isurtzen ez dituena edo exekutatzea dirutza kostatzen ez dena.
Mitologia
Amazon bezalako enpresa handientzako diseinua besterik ez duzu behar.
Errealitatea
Startup txiki batek ere oinarrizko sistemaren diseinua behar du erabiltzaileen datuak behar bezala gordetzen direla ziurtatzeko eta bere aplikazioa ez dela 100 pertsonak aldi berean erabiltzen duten bezain laster nahaspila motel eta akats bihurtuko.
Sarritan Egindako Galderak
Zein da zailagoa ikasteko?
Sistemen diseinuak, oro har, ikaskuntza-kurba askoz ere gogorragoa du, hardwarea, sareak eta software eredu konplexuak sakonki ulertzea eskatzen duelako. Ingeniaritza azkarra errazagoa da hasteko, hizkuntza naturala erabiltzen duelako, baina ekoizpenerako prest dagoen maila profesional batera menderatzeak zorroztasun analitiko eta linguistiko oso zehatz bat eskatzen du.
Ingeniaritza gaizki diseinatutako sistema bat konpondu dezake?
Ez. Gonbida bikain batek ezin du geldoegia den zerbitzari bat edo segurtasunik gabeko datu-base bat konpondu. Zure sistemaren diseinua ahula bada, zure AI aplikazioa ez da fidagarria izango, zure aginduak zein adimentsuak diren kontuan hartu gabe. Sistemaren diseinua iturgintza gisa pentsa dezakezu eta ingeniaritza azkarra bertatik igarotzen den uraren kalitatea gisa.
Zer da "pentsamendu-katea" bultzadasunean?
Pentsamendu-katea (CoT) teknika bat da, non AIri "pausoz pauso pentsatzeko" eskatzen diozu azken erantzuna eman aurretik. Horrek eredua sekuentzia logiko batean zehar mugitzera behartzen du, eta horrek nabarmen hobetzen du matematika edo arrazoiketa zeregin konplexuetan bere errendimendua berehala erantzun zuzena eskatzearekin alderatuta.
Zergatik da "latentzia" arazo garrantzitsua sistemen diseinuan?
Latentzia erabiltzaile baten eskaera zerbitzarira eta itzulera bidaiatzeko behar den denbora da. Sistemaren diseinuan, milisegundo bakoitza balio du, aplikazio motelek erabiltzaileak frustratzen dituztelako. Diseinatzaileek 'caching' (maiz datuak gertu gordetzea) eta 'CDNs' bezalako trikimailuak erabiltzen dituzte atzerapen hori ahalik eta gehien murrizteko.
Ingeniaritza azkarra egiteko programatzailea izan behar al dut?
Ez da nahitaezkoa, baina izugarri laguntzen du. "Prompt ingeniari" asko APIak erabiliz kodean nola integratu ulertzen duten garatzaileak dira. Hala ere, idazleak eta logika-pentsamendua duten pertsonak bikainak izan daitezke Python-en lerro bakar bat idazten jakin gabe.
Zer da "karga orekatzea" sistemaren diseinuan?
Imajinatu janari denda okupatu bat kutxazain bakarrarekin; Lerro bat azkar sortzen da. Karga orekatzailea jendetza ikusten duen eta beste bost errei irekitzen dituen kudeatzaile bat bezalakoa da, bezeroak gutxien lanpetuta dagoen kutxazainera zuzenduz. Teknologian, Interneteko trafikoa zerbitzari anitzetan banatzen du, bakar bat ere ez da gainezka.
Ingeniaritza azkarra aldi baterako joera bat besterik ez da?
Izenburu espezifikoa 'Prompt Engineer' eboluzionatu daiteke, baina 'AI instrukzioa' oinarrizko trebetasuna geratzeko etorri da. AI ereduak gure tresnetan integratzen diren heinean, haiekin zehatz-mehatz komunikatzen jakitea Google-n modu eraginkorrean bilatzen jakitea bezain funtsezko trebetasun bihurtuko da.
Zer dira "mikrozerbitzuak"?
Mikrozerbitzuak sistema diseinuaren ikuspegi bat da, non aplikazio erraldoi bat zati txiki eta independenteetan apurtzen duzun. Adibidez, zerbitzu batek erabiltzaileen saio-hasierak kudeatzen ditu, beste batek ordainketak kudeatzen ditu eta hirugarren batek AI aginduak kudeatzen ditu. Horrela, ordainketa zerbitzua eten bada, gainerako aplikazioak funtzionatzen jarrai dezake.
Nola probatu azkar baten arrakasta?
"Evals" (ebaluazioak) erabiltzen dituzu. Horrek esan nahi du adimen artifizialaren bidez ehunka aldiz exekutatu eta emaitzak erantzun zuzenen "urrezko multzo" batekin egiaztatzea. Honek aukera ematen dizu matematikoki frogatzeko ea berehalako aldaketa batek AI adimentsuagoa edo desberdinagoa bihurtu duen.
Zein da karrera gisa hobeto?
Gaur egun, senior System Designers (Software Architects) normalean soldata altuagoak eskatzen dituzte, beren esperientzia hamarkadetan zehar negozioaren egonkortasunerako funtsezkoa dela frogatu delako. Hala ere, ikaskuntza automatikoan esperientzia duten Prompt Engineers adituek gaur egun soldata oso altuak ikusten dituzte trebetasun multzoa oso arraroa eta eskaera handia duelako.
Epaia
Aukeratu ingeniaritza azkarra adimen espezifikoa edo sormenezko edukia AI eredu batetik atera behar duzunean. Inbertitu sistemaren diseinuan AI hori ostatatuko duen benetako plataforma eraikitzen ari zarenean, mundu errealeko trafikoa eta datuak modu seguruan kudeatzeko gai dela ziurtatzeko.