LLM-ji, ki uporabljajo orodja, razširjajo samostojne jezikovne modele tako, da jih povezujejo z zunanjimi API-ji, kalkulatorji in bazami podatkov, kar omogoča pridobivanje informacij in izvajanje nalog v realnem času. Samostojni LLM-ji se zanašajo izključno na svoje naučene parametre, zaradi česar so samostojni, vendar omejeni na znanje iz učnih podatkov.
Jezikovni modeli, izboljšani z dostopom do zunanjih orodij za podatke in izvajanje nalog v realnem času.
Samostojni jezikovni modeli, ki generirajo odgovore zgolj iz svojih naučenih parametrov.
| Funkcija | LLM z uporabo orodij | Samostojni LLM-ji |
|---|---|---|
| Vir znanja | Podatki o usposabljanju + zunanja orodja in API-ji | Samo podatki o usposabljanju |
| Informacije v realnem času | Da, prek spletnega iskanja in API-jev v živo | Ne, omejeno na omejitev usposabljanja |
| Stopnja halucinacij | Nižje za dejanska vprašanja s preverjanjem | Višje za novejše ali nišne teme |
| Kompleksnost uvajanja | Višje, zahteva orkestracijo API-ja | Spodnje sklepanje o enem modelu |
| Operativni stroški | Višje zaradi večkratnih servisnih klicev | Nižji stroški enojnega sklepanja |
| Zakasnitev | Višje, odvisno od odzivnega časa orodja | Nižja, neposredna generacija |
| Vsestranskost nalog | Lahko izvaja dejanja in pridobiva podatke v živo | Omejeno na ustvarjanje besedila in sklepanje |
| Zmogljivost brez povezave | Omejeno brez predpomnjenih odgovorov orodja | Popolnoma funkcionalno brez povezave |
| Primeri sistemov | GPT-4 z orodji, Claude z MCP, agenti LangChain | GPT-3.5, Llama 3, Mistral, baza PaLM |
Samostojni LLM-ji črpajo izključno iz vzorcev, kodiranih med učenjem, kar pomeni, da se njihovo razumevanje sveta konča na določenem datumu. LLM-ji, ki uporabljajo orodja, to omejitev premagajo s poizvedbami po iskalnikih, bazah znanja in specializiranih bazah podatkov na zahtevo. Ko vprašate o današnjem vremenu ali najnovejši ceni delnic, bo samostojni model bodisi uganil bodisi priznal nevednost, medtem ko lahko model, ki ga podpirajo orodja, pridobi natančne, ažurne podatke. Ta temeljna razlika oblikuje, katere primere uporabe posamezna arhitektura dobro obravnava.
Sistemi, ki uporabljajo orodja, običajno ustvarijo zanesljivejše dejanske rezultate, ker lahko pred odgovorom navzkrižno primerjajo trditve z avtoritativnimi viri. Samostojni model lahko samozavestno navede zastarele statistične podatke ali si izmisli verjetne citate. Vendar pa tudi LLM-ji, ki uporabljajo orodja, niso imuni na napake; lahko napačno interpretirajo rezultate iskanja ali prikličejo napačno končno točko API-ja. Ključna prednost je preverljivost: modeli, ki uporabljajo orodja, lahko prikažejo svoje delo z navajanjem pridobljenih virov, medtem ko samostojni modeli ne ponujajo takšne preglednosti.
Samostojni LLM-ji so boljši zaradi surove hitrosti in preprostosti, saj en sam prehod naprej ustvari odgovor brez kakršnih koli omrežnih klicev. Arhitekture, ki uporabljajo orodja, uvajajo zakasnitev pri vsakem klicu zunanje storitve in zahtevajo skrbno orkestracijo za elegantno obravnavo napak. Stroški se hitro pomnožijo, ko agent izvede več klicev orodij na poizvedbo, zlasti pri plačljivih API-jih. Za aplikacije z veliko količino podatkov, občutljive na zakasnitev, kot so klepetalni roboti, ki služijo milijonom uporabnikov, samostojni modeli pogosto ostajajo pragmatična izbira kljub svojim omejitvam znanja.
Kreativno pisanje, brainstorming, ustvarjanje kode iz obstoječih vzorcev in splošni pogovori – vse to odlično deluje s samostojnimi LLM-ji. Sistemi, ki uporabljajo orodja, blestijo v agentskih delovnih procesih: raziskovalni asistenti, ki sestavljajo poročila, boti za pomoč strankam, ki dostopajo do podatkovnih baz računov, in avtomatizacijski cevovodi, ki komunicirajo s programsko opremo. Izbira je v resnici odvisna od tega, ali mora vaša aplikacija delovati v svetu ali o njem zgolj razpravljati. Številni produkcijski sistemi zdaj združujejo oba pristopa, pri čemer za rutinske poizvedbe uporabljajo samostojne modele, za kompleksne naloge pa se stopnjujejo do agentov, ki uporabljajo orodja.
Samostojni LLM-ji predstavljajo omejeno površino za napad, saj ne izvajajo zunanje kode ali dostopajo do občutljivih sistemov. LLM-ji, ki uporabljajo orodja, to površino znatno razširijo, saj bi lahko ogrožene integracije orodij prinesle izkoriščanje podatkov ali sprožile neželena dejanja. Podjetja, ki uvajajo agentne sisteme, morajo za vsak klic orodja uvesti stroge omejitve dovoljenj, preverjanje vnosa in beleženje revizije. Ta dodatna kompleksnost je upravičena, kadar povečanje produktivnosti odtehta varnostne stroške, vendar je za regulirane panoge nepomemben dejavnik.
LLM-ji, ki uporabljajo orodja, nikoli ne halucinirajo, ker iščejo po spletu.
Tudi s spletnim dostopom lahko LLM-ji, ki uporabljajo orodja, napačno interpretirajo pridobljene informacije, navajajo nezanesljive vire ali si izmišljujejo podrobnosti, ko so rezultati iskanja dvoumni. Orodja sicer zmanjšajo, vendar ne odpravijo halucinacij, zlasti pri poizvedbah, ki zahtevajo sintezo iz več virov.
Samostojni LLM-ji so popolnoma neuporabni za dejanska vprašanja.
Sodobni samostojni modeli, usposobljeni na kuriranih naborih podatkov, lahko natančno odgovorijo na številna dejanska vprašanja, zlasti o dobro uveljavljenih temah. Njihova slabost je predvsem pri nedavnih dogodkih, lastniških informacijah ali hitro razvijajočih se področjih, kjer učni podatki postanejo zastareli.
LLM-ji, ki uporabljajo orodja, vedno vedo, katero orodje poklicati za določeno nalogo.
Izbira orodja je sama po sebi naučeno vedenje in modeli lahko izberejo neprimerna orodja, posredujejo napačne argumente ali ne prepoznajo, kdaj je orodje potrebno. Učinkovita uporaba orodja zahteva skrbno in hitro inženirstvo in pogosto fino nastavitev primerov klicanja orodij.
dodajanjem orodij v LLM ta samodejno postane agent umetne inteligence.
Pravi agenti kažejo avtonomno načrtovanje, večstopenjsko sklepanje in ciljno usmerjeno vedenje. Samo dodelitev dostopa do API-ja modelu še ne pomeni, da je agentičen; sistem potrebuje logiko orkestracije za razčlenitev nalog, obravnavo napak in iteracijo proti ciljem.
Samostojni LLM-ji so zdaj, ko obstajajo modeli, ki uporabljajo orodja, zastareli.
Samostojni LLM-ji ostajajo temelj sklada umetne inteligence. Večina sistemov, ki uporabljajo orodja, je zgrajenih na samostojnih modelih, številne produkcijske uvedbe pa dajejo prednost preprostosti pred zmogljivostjo. Ta dva pristopa se dopolnjujeta in ne konkurirata.
Izberite LLM-je, ki uporabljajo orodja, kadar vaša aplikacija zahteva trenutne informacije, mora komunicirati z zunanjimi sistemi ali izvajati dejanja, ki presegajo ustvarjanje besedila. Samostojni LLM-ji ostajajo bolj primerni za uvajanje, občutljivo na zakasnitev, scenarije brez povezave in naloge, kjer je ustvarjalno razmišljanje pomembnejše od dejanske natančnosti. Številne organizacije ugotavljajo, da je optimalna pot hibridni sistem, ki usmerja poizvedbe k tistemu pristopu, ki najbolje ustreza zahtevi.
A/B testiranje pri izdajah vsebin vključuje uvajanje različic za različne segmente občinstva in merjenje uspešnosti, medtem ko enkratne izdaje vsebin hkrati vsem ponudijo eno različico. Vsak pristop ustreza različnim ciljem, pri čemer A/B testiranje daje prednost optimizaciji, ki temelji na podatkih, enkratne izdaje pa dajejo prednost hitrosti in preprostosti.
A/B testiranje pri streženju modelov usmerja promet med konkurenčnimi različicami modelov za merjenje učinkovitosti v resničnem svetu, medtem ko uvedba enega modela vsem uporabnikom dostavi en model. Ekipe izbirajo med njimi glede na toleranco tveganja, količino prometa in potrebo po statistični potrditvi pred popolno uvedbo.
Agenti umetne inteligence so avtonomni, ciljno usmerjeni sistemi, ki lahko načrtujejo, sklepajo in izvajajo naloge v različnih orodjih, medtem ko tradicionalne spletne aplikacije sledijo fiksnim delovnim procesom, ki jih vodijo uporabniki. Primerjava poudarja premik od statičnih vmesnikov k prilagodljivim, kontekstualno ozaveščenim sistemom, ki lahko proaktivno pomagajo uporabnikom, avtomatizirajo odločitve in dinamično komunicirajo med več storitvami.
Ta arhitekturna primerjava primerja deterministično inženirstvo agentov, ki temeljijo na pravilih, s prilagodljivo naravo učnih agentov, ki temeljijo na podatkih, ter ocenjuje njihovo uporabnost v resničnem svetu, omejitve skaliranja in delovanje v negotovosti.
Agentni sistemi umetne inteligence lahko načrtujejo, izvajajo večstopenjske naloge in avtonomno komunicirajo z zunanjimi orodji, medtem ko tradicionalni klepetalni roboti LLM primarno ustvarjajo besedilne odgovore v enem samem pogovornem koraku. Ključna razlika je v agenciji: agentni sistemi delujejo na podlagi ciljev, medtem ko klepetalni roboti reagirajo na pozive.
