Pogovorni agenti v primerjavi z agenti, ki uporabljajo orodja
Pogovorni agenti se osredotočajo na naravni dialog in interakcije na podlagi besedila, medtem ko agenti, ki uporabljajo orodja, razširjajo zmogljivosti umetne inteligence s klicanjem zunanjih funkcij in API-jev. Oba predstavljata različna pristopa k avtonomnim sistemom umetne inteligence, pri čemer so pogovorni modeli odlični v komunikaciji, agenti, ki uporabljajo orodja, pa so specializirani za izvajanje nalog v resničnem svetu.
Poudarki
Pogovorni agenti dajejo prednost kakovosti dialoga, medtem ko agenti, ki uporabljajo orodja, dajejo prednost izvajanju nalog v resničnem svetu.
Agenti, ki uporabljajo orodja, sledijo zanki načrtovanje-ukrepanje-opazovanje, ki odgovore utemeljuje na zunanjih podatkih in ne le na modelnem pomnilniku.
Pogovorni agenti lahko prosto halucinirajo; agenti, ki uporabljajo orodja, lahko preverjajo in se samopopravljajo s pomočjo povratnih informacij o orodjih.
Sodobni proizvodni sistemi vse bolj združujejo oba pristopa, pri čemer uporabljajo pogovor kot sprednji del in orodja kot zadnji del.
Kaj je Pogovorni agenti?
Sistemi umetne inteligence, zasnovani predvsem za dialog v naravnem jeziku, odgovarjanje na vprašanja in vzdrževanje koherentnih pogovorov z uporabniki.
Pogovorni agenti so zgrajeni okoli velikih jezikovnih modelov, usposobljenih na ogromnih besedilnih korpusih, da ustvarijo odzive, podobne človeškim.
Zanašajo se na arhitekture, ki temeljijo na transformatorjih, isto tehnologijo, ki stoji za modeli, kot so GPT-4, Claude in Llama.
Večina pogovornih agentov deluje znotraj enega samega ali kratkega večstopenjskega kontekstnega okna brez trajnega pomnilnika.
Običajno ne komunicirajo z zunanjimi sistemi, razen če so izrecno dopolnjeni s funkcijami iskanja ali orodij.
Priljubljeni primeri vključujejo ChatGPT, klepetalni način Google Gemini in Anthropicov Claude v njegovi standardni pogovorni konfiguraciji.
Kaj je Agenti za uporabo orodij?
Sistemi umetne inteligence, ki razširjajo zmogljivosti jezikovnih modelov s klicanjem zunanjih funkcij, API-jev, baz podatkov in programskih orodij za opravljanje nalog iz resničnega sveta.
Agenti, ki uporabljajo orodja, sledijo zanki sklepanja, kjer načrtujejo, izberejo orodje, ga izvedejo in opazujejo rezultat, preden nadaljujejo.
Okviri, kot so LangChain, AutoGPT in ReAct, so popularizirali vzorec omogočanja strukturiranega dostopa do zunanjih orodij za LLM-je.
Izvajajo lahko dejanja, kot so iskanje po spletu, izvajanje kode, poizvedovanje po bazah podatkov, pošiljanje e-pošte in nadzor brskalnikov.
Članek ReAct iz leta 2022 je predstavil sinergijo sklepanja in delovanja, temeljni koncept za sodobne agente, ki uporabljajo orodja.
API za klicanje funkcij OpenAI, izdan leta 2023, je postal standardni mehanizem za povezovanje jezikovnih modelov z zunanjimi orodji.
Primerjalna tabela
Funkcija
Pogovorni agenti
Agenti za uporabo orodij
Primarna funkcija
Dialog v naravnem jeziku in posredovanje informacij
Izvajanje nalog prek zunanjih orodij in API-jev
Zunanja interakcija
Omejeno ali brez dopolnitve
Vgrajena sposobnost klicanja funkcij in storitev
Arhitektura
Jezikovni model, ki temelji na transformatorju
Jezikovni model in plast orkestracije orodij
Pristop sklepanja
Generiranje besedila z enim ali več prehodi
Zanka načrtovanja-ukrepanja-opazovanja z iterativnim sklepanjem
Tipični primeri uporabe
Podpora strankam, inštrukcije, brainstorming, vprašanja in odgovori
Avtomatizacija delovnih procesov, pridobivanje podatkov, izvajanje kode, raziskave
Spomin in kontekst
Zgodovina pogovorov znotraj seje
Trajni pomnilnik in stanje orodja med nalogami
Obravnavanje napak
Ustvari najboljši ugibani besedilni odgovor
Lahko ponovno poskusi orodja, preveri izhode in se samopopravi
Pogovorni agenti so zasnovani predvsem za komunikacijo. Njihova arhitektura se osredotoča na ustvarjanje koherentnega, kontekstualno ustreznega besedila kot odgovor na uporabnikove pozive. Agenti, ki uporabljajo orodja, pa so zasnovani za delovanje. Jezik obravnavajo kot medij za načrtovanje in ne kot končni rezultat, saj ga uporabljajo za odločanje o tem, katere zunanje vire uporabiti in kako interpretirati rezultate.
Interakcija z zunanjim svetom
Standardni pogovorni agent deluje znotraj svojega jezikovnega modela. Brez dodatnega ogrodja ne more preverjati vremena v živo, črpati podatkov iz CRM-ja ali izvajati izračuna. Agenti, ki uporabljajo orodja, to vrzel zapolnijo tako, da model ovijejo v orkestracijsko plast, ki izpostavlja funkcije, API-je in storitve. Model se odloči, kdaj in kako jih poklicati, s čimer agenta iz pasivnega odzivnika spremeni v aktivnega udeleženca v digitalnih delovnih procesih.
Razmišljanje in odločanje
Pogovorni agenti implicitno sklepajo s pomočjo napovedi naslednjega žetona, kar dobro deluje pri jezikovnih nalogah, vendar omejuje njihovo sposobnost preverjanja dejstev ali izvajanja večstopenjskih operacij. Agenti, ki uporabljajo orodja, sledijo eksplicitnim vzorcem sklepanja, kot sta ReAct ali načrtovanje verige misli, kjer vsak korak temelji bodisi na notranjem sklepanju bodisi na zunanjem opazovanju. Zaradi tega je njihovo odločanje bolj pregledno in pregledno.
Zanesljivost in okrevanje po napakah
Ko pogovorni agent ni prepričan, se običajno izogiba napakam ali halucinira, ker nima načina, da bi preveril svoje trditve. Agenti, ki uporabljajo orodja, si lahko opomorejo od napak s ponovnim poizvedovanjem orodja, preverjanjem izhodov glede na sheme ali preizkušanjem alternativnih pristopov. Ta povratna zanka dramatično zmanjša halucinacije pri nalogah, ki zahtevajo dejansko natančnost, kot sta pridobivanje zapisov strank ali izvajanje finančnih izračunov.
Praktične aplikacije
Pogovorni agenti blestijo v scenarijih, kjer je cilj razumevanje, razlaga ali ustvarjalno ustvarjanje, kot so inštrukcije, pisanje e-poštnih sporočil ali zagotavljanje podpore strankam. Agenti, ki uporabljajo orodja, so odlični, kadar naloga zahteva dejanje in ne govorjenje, kot je rezerviranje sestankov, izvajanje poizvedb SQL ali avtomatizacija večstopenjskih poslovnih procesov. Številni produkcijski sistemi zdaj združujejo oboje, pri čemer uporabljajo pogovorne vmesnike za zbiranje namere in izvajanje orodij za njeno izpolnitev.
Prednosti in slabosti
Pogovorni agenti
Prednosti
+Naravni tok dialoga
+Enostavna namestitev
+Široka jezikovna pokritost
+Nizki stroški integracije
Vse
−Omejeno dogajanje v resničnem svetu
−Nagnjenost k halucinacijam
−Brez zunanjega preverjanja
−Slab pri večstopenjskih nalogah
Agenti za uporabo orodij
Prednosti
+Izvaja dejanska dejanja
+Zmanjšuje halucinacije
+Integrira se z API-ji
+Obvladuje kompleksne delovne procese
Vse
−Večja kompleksnost nastavitve
−Tveganja okvare orodja
−Zakasnitev klicev API-ja
−Zahteva skrbno orkestracijo
Pogoste zablode
Mit
Pogovorni agenti in agenti, ki uporabljajo orodja, so popolnoma ločene tehnologije.
Resničnost
Večina agentov, ki uporabljajo orodja, je zgrajenih na modelih pogovornih jezikov. Razlika je bolj arhitekturna kot temeljna, saj lahko isti osnovni LLM deluje v obeh načinih, odvisno od tega, kako je zavit in na katerem je prikazan poziv.
Mit
Agenti, ki uporabljajo orodja, nikoli ne halucinirajo, ker uporabljajo zunanja orodja.
Resničnost
Agenti, ki uporabljajo orodja, lahko še vedno halucinirajo, če izberejo napačno orodje, napačno interpretirajo izhode orodja ali izdelujejo parametre. Orodja sicer zmanjšajo, vendar ne odpravijo halucinacij, zlasti kadar je sama plast sklepanja nezanesljiva.
Mit
Pogovorni agenti ne morejo dostopati do informacij v realnem času.
Resničnost
Številni sodobni pogovorni agenti vključujejo orodja za generiranje ali brskanje, ki omogočajo pridobivanje podatkov v živo. Osnovna arhitektura je lahko pogovorna, vendar produkcijske uvedbe pogosto dodajo zmožnosti orodij v ozadju.
Mit
Agenti, ki uporabljajo orodja, so vedno natančnejši od pogovornih agentov.
Resničnost
Natančnost je odvisna od naloge. Pri odprtem kreativnem pisanju ali subjektivnem svetovanju so pogovorni agenti pogosto boljši od sistemov, ki uporabljajo orodja. Orodja pomagajo pri dejanskih in proceduralnih nalogah, vendar ne dodajo nobene vrednosti, kadar je odgovor zgolj jezikosloven.
Mit
Izdelava agenta, ki uporablja orodja, zahteva učenje novega modela iz nič.
Resničnost
Večina agentov, ki uporabljajo orodja, je zgrajenih s spodbujanjem ali izpopolnjevanjem obstoječih jezikovnih modelov s shemami za klicanje funkcij. Nov osnovni model ni potreben, zato se je ta pristop tako hitro razširil po vsej panogi.
Pogosto zastavljena vprašanja
Kakšna je glavna razlika med pogovornim agentom in agentom, ki uporablja orodja?
Pogovorni agent se osredotoča na ustvarjanje odgovorov v naravnem jeziku, medtem ko agent, ki uporablja orodja, to zmogljivost razširja s klicanjem zunanjih funkcij, API-jev in storitev za izvajanje nalog iz resničnega sveta. Pogovorni agent govori; agent, ki uporablja orodja, deluje.
Ali lahko pogovorni agent uporablja orodja?
Da. Sodobne pogovorne agente, kot sta ChatGPT in Claude, je mogoče konfigurirati s funkcijami brskanja, izvajanja kode in klicanja funkcij. V teh konfiguracijah se obnašajo kot hibridni sistemi, ki združujejo dialog z izvajanjem orodij.
Kateri ogrodji se uporabljajo za gradnjo agentov, ki uporabljajo orodja?
Priljubljeni ogrodji vključujejo LangChain, LlamaIndex, AutoGPT, CrewAI in Microsoft AutoGen. Ta zagotavljajo abstrakcije za definiranje orodij, upravljanje zank agentov in orkestriranje večagentnih delovnih tokov na podlagi temeljnih modelov.
Ali snovi, ki uporabljajo orodja, zmanjšujejo halucinacije?
Lahko, zlasti pri dejanskih poizvedbah, saj lahko agent preveri trditve na podlagi zunanjih virov. Vendar pa se lahko med izbiro orodja ali interpretacijo izhodnih podatkov še vedno pojavijo halucinacije, zato uporaba orodja sama po sebi ni popolna rešitev.
Katera vrsta agenta je boljša za podporo strankam?
Hibridni sistemi običajno delujejo najbolje. Pogovorna plast obravnava naravni dialog in ton, medtem ko orodna plast pridobiva podatke o računu, obdeluje vračila ali eskalira zahteve. Čisto pogovorni agenti se težko odzivajo na dejanja, čisti orodni agenti pa se pogosto zdijo robotski.
Kaj je ogrodje ReAct?
ReAct, ki so ga leta 2022 v članku predstavili Yao in sodelavci, združuje sklepanje in delovanje v eni sami zanki. Agent razmišlja o tem, kaj storiti, izvede dejanje z uporabo orodja, opazuje rezultat in ponovi. Postal je temeljni vzorec za sodobne agente, ki uporabljajo orodja.
Ali so agenti, ki uporabljajo orodja, dražji za delovanje?
Na splošno da, ker vsak klic orodja poveča zakasnitev in lahko povzroči stroške API-ja zaradi storitev tretjih oseb. Večstopenjske zanke agentov lahko porabijo tudi več žetonov. Kompromis se običajno splača pri nalogah, ki zahtevajo natančnost ali delovanje v resničnem svetu.
Ali lahko agenti, ki uporabljajo orodja, delujejo brez interneta?
Da, če so orodja lokalna. Agenti lahko kličejo kalkulatorje v napravi, lokalne baze podatkov, datotečne sisteme ali interne API-je podjetja brez dostopa do interneta. Arhitektura je enaka ne glede na to, kje so orodja nameščena.
Katere veščine so potrebne za izgradnjo agenta, ki uporablja orodja?
Običajno potrebujete hitre inženirske spretnosti, poznavanje LLM API-jev, osnovno programiranje (običajno Python ali TypeScript) in razumevanje, kako definirati sheme orodij. Za večino gradenj agentov na ravni aplikacije ni potrebno strokovno znanje s področja strojnega učenja.
Ali bodo pogovorni agenti sčasoma nadomestili agente, ki uporabljajo orodja?
Malo verjetno. Oba pristopa služita različnim namenom in se vse pogosteje združujeta. Prihodnji sistemi bodo verjetno obravnavali pogovor kot vmesnik, uporabo orodij pa kot izvedbeno plast, zaradi česar bo razlika bolj povezana z arhitekturo kot s konkurenco.
Ocena
Izberite pogovornega agenta, kadar je vaša glavna potreba visokokakovosten dialog, ustvarjanje vsebin ali odgovarjanje na vprašanja iz baze znanja. Izberite agenta, ki uporablja orodja, kadar potrebujete umetno inteligenco za izvajanje dejanskih dejanj, integracijo z zunanjimi sistemi ali avtomatizacijo večstopenjskih delovnih procesov. V praksi najzmogljivejši sodobni sistemi združujejo oboje, pri čemer uporabljajo pogovor kot vmesnik in orodja kot motor.