Sarunu aģenti koncentrējas uz dabisku dialogu un uz tekstu balstītu mijiedarbību, savukārt rīkus izmantojošie aģenti paplašina mākslīgā intelekta iespējas, izsaucot ārējās funkcijas un API. Abi pārstāv atšķirīgas pieejas autonomām mākslīgā intelekta sistēmām, kur sarunu modeļi izceļas komunikācijā, bet rīkus izmantojošie aģenti specializējas reālu uzdevumu izpildē.
Mākslīgā intelekta sistēmas, kas galvenokārt paredzētas dabiskas valodas dialogam, jautājumu atbildēšanai un sakarīgu sarunu uzturēšanai ar lietotājiem.
Mākslīgā intelekta sistēmas, kas paplašina valodu modeļu iespējas, izsaucot ārējās funkcijas, API, datubāzes un programmatūras rīkus, lai veiktu reālās pasaules uzdevumus.
| Funkcija | Sarunu aģenti | Rīkus izmantojoši aģenti |
|---|---|---|
| Primārā funkcija | Dabiskās valodas dialogs un informācijas sniegšana | Uzdevumu izpilde, izmantojot ārējos rīkus un API |
| Ārējā mijiedarbība | Ierobežota vai nekāda bez pastiprinājuma | Dzimtā spēja izsaukt funkcijas un pakalpojumus |
| Arhitektūra | Uz transformatoriem balstīts valodas modelis | Valodas modelis plus rīku orķestrācijas slānis |
| Argumentācijas pieeja | Vienas piegājiena vai vairāku pagriezienu teksta ģenerēšana | Plānošanas-rīkošanās-novērošanas cikls ar iteratīvu spriešanu |
| Tipiski lietošanas gadījumi | Klientu atbalsts, apmācība, prāta vētra, jautājumu un atbilžu sesija | Darbplūsmas automatizācija, datu izguve, koda izpilde, izpēte |
| Atmiņa un konteksts | Sarunu vēsture sesijas laikā | Pastāvīga atmiņa un rīka stāvoklis dažādos uzdevumos |
| Kļūdu apstrāde | Ģenerē visprecīzāko minējumu teksta atbildi | Var atkārtoti izmēģināt rīkus, validēt rezultātus un veikt pašlabošanu |
| Piemēri | ČatsGPT, Klods, Dvīņu tērzēšana | AutoGPT, LangChain aģenti, OpenAI funkciju izsaukšana |
Sarunu aģenti galvenokārt ir paredzēti saziņai. To arhitektūra koncentrējas uz saskaņota, kontekstuāli atbilstoša teksta ģenerēšanu, reaģējot uz lietotāja uzvednēm. Turpretī rīkus izmantojošie aģenti ir veidoti, lai rīkotos. Tie uztver valodu kā plānošanas līdzekli, nevis gala rezultātu, izmantojot to, lai izlemtu, kurus ārējos resursus pieaicināt un kā interpretēt rezultātus.
Standarta sarunu aģents darbojas savā valodas modelī. Bez papildu atbalsta tas nevar pārbaudīt tiešraides laikapstākļus, izgūt datus no klientu attiecību pārvaldības sistēmas (CRM) vai veikt aprēķinus. Aģenti, kas izmanto rīkus, bloķē šo plaisu, ietverot modeli orķestrācijas slānī, kas atklāj funkcijas, API un pakalpojumus. Modelis izlemj, kad un kā tos izsaukt, pārvēršot aģentu no pasīva atbildētāja par aktīvu dalībnieku digitālajās darbplūsmās.
Sarunu aģenti netieši spriež, izmantojot savas nākamā marķiera prognozes, kas labi darbojas valodas uzdevumos, bet ierobežo viņu spēju pārbaudīt faktus vai veikt vairāku soļu darbības. Rīkus izmantojošie aģenti ievēro skaidrus spriešanas modeļus, piemēram, ReAct vai domu ķēdes plānošanu, kur katrs solis ir balstīts vai nu uz iekšējo spriešanu, vai ārēju novērojumu. Tas padara viņu lēmumu pieņemšanu pārredzamāku un auditējamāku.
Ja sarunu aģents nav pārliecināts, tas parasti šaubās vai halucinē, jo tam nav iespējas pārbaudīt savus apgalvojumus. Aģenti, kas izmanto rīkus, var atgūties no kļūdām, atkārtoti vaicājot rīku, validējot izvades datus pret shēmām vai izmēģinot alternatīvas pieejas. Šī atgriezeniskā saite ievērojami samazina halucinācijas uzdevumiem, kuriem nepieciešama faktu precizitāte, piemēram, klientu ierakstu izgūšanai vai finanšu aprēķinu veikšanai.
Sarunu aģenti izceļas scenārijos, kuros mērķis ir izpratne, skaidrojums vai radoša ģenerēšana, piemēram, apmācība, e-pasta ziņojumu sagatavošana vai klientu atbalsta sniegšana. Rīkus izmantojoši aģenti izceļas, ja uzdevums ir jādara, nevis jāsaka, piemēram, rezervējot tikšanās, veicot SQL vaicājumus vai automatizējot daudzpakāpju biznesa procesus. Daudzas ražošanas sistēmas tagad apvieno abus, izmantojot sarunu saskarnes, lai apkopotu nolūku, un rīku izpildi, lai to izpildītu.
Sarunu aģenti un rīkus izmantojošie aģenti ir pilnīgi atsevišķas tehnoloģijas.
Lielākā daļa rīkus izmantojošo aģentu ir veidoti, balstoties uz sarunvalodas valodu modeļiem. Šī atšķirība ir drīzāk arhitektoniska, nevis fundamentāla, jo viens un tas pats pamatā esošais LLM var darboties abos režīmos atkarībā no tā, kā tas tiek ietīts un parādīts uzvednes signāls.
Instrumentus lietojoši aģenti nekad nehalucinē, jo viņi izmanto ārējus instrumentus.
Aģenti, kas izmanto rīkus, joprojām var halucinēt, izvēloties nepareizu rīku, nepareizi interpretējot rīku rezultātus vai safabricējot parametrus. Rīki samazina, bet neizslēdz halucinācijas, īpaši, ja pats spriešanas slānis nav uzticams.
Sarunu aģenti nevar piekļūt informācijai reāllaikā.
Daudzi mūsdienu sarunu aģenti ietver izguves paplašinātas ģenerēšanas vai pārlūkošanas rīkus, kas ļauj tiem izgūt tiešraides datus. Pamatarhitektūra var būt sarunu arhitektūra, taču ražošanas izvietojumos bieži tiek pievienotas rīku iespējas fonā.
Aģenti, kas izmanto rīkus, vienmēr ir precīzāki nekā sarunu aģenti.
Precizitāte ir atkarīga no uzdevuma. Atvērta tipa radošajā rakstīšanā vai subjektīvos padomos sarunvalodas aģenti bieži vien pārspēj rīkus izmantojošas sistēmas. Rīki palīdz ar faktuāliem un procedurāliem uzdevumiem, bet nepievieno nekādu vērtību, ja atbilde ir tīri lingvistiska.
Lai izveidotu rīkus izmantojošu aģentu, ir nepieciešams apmācīt jaunu modeli no nulles.
Lielākā daļa rīkus izmantojošo aģentu tiek konstruēti, ierosinot vai precizējot esošos valodas modeļus ar funkciju izsaukšanas shēmām. Nav nepieciešams jauns bāzes modelis, tāpēc šī pieeja ir tik ātri izplatījusies visā nozarē.
Izvēlieties sarunu aģentu, ja jūsu galvenā vajadzība ir augstas kvalitātes dialogs, satura ģenerēšana vai jautājumu atbildēšana no zināšanu bāzes. Izvēlieties rīkus izmantojošu aģentu, ja jums ir nepieciešams, lai mākslīgais intelekts veiktu reālas darbības, integrētos ar ārējām sistēmām vai automatizētu daudzpakāpju darbplūsmas. Praksē visspēcīgākās mūsdienu sistēmas apvieno abus, izmantojot sarunu kā saskarni un rīkus kā dzinēju.
A/B testēšana modeļu apkalpošanā novirza trafiku starp konkurējošām modeļu versijām, lai novērtētu reālo veiktspēju, savukārt viena modeļa ieviešana visiem lietotājiem nosūta vienu modeli. Komandas izvēlas starp tiem, pamatojoties uz riska toleranci, trafika apjomu un statistiskās validācijas nepieciešamību pirms pilnīgas ieviešanas.
A/B testēšana satura izlaidumos ietver variāciju ieviešanu dažādiem auditorijas segmentiem un veiktspējas mērīšanu, savukārt vienreizēji satura izlaidumi vienlaikus nodrošina vienu versiju visiem lietotājiem. Katra pieeja atbilst dažādiem mērķiem, A/B testēšanai dodot priekšroku uz datiem balstītai optimizācijai, bet vienreizējiem izlaidumiem prioritāte ir ātrums un vienkāršība.
Adaptīvā izguve dinamiski pielāgo, kā un kādu informāciju sistēma izgūst, pamatojoties uz vaicājumu, savukārt statiskās izguves cauruļvadi ievēro fiksētus noteikumus neatkarīgi no konteksta. Abas nodrošina modernas mākslīgā intelekta lietojumprogrammas, taču tās ievērojami atšķiras pēc elastības, izmaksām un precizitātes. Izvēle starp tām ir atkarīga no darba slodzes sarežģītības un budžeta.
Šajā detalizētajā salīdzinājumā tiek pētītas adaptīvo intelekta dzinēju arhitektūras atšķirības, darbības ierobežojumi un reālā veiktspēja salīdzinājumā ar fiksētas uzvedības automatizācijas sistēmām. Mēs aplūkojam, kā sistēmas, kas nepārtraukti mācās no jauniem vides datiem, atbilst stingrām, paredzamām, uz noteikumiem balstītām sistēmām.
Aģentu apmācība vidēs ietver mācīšanos, izmantojot reāllaika mijiedarbību ar simulētu vai fizisku vidi, savukārt bezsaistes datu kopu apmācība balstās uz iepriekš apkopotiem datiem bez papildu piekļuves videi. Abas pieejas apmāca mašīnmācīšanās modeļus, taču būtiski atšķiras tas, kā aģenti apkopo pieredzi un uzlabo veiktspēju.
