Rīkus izmantojošas tiesību mehānikas (LLM) paplašina atsevišķus valodu modeļus, savienojot tos ar ārējām API, kalkulatoriem un datubāzēm, nodrošinot informācijas izgūšanu un uzdevumu izpildi reāllaikā. Atsevišķas LLM paļaujas tikai uz saviem apmācītajiem parametriem, padarot tās neatkarīgas, bet ierobežotas ar zināšanām no apmācības datiem.
Valodu modeļi, kas uzlaboti ar piekļuvi ārējiem rīkiem reāllaika datiem un uzdevumu izpildei.
Pašpietiekami valodu modeļi, kas ģenerē atbildes tikai no saviem apmācītajiem parametriem.
| Funkcija | LLM, kas izmanto rīkus | Atsevišķas LLM programmas |
|---|---|---|
| Zināšanu avots | Apmācības dati + ārējie rīki un API | Tikai treniņu dati |
| Reāllaika informācija | Jā, izmantojot tīmekļa meklēšanu un tiešsaistes API | Nē, ierobežots līdz apmācību robežai |
| Halucināciju biežums | Zemāks faktoloģiskiem vaicājumiem ar verifikāciju | Augstāks jaunākajām vai nišas tēmām |
| Izvietošanas sarežģītība | Augstāks līmenis, nepieciešama API orķestrēšana | Zemāka, viena modeļa secinājums |
| Darbības izmaksas | Augstāks vairāku servisa izsaukumu dēļ | Zemākas, vienas secinājuma izmaksas |
| Latentums | Augstāks, atkarīgs no instrumenta reakcijas laika | Zemāka, tiešā paaudze |
| Uzdevumu daudzpusība | Var veikt darbības un izgūt tiešraides datus | Ierobežots teksta ģenerēšanai un spriešanai |
| Bezsaistes iespējas | Ierobežota bez kešatmiņā saglabātām rīku atbildēm | Pilnībā funkcionāls bezsaistē |
| Sistēmu piemēri | GPT-4 ar rīkiem, Klods ar MCP, LangChain aģenti | GPT-3.5, Lama 3, Mistral, bāzes PaLM |
Autonomie tiesību zinātnes modeļi (LLM) izmanto tikai apmācības laikā iekodētus modeļus, kas nozīmē, ka to izpratne par pasauli beidzas noteiktā datumā. Rīkus izmantojoši LLM pārvar šo ierobežojumu, pēc pieprasījuma veicot vaicājumus meklētājprogrammās, zināšanu bāzēs un specializētās datubāzēs. Jautājot par šodienas laikapstākļiem vai jaunāko akciju cenu, patstāvīgs modelis vai nu minēs, vai atzīs nezināšanu, savukārt rīki iespējots modelis var iegūt precīzus, aktuālus datus. Šī fundamentālā atšķirība nosaka, kādus lietošanas gadījumus katra arhitektūra labi apstrādā.
Sistēmas, kas izmanto rīkus, mēdz ģenerēt ticamākus faktuālus rezultātus, jo pirms atbildes sniegšanas tās var salīdzināt apgalvojumus ar autoritatīviem avotiem. Atsevišķs modelis varētu pārliecinoši norādīt novecojušu statistiku vai izdomāt ticami skanošas atsauces. Tomēr arī rīkus izmantojošas tiesību zinātnes nav imūnas pret kļūdām; tās var nepareizi interpretēt meklēšanas rezultātus vai izsaukt nepareizu API galapunktu. Galvenā priekšrocība ir pārbaudāmība: rīkus izmantojoši modeļi var parādīt savu darbu, citējot izgūtos avotus, savukārt atsevišķi modeļi nepiedāvā šādu pārredzamību.
Autonomi LLM modeļi (LLM) ir ļoti ātri un vienkārši, jo viena pārsūtīšana ģenerē atbildi bez tīkla izsaukumiem. Arhitektūras, kas izmanto rīkus, rada latentumu no katra ārējā pakalpojuma izsaukuma un prasa rūpīgu orķestrēšanu, lai pareizi apstrādātu kļūmes. Izmaksas ātri pieaug, ja aģents veic vairākus rīku izsaukumus katram vaicājumam, īpaši ar maksas API. Liela apjoma, latentuma jutīgām lietojumprogrammām, piemēram, tērzēšanas robotiem, kas apkalpo miljoniem lietotāju, autonomi modeļi bieži vien joprojām ir pragmatiska izvēle, neskatoties uz to zināšanu ierobežojumiem.
Radošā rakstīšana, prāta vētra, koda ģenerēšana no esošajiem modeļiem un vispārīgas sarunas – tas viss lieliski darbojas ar atsevišķām tiesību maģistrālēm (LLM). Aģentu darbplūsmās izceļas rīkus izmantojošas sistēmas: pētniecības asistenti, kas apkopo pārskatus, klientu apkalpošanas roboti, kas piekļūst kontu datubāzēm, un automatizācijas cauruļvadi, kas mijiedarbojas ar programmatūru. Izvēle patiesībā ir atkarīga no tā, vai jūsu lietojumprogrammai ir jāiedarbojas uz pasauli vai tikai jāapspriež tā. Daudzas ražošanas sistēmas tagad apvieno abas pieejas, izmantojot atsevišķus modeļus ikdienas vaicājumiem un eskalējot līdz rīkus izmantojošiem aģentiem sarežģītiem uzdevumiem.
Autonomās LLM sistēmas nodrošina ierobežotu uzbrukuma virsmu, jo tās neizpilda ārēju kodu vai nepiekļūst sensitīvām sistēmām. Rīkus izmantojošas LLM sistēmas ievērojami paplašina šo virsmu, jo kompromitētas rīku integrācijas varētu nozagt datus vai izraisīt neparedzētas darbības. Uzņēmumiem, kas ievieš aģentūru sistēmas, ir jāievieš stingras atļauju robežas, ievades validācija un audita reģistrēšana katram rīka izsaukumam. Šī papildu sarežģītība ir pamatota, ja produktivitātes pieaugums atsver drošības izmaksas, taču regulētajās nozarēs tas nav mazsvarīgs apsvērums.
LLM, kas izmanto rīkus, nekad halucinē, jo viņi meklē tīmeklī.
Pat ar piekļuvi tīmeklim, tiesību zinātnes, kas izmanto rīkus, var nepareizi interpretēt iegūto informāciju, citēt neuzticamus avotus vai safabricēt detaļas, ja meklēšanas rezultāti ir neskaidri. Rīki samazina, bet neizslēdz halucinācijas, īpaši vaicājumiem, kuriem nepieciešama sintēze no vairākiem avotiem.
Atsevišķas LLM programmas ir pilnīgi bezjēdzīgas faktuāliem jautājumiem.
Mūsdienīgi, patstāvīgi modeļi, kas apmācīti uz atlasītām datu kopām, var precīzi atbildēt uz daudziem faktuāliem jautājumiem, īpaši par labi zināmām tēmām. To vājība galvenokārt ir saistīta ar neseniem notikumiem, patentētu informāciju vai strauji mainīgām jomām, kur apmācības dati kļūst novecojuši.
LLM, kas izmanto rīkus, vienmēr zina, kuru rīku izsaukt jebkuram konkrētam uzdevumam.
Rīku izvēle pati par sevi ir apgūta uzvedība, un modeļi var izvēlēties nepiemērotus rīkus, nodot nepareizus argumentus vai neatpazīt, kad rīks ir nepieciešams. Efektīvai rīku lietošanai nepieciešama rūpīga un ātra inženierija un bieži vien precīza pielāgošana rīku izsaukšanas piemēriem.
Rīku pievienošana LLM automātiski padara to par mākslīgā intelekta aģentu.
Patiesiem aģentiem piemīt autonoma plānošana, daudzpakāpju spriešana un mērķtiecīga uzvedība. Vienkārši piešķirot modelim API piekļuvi, tas vēl nepadara to par aģentu; sistēmai ir nepieciešama orķestrēšanas loģika, lai sadalītu uzdevumus, apstrādātu kļūmes un iterētu, lai sasniegtu mērķus.
Autonomās tiesību zinātnes (LLM) tagad ir novecojušas, jo pastāv rīku izmantošanas modeļi.
Autonomās tiesību zinātnes joprojām ir mākslīgā intelekta steka pamatā. Lielākā daļa rīkus izmantojošo sistēmu ir veidotas, pamatojoties uz autonomiem modeļiem, un daudzas ražošanas ieviešanas dod priekšroku vienkāršībai, nevis iespējām. Abas pieejas ir savstarpēji papildinošas, nevis konkurējošas.
Izvēlieties rīkus izmantojošas LLM sistēmas, ja jūsu lietojumprogrammai ir nepieciešama aktuāla informācija, tai ir jāmijiedarbojas ar ārējām sistēmām vai jāveic darbības, kas pārsniedz teksta ģenerēšanu. Atsevišķas LLM sistēmas joprojām ir piemērotākas latentuma jutīgām izvietošanām, bezsaistes scenārijiem un uzdevumiem, kuros radoša spriešana ir svarīgāka par faktu precizitāti. Daudzas organizācijas uzskata, ka optimālais ceļš ir hibrīdsistēma, kas novirza vaicājumus uz to pieeju, kas vislabāk atbilst pieprasījumam.
A/B testēšana modeļu apkalpošanā novirza trafiku starp konkurējošām modeļu versijām, lai novērtētu reālo veiktspēju, savukārt viena modeļa ieviešana visiem lietotājiem nosūta vienu modeli. Komandas izvēlas starp tiem, pamatojoties uz riska toleranci, trafika apjomu un statistiskās validācijas nepieciešamību pirms pilnīgas ieviešanas.
A/B testēšana satura izlaidumos ietver variāciju ieviešanu dažādiem auditorijas segmentiem un veiktspējas mērīšanu, savukārt vienreizēji satura izlaidumi vienlaikus nodrošina vienu versiju visiem lietotājiem. Katra pieeja atbilst dažādiem mērķiem, A/B testēšanai dodot priekšroku uz datiem balstītai optimizācijai, bet vienreizējiem izlaidumiem prioritāte ir ātrums un vienkāršība.
Adaptīvā izguve dinamiski pielāgo, kā un kādu informāciju sistēma izgūst, pamatojoties uz vaicājumu, savukārt statiskās izguves cauruļvadi ievēro fiksētus noteikumus neatkarīgi no konteksta. Abas nodrošina modernas mākslīgā intelekta lietojumprogrammas, taču tās ievērojami atšķiras pēc elastības, izmaksām un precizitātes. Izvēle starp tām ir atkarīga no darba slodzes sarežģītības un budžeta.
Šajā detalizētajā salīdzinājumā tiek pētītas adaptīvo intelekta dzinēju arhitektūras atšķirības, darbības ierobežojumi un reālā veiktspēja salīdzinājumā ar fiksētas uzvedības automatizācijas sistēmām. Mēs aplūkojam, kā sistēmas, kas nepārtraukti mācās no jauniem vides datiem, atbilst stingrām, paredzamām, uz noteikumiem balstītām sistēmām.
Aģentu apmācība vidēs ietver mācīšanos, izmantojot reāllaika mijiedarbību ar simulētu vai fizisku vidi, savukārt bezsaistes datu kopu apmācība balstās uz iepriekš apkopotiem datiem bez papildu piekļuves videi. Abas pieejas apmāca mašīnmācīšanās modeļus, taču būtiski atšķiras tas, kā aģenti apkopo pieredzi un uzlabo veiktspēju.
