Iteracinis paieškos būdas dirbtinio intelekto kanaluose patikslina rezultatus per kelis paieškos ir samprotavimo ciklus, o vienkartinės paieškos sistemos informaciją gauna vienu kartu. Iteracinis metodas geriausiai tinka sudėtingiems, daugiašokiams klausimams, o vienkartiniai metodai teikia pirmenybę greičiui ir paprastumui, kai užklausos yra paprastos.
Daugiapakopis paieškos metodas, kai dirbtinio intelekto sistema ieško, įvertina ir patikslina savo užklausas keliais etapais, kad surinktų geresnę informaciją.
Vieno etapo paieškos metodas, kai dirbtinis intelektas vieną kartą nuskaito atitinkamus dokumentus ir sugeneruoja atsakymą be tolesnės paieškos.
| Funkcija | Iteratyvus paieškos procesas dirbtinio intelekto vamzdynuose | Vieno šūvio paieškos sistemos |
|---|---|---|
| Paieškos žingsnių skaičius | Keli (įprastai 2–5+ raundai) | Vienas raundas |
| Geriausiai tinka | Daugiaaspektės ir sudėtingos samprotavimo užduotys | Paprastos faktinės paieškos |
| Vidutinis delsos laikas | Didesnis dėl pakartotinių LLM ir paieškos skambučių | Trumpesnis, paprastai mažiau nei 2 sekundės |
| Žetonų sunaudojimas | Žymiai didesnis už užklausą | Minimalus, vienas raginimas ir vienas atsakymas |
| Tikslumas sudėtingose užklausose | Pastebimai didesnis (dažnai 10–30 % pagerėjimas) | Žemesnis, apribotas vieno perdavimo konteksto |
| Įgyvendinimo sudėtingumas | Reikalingas orkestravimo karkasas ir ciklo logika | Paprasta, veikia su bet kuria vektorinių technologijų saugykla |
| Klaidų atkūrimas | Gali pats taisytis performuluodamas užklausas | Nėra mechanizmo atsigauti po prastų pradinių rezultatų |
| Pavyzdinės sistemos | IRCoT, ReAct, savęs klausimas, FLARE | Standartinis RAG, LangChain bazinis retriveris |
Iteracinė paieška veikia kaip detektyvas, laikui bėgant renkantis užuominas. Pirmiausia modelis atranda kai kuriuos dokumentus, juos perskaito, nusprendžia, kokios informacijos vis dar trūksta, o tada pateikia naują, konkretesnę užklausą. Tuo tarpu vienkartinė paieška labiau primena greitą paiešką bibliotekos kataloge. Ji paverčia vartotojo klausimą vektoriumi, randa artimiausius atitikmenis ir perduoda juos tiesiai kalbos modeliui atsakymams generuoti.
Kai klausimas yra paprastas, pavyzdžiui, „Kuriais metais X įmonė išleido produktą Y?“, vienkartinis paieškos metodas paprastai veikia taip pat gerai, kaip ir iteraciniai metodai, tačiau yra daug greitesnis. Skirtumas smarkiai padidėja sprendžiant klausimus, apimančius kelis etapus, pvz., „Kuris mokslininkas turėjo įtakos tyrėjui, atradusiam X?“. Šiems klausimams reikia susieti faktus keliuose dokumentuose, o iteracinės sistemos nuosekliai pranoksta vieno etapo metodus tokiuose testuose kaip „HotpotQA“ ir „2WikiMultihopQA“.
Kiekviena iteracija iteraciniame sraute kainuoja dar vieną LLM išvadą ir dar vieną paieškos iškvietimą, o tai gali padidinti išlaidas 3–5 kartus, palyginti su vienkartinėmis sistemomis. Didelės apimties programoms, aptarnaujančioms milijonus paprastų užklausų, šis išlaidų skirtumas tampa reikšmingas. Tačiau aukščiausios kokybės naudojimo atvejais, kai atsakymų kokybė pateisina išlaidas, papildomas tikslumas dažnai atsiperka sumažėjusiu vartotojų nusivylimu ir rečiau užduodamais klausimais.
Vienas iš nepakankamai įvertintų iteracinio paieškos privalumų yra jos gebėjimas savarankiškai taisytis. Jei pirmoji paieška pateikia nesusijusius rezultatus, modelis gali performuluoti užklausą remdamasis tuo, ką sužinojo. Vienkartinio paieškos sistemos neturi tokio saugumo tinklo. Jei pradinės paieškos metu nerandamas tinkamas dokumentas, galutinis atsakymas greičiausiai bus neteisingas arba haliucinuotas, ir vartotojas neturi jokio būdo atsigauti neuždavęs visiškai naujo klausimo.
Rinkitės iteracinį paiešką, kai jūsų vartotojai užduoda sudėtingus, tyrimo stiliaus klausimus ir tikslumas yra svarbesnis už atsakymo laiką. Rinkitės vienkartinę paiešką pokalbių robotams, kurie tvarko greitas paieškas, klientų aptarnavimo užklausas arba bet kokį kitą scenarijų, kuriame dominuoja greitis ir ekonomiškumas. Daugelyje gamybinių sistemų iš tikrųjų derinami abu šie būdai, naudojant vienkartinę paiešką kaip greitą numatytąjį nustatymą ir pereinant prie iteracinių ciklų tik tada, kai klausimas aptinkamas kaip sudėtingas.
Iteracinė paieška visada duoda geresnius atsakymus nei vienkartinė paieška.
Paprastų faktinių klausimų atveju iteraciniai ciklai padidina sąnaudas ir delsą, nepagerindami tikslumo. Nauda pasireiškia tik tada, kai klausimui iš tikrųjų reikia grandinės būdu pateikti informaciją iš kelių šaltinių arba imtis samprotavimo veiksmų.
Vienkartinis paieškos metodas yra pasenęs ir jį keičia iteraciniai metodai.
Dėl savo greičio ir paprastumo daugelio gamybinių RAG sistemų pagrindas išlieka vienkartinis išgavimas. Daugelyje šiuolaikinių architektūrų numatytasis metodas naudojamas vienkartiniam išgavimui ir iteraciniai ciklai perkeliami tik tada, kai to reikia.
Daugiau iteracijų visada reiškia geresnius iteracinio paieškos rezultatus.
Viršijus tam tikrą ribą, papildomos iteracijos sukelia triukšmą, nereikalingą informaciją ir didesnes išlaidas be reikšmingo tikslumo padidėjimo. Dauguma gerai suprojektuotų sistemų užbaigia iteracijas ties 3–5 raundais.
Iteraciniam išgavimui reikalinga speciali duomenų bazė arba vektorinė saugykla.
Iteracinė paieška veikia su tomis pačiomis vektorinėmis duomenų bazėmis ir paieškos sistemomis kaip ir vienkartinė paieška. Skirtumas slypi ne pagrindinėje saugykloje, o koordinavimo logikoje, kuri cikliškai sujungia paiešką ir samprotavimą.
Vienkartinis išgavimas negali naudoti jokio samprotavimo.
Net ir vienkartinės sistemos gali apimti minčių grandinės raginimą arba užklausos perrašymą prieš paieškos etapą. Žymė „vienkartinis“ reiškia vienkartinį paieškos etapą, o ne visišką samprotavimo nebuvimą.
Iteracinis paieškos būdas yra geresnis pasirinkimas sudėtingoms, daugiapakopėms samprotavimo užduotims, kur tikslumas yra svarbiausias, o vienkartinis paieškos būdas išlieka praktiniu numatytuoju variantu didelės apimties, delsos laiko atžvilgiu jautrioms programoms. Geriausios gamybinės sistemos dažnai naudoja vienkartinį paieškos būdą kaip pagrindą ir suaktyvina iteracinius ciklus tik tada, kai užklausos sudėtingumas pateisina papildomas išlaidas.
„DeepSeek V4“ yra kylantis atvirojo svorio didelių kalbų modelis, sukurtas Kinijos dirbtinio intelekto laboratorijoje, o GPT-4 klasės modeliai nurodo „OpenAI“ flagmanines uždarojo kodo sistemas. Šiame palyginime nagrinėjama jų architektūra, galimybės, kainos, prieinamumas ir našumas realiame pasaulyje, siekiant padėti kūrėjams ir įmonėms išmintingai pasirinkti.
„Google“ paieška yra plataus masto žiniatinklio indeksavimo variklis, kurį dauguma žmonių naudoja kasdien, o „Knowledge Graph Search“ yra „Google“ struktūrizuotų objektų duomenų bazė, kurioje pateikiami tiesioginiai atsakymai ir informacijos skydeliai. Supratimas, kuo jie skiriasi, padeda paaiškinti, kodėl kai kurios užklausos pateikia išsamius faktus, o kitos – tradicines mėlynas nuorodas.
„Google“ paieškos algoritmas reitinguoja milijardus tinklalapių, naudodamas mašininį mokymąsi ir šimtus signalų, o supaprastinti klasių modeliai perteikia dirbtinio intelekto koncepcijas į lengvai mokomas, prieinamas sistemas. Viena sistema veikia planetos mastu gamyboje; kita tarnauja kaip pedagoginis tiltas mokiniams, mokantis, kaip iš tikrųjų veikia dirbtinis intelektas.
„Vienas su vienu“ atitikimo metodas kiekvienam pagrindiniam objektui priskiria vieną numatomą langelį, o „daugelis su vienu“ atitikimo metodas leidžia kelias prognozes suderinti su vienu taikiniu. Abi strategijos formuoja tai, kaip šiuolaikiniai detektoriai, tokie kaip DETR ir „Faster R-CNN“, mokosi lokalizuoti objektus, kiekvienas iš jų turi skirtingus kompromisus tikslumo, mokymo stabilumo ir pasikartojančių aptikimų tvarkymo srityse.
A/B testavimas modeliuose nukreipia srautą tarp konkuruojančių modelio versijų, kad būtų galima įvertinti realų našumą, o diegiant vieną modelį visiems vartotojams pateikiamas vienas modelis. Komandos renkasi iš jų pagal rizikos toleranciją, srauto kiekį ir statistinio patvirtinimo poreikį prieš visišką diegimą.
