Axtarışla Genişləndirilmiş Süni İntellekt və Yalnız Məlumat Dəsti Təlimi
Axtarışla artırılmış süni intellekt sorğu zamanı xarici mənbələrdən canlı məlumatları əldə edir, yalnız məlumat dəsti üzərində təlim isə təlim zamanı model çəkilərinə daxil edilmiş biliklərə tamamilə əsaslanır. Hər bir yanaşma dəqiqlik, qiymət, təzəlik və orijinal təlim çərçivəsindən kənar sualları nə dərəcədə yaxşı həll etməsi baxımından fərqli güzəştlərə malikdir.
Seçilmişlər
Axtarışla artırılmış süni intellekt bir neçə dəqiqə əvvəl dərc olunmuş məlumatlara daxil ola bilir, yalnız məlumat dəstinə əsaslanan modellər isə təlim müddətində dondurulur.
Axtarışa əsaslanan sistemlər, parametrik yaddaşdan daha çox, faktiki mənbə sənədlərinə əsaslandıqları üçün adətən daha az halüsinasiya yaradırlar.
RAG, tam yenidən hazırlıq xərclərindən qaçınmaq üçün verilənlər bazasındakı sənədləri dəyişdirərək modelin biliklərini yeniləməyə imkan verir.
Yalnız verilənlər dəsti modelləri sorğu başına daha sürətlidir və oflayn işləyir, bu da onları yaradıcı və ya gecikməyə həssas tapşırıqlar üçün daha uyğun edir.
Axtarışla Genişləndirilmiş Süni İntellekt nədir?
Cavablar yaradarkən axtarış motorlarından və ya verilənlər bazalarından real vaxt rejimində xarici məlumatları əldə edən və daxil edən süni intellekt sistemləri.
Adətən RAG adlanan Retrieval-Augmented Generation, Patrick Lewis və Facebook AI Research-dəki həmkarları tərəfindən 2020-ci ildə dərc edilmiş bir məqalədə təqdim edilmişdir.
Axtarışla genişləndirilmiş sistemlər təlim müddətindən sonra dərc olunmuş məlumatlara daxil ola bilir və bu da onlara təzəlik baxımından böyük üstünlük verir.
Perplexity AI və Bing Chat kimi modellər cavablarını mövcud mənbələrə əsaslandırmaq üçün canlı veb axtarışından çox istifadə edirlər.
RAG arxitekturaları adətən retriever komponentini generatorla birləşdirir və bu da sistemin müəyyən sənədlərə istinad etməsinə imkan verir.
Modellər yalnız parametrik yaddaşa etibar etmək əvəzinə, əldə edilmiş dəlillərə əsaslandıqda, halüsinasiya nisbətləri nəzərəçarpacaq dərəcədə azalmağa meyllidir.
Yalnız Məlumat Dəsti Təlimi nədir?
Xarici axtarış və ya canlı məlumatlara çıxış olmadan, təlim zamanı öyrənilən nümunələrdən yalnız cavablar yaradan süni intellekt modelləri.
2023-cü ildən əvvəl buraxılan GPT-3, GPT-4 və əksər böyük dil modelləri, nəticə çıxarma vaxtında geri alınmadan yalnız statik məlumat dəstləri üzərində təlim keçmişdir.
Model çəkilərinə daxil edilmiş biliklər təlim bitən kimi köhnəlir və bu da sabit bir bilik son tarixi yaradır.
Təmiz parametrik modellər, axtarış addımını tamamilə atladıqları üçün nəticə çıxarmaqda daha sürətli ola bilərlər.
Böyük bir modeli sıfırdan öyrətmək milyonlarla dollara başa gələ bilər və minlərlə GPU-da həftələrlə hesablama tələb edə bilər.
Bu modellər, əldə etmədən, bəzən inandırıcı səslənən, lakin səhv faktlar uydururlar ki, bu da halüsinasiya kimi tanınır.
Müqayisə Cədvəli
Xüsusiyyət
Axtarışla Genişləndirilmiş Süni İntellekt
Yalnız Məlumat Dəsti Təlimi
Bilik mənbəyi
Xarici verilənlər bazalarından və ya vebdən canlı axtarış
Model çəkilərinə yerləşdirilmiş statik biliklər
Məlumat Təzəliyi
Bir neçə dəqiqə əvvəl dərc olunmuş məlumatlara daxil ola bilər
Təlimin bitmə tarixi ilə məhdudlaşır
Halüsinasiya Riski
Əldə edilmiş mənbələrdə yerləşdikdə daha aşağı
Xüsusilə niş və ya son mövzular üçün daha yüksək
Nəticə Sürəti
Axtarış xərcləri səbəbindən daha yavaş
Modeldən daha sürətli, tək irəli keçid
Hesablama Xərci
Daha aşağı təlim dəyəri, daha yüksək sorğu başına xərc
Çox yüksək təlim dəyəri, aşağı sorğu başına xərc
Şəffaflıq
Müəyyən mənbələrə və sənədlərə istinad edə bilər
Qeyri-şəffaf, daxili istinad mexanizmi yoxdur
Oflayn Qabiliyyət
Şəbəkə və ya verilənlər bazasına giriş tələb olunur
Təlimdən sonra tam oflayn işləyir
Biliyin Ölçülənə Biləcəyi
Bilik bazası yenidən hazırlıq olmadan da inkişaf edə bilər
Bilik yalnız bahalı yenidən hazırlıq yolu ilə artır
Axtarışla artırılmış süni intellekt iki mərhələdə işləyir: əvvəlcə axtarış indeksindən, vektor verilənlər bazasından və ya canlı vebdən müvafiq sənədləri əldə edir, sonra isə həmin parçaları cavabı sintez edən dil modelinə daxil edir. Yalnız verilənlər dəsti modelləri axtarış addımını tamamilə atlayır və təlim zamanı milyardlarla parametrə sıxılmış nümunələrə əsaslanır. Praktik fərq ondadır ki, RAG sistemi bir saat əvvəl dərc olunmuş xəbər məqaləsindən sitat gətirə bilər, statik model isə onun mövcudluğundan xəbərsiz olardı.
Dəqiqlik və Halüsinasiya
Modeli əldə edilmiş dəlillərə əsaslandırmaq, xüsusən də faktiki suallar üçün halüsinasiyaları azaltmağa meyllidir. Meta AI və digərlərinin tədqiqatları göstərib ki, RAG sistemləri daha doğrulanabilən cavablar verir, çünki model təxmin etməkdənsə, faktiki mənbə mətninə əsaslana bilər. Yalnız məlumat dəstinə əsaslanan modellər isə, əksinə, bəzən düzgün səslənən, lakin tamamilə uydurma olan statistika, sitatlar və ya bioqrafik detallar icad edirlər. Bununla belə, əldə etmə halüsinasiyaları tamamilə aradan qaldırmır; model yenə də cəlb etdiyi mənbələri səhv şərh edə və ya səhv sitat gətirə bilər.
Xərc və İnfrastruktur
Böyük bir dil modelini sıfırdan öyrətmək olduqca baha başa gəlir, çox vaxt hesablama xərcləri milyonlarla dollara başa gəlir və nəticədə əldə edilən modelin hələ də bilik məhdudiyyəti var. Axtarışla artırılmış sistemlər bu tənliyi dəyişdirir: əsas model daha kiçik və öyrətmək daha ucuz ola bilər, lakin hər bir sorğu axtarış mərhələsi və kontekst pəncərəsinə daxil edilən əlavə tokenlər səbəbindən daha baha başa gəlir. Təşkilatlar üçün bu o deməkdir ki, sərhəd modelini yenidən öyrətmədən cari məlumata ehtiyacınız olduqda RAG-ın tez-tez daha səmərəli olması deməkdir.
Təravət və Uyğunlaşma
Axtarışla artırılmış süni intellektinin ən böyük üstünlüklərindən biri, sadəcə olaraq axtarış indeksindəki sənədləri yeniləməklə onun biliklərini yeniləyə bilmənizdir. Modelin yeni məhsul xətti və ya son siyasət dəyişikliyi barədə məlumatlı olmasını istəyirsiniz? Sadəcə sənədləri əlavə edin. Yalnız məlumat dəsti təlimi ilə biliklərin yenilənməsi yeni məlumatların toplanması, yenidən hazırlanması və ya dəqiqləşdirilməsi və yenidən yerləşdirilməsi deməkdir ki, bu da həftələrlə çəkə biləcək bir prosesdir. Bu, RAG-ı maliyyə, hüquq və xəbərlər kimi sürətlə inkişaf edən sahələr üçün daha praktik edir.
Şəffaflıq və Etibar
Axtarışla genişləndirilmiş sistemlər istifadə etdikləri konkret sənədlərə işarə edə bildiyindən, istifadəçilər iddiaları yoxlaya və mənbələri araşdıra bilərlər. Bu, xüsusən jurnalistika, tədqiqat və müəssisə tətbiqlərində etibar üçün böyük bir qazancdır. Yalnız məlumat dəsti modelləri cavabın haradan gəldiyini izləmək üçün heç bir daxili yol təqdim etmir ki, bu da auditi çətinləşdirir. Bəzi yeni statik modellər etimadı qiymətləndirməyə çalışırlar, lakin sözün əsl mənasında işini göstərən bir sistemin yoxlanılmasına uyğun gələ bilmirlər.
Hər yanaşma parladıqda
Tibbi tədqiqat köməkçiləri, hüquqi sənədlərin təhlili və ya bilik bazasından istifadə edən müştəri dəstək botları kimi dəqiqlik, yenilik və mənbə istinadı ən vacib olduqda axtarışla artırılmış süni intellekt üstündür. Yalnız məlumat dəsti təlimi yaradıcı yazı, beyin fırtınası, kod generasiyası və ya təsadüfi söhbət kimi xarici faktlar tələb etməyən tapşırıqlar üçün hələ də qalib gəlir. Bu gün bir çox istehsal sistemi əslində hər ikisini birləşdirir: hər iki dünyanın ən yaxşısı üçün axtarışla artırılmış güclü baza modeli.
Üstünlüklər və Eksikliklər
Axtarışla Genişləndirilmiş Süni İntellekt
Üstünlüklər
+Həmişə aktualdır
+Mənbələrə istinad edir
+Daha ucuz təlim
+Daha asan yeniləmələr
Saxlayıcı
−Daha yavaş nəticə
−İnfrastruktura ehtiyacı var
−Axtarış xətaları
−Hər sorğu üçün daha yüksək xərc
Yalnız Məlumat Dəsti Təlimi
Üstünlüklər
+Sürətli nəticə
+Oflayn işləyir
+Sadə yerləşdirmə
+Güclü məntiq
Saxlayıcı
−Bilik məhdudiyyəti
−Daha yüksək halüsinasiya riski
−Bahalı yenidən hazırlıq
−Mənbə istinadları yoxdur
Yaygın yanlış anlaşılmalar
Əfsanə
Axtarışla artırılmış süni intellekt heç də halüsinasiya yaratmır.
Həqiqət
RAG halüsinasiyaları azaldır, lakin onları aradan qaldırmır. Model yenə də əldə edilmiş parçaları yanlış oxuya, sitat gətirə və ya yanlış yollarla birləşdirə bilər. Axtarış keyfiyyəti çox vacibdir; pis mənbələr pis cavablara gətirib çıxarır.
Əfsanə
Yalnız verilənlər bazası modelləri təlimdən sonra yeni bir şey bilə bilməz.
Həqiqət
Parametrik bilikləri sabit olsa da, onlar hələ də dəqiqləşdirilə və ya sistem mesajları vasitəsilə yeni məlumatlar verilə bilər. Məhdudiyyət ondadır ki, bu, avtomatik deyil və məqsədyönlü səy tələb edir.
Əfsanə
RAG sadəcə dəbdəbəli bir axtarış motorudur.
Həqiqət
Axtarışla artırılmış süni intellekt, əldə edilən məzmunu sintez edən, ümumiləşdirən və əsaslandıran generativ model ilə birləşdirir. Bu, sadəcə linkləri qaytarmaqla kifayətlənmir; bu mənbələrə əsaslanan orijinal, kontekstual cavablar yaradır.
Əfsanə
Daha çox məlumat üzərində təlim keçmiş daha böyük modellərin geri çağırılmasına ehtiyac yoxdur.
Həqiqət
Hətta GPT-4 və Claude da daxil olmaqla ən böyük modellər belə faktiki dəqiqlik və yenilik baxımından axtarışdan faydalanırlar. Miqyas mühakimə yürütməyə və səlis danışmağa kömək edir, lakin bilik kəsimi problemini həll etmir və ya faktiki dəqiqliyi təmin etmir.
Əfsanə
Axtarışla gücləndirilmiş sistemlər həmişə daha dəqiqdir.
Həqiqət
Dəqiqlik, axtarış indeksinin keyfiyyətindən və modelin əldə edilmiş kontekstdən istifadə etmək qabiliyyətindən çox asılıdır. Zəif konfiqurasiya edilmiş RAG boru kəməri müəyyən tapşırıqlarda yaxşı təlim keçmiş statik modeldən daha pis nəticə göstərə bilər.
Tez-tez verilən suallar
Retrieval-Augmented Generation (RAG) nədir?
RAG, süni intellekt modelinin cavab yaratmazdan əvvəl vektor verilənlər bazası və ya veb kimi xarici mənbədən müvafiq sənədləri əldə etdiyi bir texnikadır. Əldə edilən hissələr modelin kontekstinə daxil edilir və cavabı real məlumatlara əsaslandırır. Bu yanaşma Facebook AI Research tərəfindən 2020-ci ildə dərc edilmiş bir məqalədə rəsmiləşdirilib və o vaxtdan bəri müasir süni intellekt tətbiqlərinin təməl daşına çevrilib.
Süni intellekt modelləri niyə halüsinasiyalar görür?
Halüsinasiyalar, model inandırıcı səslənən, lakin faktiki olaraq səhv məlumat yaratdıqda baş verir. Dil modelləri həqiqəti yoxlamaq üçün deyil, növbəti işarəni proqnozlaşdırmaq üçün öyrədilir, buna görə də bəzən boşluqları etibarlı səslənən təxminlərlə doldururlar. RAG-ın etdiyi kimi, əldə edilmiş mənbələrdə cavabların əsaslandırılması, modelə işləmək üçün faktiki dəlillər verməklə bu problemi əhəmiyyətli dərəcədə azaldır.
Axtarışla artırılmış süni intellekt oflayn işləyə bilərmi?
Ənənəvi mənada yox. Axtarışla artırılmış sistemlərin adətən verilənlər bazası, vektor anbarı və ya veb bağlantısı mənasını verən axtarış indeksinə girişi olmalıdır. Bununla belə, sənədləri öz maşınınızda saxlayan FAISS və ya Chroma kimi yerli vektor verilənlər bazasından istifadə edərək tamamilə oflayn RAG quraşdırmasını işə sala bilərsiniz. Modelin özünün internetə ehtiyacı yoxdur, lakin axtarış komponentinin əlçatan məlumat mənbəyinə ehtiyacı var.
Böyük dil modelini öyrətmək nə qədər başa gəlir?
GPT-4 və ya Gemini kimi sərhəd modelini öyrətmək, ölçüsündən və təlim müddətindən asılı olaraq on milyonlarla dollardan yüz milyon dollara qədər başa gələ bilər. 7B-dən 70B-yə qədər parametr diapazonunda olan daha kiçik açıq mənbəli modellər on minlərlə dollardan bir neçə milyon dollara qədər öyrədilə bilər. Axtarışla artırılmış yanaşmalar, axtarışla birlikdə daha kiçik modellərdən istifadə etməklə bu xərcdən tamamilə qaçınır.
Müştəri dəstəyi chatbotları üçün hansı daha yaxşıdır?
Axtarışla artırılmış süni intellekt ümumiyyətlə müştəri dəstəyi üçün daha yaxşı seçimdir, çünki cavabları birbaşa bilik bazanızdan, məhsul sənədlərinizdən və ya kömək mərkəzi məqalələrindən əldə edə bilər. Bu o deməkdir ki, məhsullarınız və siyasətləriniz inkişaf etdikcə cavablar aktual olaraq qalır və bot müştərinin oxumalı olduğu dəqiq məqaləyə istinad edə bilər. Yalnız məlumat dəstinə əsaslanan model dəyişikliklərə uyğunlaşmaq üçün daimi təlimə ehtiyac duyacaq.
Bütün müasir süni intellekt sistemləri RAG istifadə edirmi?
Hamısı yox, amma getdikcə daha çox belədir. Perplexity, Bing Chat və Notion AI kimi məhsullar axtarışdan çox asılıdır. Digərləri, məsələn, GPT-4 və ya Claude-ın baza versiyaları, standart olaraq axtarış olmadan işləyir, lakin LangChain və ya LlamaIndex kimi API və çərçivələr vasitəsilə axtarış alətləri ilə birləşdirilə bilər. İndi bir çox müəssisə yerləşdirmələri hər iki yanaşmanı birləşdirir.
Bilik kəsiyi nədir?
Bilik məhdudiyyəti, modelin təlim məlumatlarından heç bir məlumata malik olmadığı tarixdir. Məsələn, GPT-4-ün təlim məlumatları müəyyən bir tarixə qədər uzanır və bundan sonra dərc edilən hər hansı bir məlumat onun parametrik yaddaşında olmayacaq. Axtarışla genişləndirilmiş sistemlər sorğu zamanı təzə məlumat əldə etməklə bu məhdudiyyəti aşır və nəticədə onlara heç bir məhdudiyyət qoymur.
Mövcud modelə RAG əlavə edə bilərəmmi?
Bəli, və bu, əslində olduqca yaygındır. LangChain, LlamaIndex və ya Haystack kimi çərçivələrdən istifadə edərək, demək olar ki, istənilən dil modelini axtarış təbəqəsi ilə əhatə edə bilərsiniz. Modelin özünün yenidən öyrədilməsinə ehtiyac yoxdur; sadəcə sənədlərinizin vektor verilənlər bazasına və müvafiq keçidləri tapan və sorğuya daxil edən bir axtarışçıya ehtiyacınız var. Bu, statik modelə xüsusi və ya yenilənmiş məlumatlara giriş imkanı verməyin ən sürətli yollarından biridir.
Axtarışla artırılmış süni intellekt daha təhlükəsizdirmi?
Bu, quraşdırmadan asılıdır. RAG bəzi yollarla daha təhlükəsiz ola bilər, çünki həssas məlumatlar model çəkilərinə çevrilmək əvəzinə, idarə olunan verilənlər bazanızda qalır. Bununla belə, o, həmçinin əldə edilmiş sənədlər vasitəsilə tez inyeksiya kimi yeni hücum səthlərini də təqdim edir. Yalnız verilənlər dəsti modelləri hər şeyi bir yerdə saxlayır, lakin yadda saxlamaqla təlim məlumatlarını sızdıra bilər. Hər iki yanaşma diqqətli təhlükəsizlik dizaynı tələb edir.
RAG ənənəvi model təlimini əvəz edəcəkmi?
Çox az ehtimal olunur, heç olmasa tamamilə yox. RAG təlimi əvəz etmək əvəzinə, onu tamamlayır. Yaxşı təlim keçmiş bir model hələ də güclü düşüncə, dil anlayışı və təlimatı izləmək bacarıqlarına ehtiyac duyur, bunların heç biri axtarış təmin etmir. Ən təsirli sistemlər axtarışla gücləndirilmiş, təlimin düşüncə gücünü və axtarışın təravətini əldə edən bacarıqlı bir baza modelindən istifadə edir.
Hökm
Əgər tətbiqinizə cari məlumatlar, təsdiqlənə bilən mənbələr və yenidən hazırlıq olmadan bilikləri yeniləmək imkanı lazımdırsa, axtarışla artırılmış süni intellekt daha güclü seçimdir. Əgər faktiki əsaslandırmanın daha az əhəmiyyət kəsb etdiyi xam nəticə çıxarma sürətinə, oflayn əməliyyata və ya yaradıcı tapşırıqlara üstünlük verirsinizsə, yalnız məlumat dəsti təlimi möhkəm və çox vaxt daha sadə bir seçim olaraq qalır. Praktikada ən bacarıqlı müasir sistemlər bir ifratçılığa sadiq qalmaq əvəzinə, hər iki yanaşmanı birləşdirir.