Comparthing Logo
süni intellektmaşın öyrənməsiəskillmai-təlim

Axtarışla Genişləndirilmiş Süni İntellekt və Yalnız Məlumat Dəsti Təlimi

Axtarışla artırılmış süni intellekt sorğu zamanı xarici mənbələrdən canlı məlumatları əldə edir, yalnız məlumat dəsti üzərində təlim isə təlim zamanı model çəkilərinə daxil edilmiş biliklərə tamamilə əsaslanır. Hər bir yanaşma dəqiqlik, qiymət, təzəlik və orijinal təlim çərçivəsindən kənar sualları nə dərəcədə yaxşı həll etməsi baxımından fərqli güzəştlərə malikdir.

Seçilmişlər

  • Axtarışla artırılmış süni intellekt bir neçə dəqiqə əvvəl dərc olunmuş məlumatlara daxil ola bilir, yalnız məlumat dəstinə əsaslanan modellər isə təlim müddətində dondurulur.
  • Axtarışa əsaslanan sistemlər, parametrik yaddaşdan daha çox, faktiki mənbə sənədlərinə əsaslandıqları üçün adətən daha az halüsinasiya yaradırlar.
  • RAG, tam yenidən hazırlıq xərclərindən qaçınmaq üçün verilənlər bazasındakı sənədləri dəyişdirərək modelin biliklərini yeniləməyə imkan verir.
  • Yalnız verilənlər dəsti modelləri sorğu başına daha sürətlidir və oflayn işləyir, bu da onları yaradıcı və ya gecikməyə həssas tapşırıqlar üçün daha uyğun edir.

Axtarışla Genişləndirilmiş Süni İntellekt nədir?

Cavablar yaradarkən axtarış motorlarından və ya verilənlər bazalarından real vaxt rejimində xarici məlumatları əldə edən və daxil edən süni intellekt sistemləri.

  • Adətən RAG adlanan Retrieval-Augmented Generation, Patrick Lewis və Facebook AI Research-dəki həmkarları tərəfindən 2020-ci ildə dərc edilmiş bir məqalədə təqdim edilmişdir.
  • Axtarışla genişləndirilmiş sistemlər təlim müddətindən sonra dərc olunmuş məlumatlara daxil ola bilir və bu da onlara təzəlik baxımından böyük üstünlük verir.
  • Perplexity AI və Bing Chat kimi modellər cavablarını mövcud mənbələrə əsaslandırmaq üçün canlı veb axtarışından çox istifadə edirlər.
  • RAG arxitekturaları adətən retriever komponentini generatorla birləşdirir və bu da sistemin müəyyən sənədlərə istinad etməsinə imkan verir.
  • Modellər yalnız parametrik yaddaşa etibar etmək əvəzinə, əldə edilmiş dəlillərə əsaslandıqda, halüsinasiya nisbətləri nəzərəçarpacaq dərəcədə azalmağa meyllidir.

Yalnız Məlumat Dəsti Təlimi nədir?

Xarici axtarış və ya canlı məlumatlara çıxış olmadan, təlim zamanı öyrənilən nümunələrdən yalnız cavablar yaradan süni intellekt modelləri.

  • 2023-cü ildən əvvəl buraxılan GPT-3, GPT-4 və əksər böyük dil modelləri, nəticə çıxarma vaxtında geri alınmadan yalnız statik məlumat dəstləri üzərində təlim keçmişdir.
  • Model çəkilərinə daxil edilmiş biliklər təlim bitən kimi köhnəlir və bu da sabit bir bilik son tarixi yaradır.
  • Təmiz parametrik modellər, axtarış addımını tamamilə atladıqları üçün nəticə çıxarmaqda daha sürətli ola bilərlər.
  • Böyük bir modeli sıfırdan öyrətmək milyonlarla dollara başa gələ bilər və minlərlə GPU-da həftələrlə hesablama tələb edə bilər.
  • Bu modellər, əldə etmədən, bəzən inandırıcı səslənən, lakin səhv faktlar uydururlar ki, bu da halüsinasiya kimi tanınır.

Müqayisə Cədvəli

Xüsusiyyət Axtarışla Genişləndirilmiş Süni İntellekt Yalnız Məlumat Dəsti Təlimi
Bilik mənbəyi Xarici verilənlər bazalarından və ya vebdən canlı axtarış Model çəkilərinə yerləşdirilmiş statik biliklər
Məlumat Təzəliyi Bir neçə dəqiqə əvvəl dərc olunmuş məlumatlara daxil ola bilər Təlimin bitmə tarixi ilə məhdudlaşır
Halüsinasiya Riski Əldə edilmiş mənbələrdə yerləşdikdə daha aşağı Xüsusilə niş və ya son mövzular üçün daha yüksək
Nəticə Sürəti Axtarış xərcləri səbəbindən daha yavaş Modeldən daha sürətli, tək irəli keçid
Hesablama Xərci Daha aşağı təlim dəyəri, daha yüksək sorğu başına xərc Çox yüksək təlim dəyəri, aşağı sorğu başına xərc
Şəffaflıq Müəyyən mənbələrə və sənədlərə istinad edə bilər Qeyri-şəffaf, daxili istinad mexanizmi yoxdur
Oflayn Qabiliyyət Şəbəkə və ya verilənlər bazasına giriş tələb olunur Təlimdən sonra tam oflayn işləyir
Biliyin Ölçülənə Biləcəyi Bilik bazası yenidən hazırlıq olmadan da inkişaf edə bilər Bilik yalnız bahalı yenidən hazırlıq yolu ilə artır
Ən Yaxşı İstifadə Halları Araşdırma, müştəri dəstəyi, faktların yoxlanılması, xəbərlər Yaradıcı yazı, kodlaşdırma, ümumi söhbət

Ətraflı Müqayisə

Biliklərə necə çıxış əldə edirlər

Axtarışla artırılmış süni intellekt iki mərhələdə işləyir: əvvəlcə axtarış indeksindən, vektor verilənlər bazasından və ya canlı vebdən müvafiq sənədləri əldə edir, sonra isə həmin parçaları cavabı sintez edən dil modelinə daxil edir. Yalnız verilənlər dəsti modelləri axtarış addımını tamamilə atlayır və təlim zamanı milyardlarla parametrə sıxılmış nümunələrə əsaslanır. Praktik fərq ondadır ki, RAG sistemi bir saat əvvəl dərc olunmuş xəbər məqaləsindən sitat gətirə bilər, statik model isə onun mövcudluğundan xəbərsiz olardı.

Dəqiqlik və Halüsinasiya

Modeli əldə edilmiş dəlillərə əsaslandırmaq, xüsusən də faktiki suallar üçün halüsinasiyaları azaltmağa meyllidir. Meta AI və digərlərinin tədqiqatları göstərib ki, RAG sistemləri daha doğrulanabilən cavablar verir, çünki model təxmin etməkdənsə, faktiki mənbə mətninə əsaslana bilər. Yalnız məlumat dəstinə əsaslanan modellər isə, əksinə, bəzən düzgün səslənən, lakin tamamilə uydurma olan statistika, sitatlar və ya bioqrafik detallar icad edirlər. Bununla belə, əldə etmə halüsinasiyaları tamamilə aradan qaldırmır; model yenə də cəlb etdiyi mənbələri səhv şərh edə və ya səhv sitat gətirə bilər.

Xərc və İnfrastruktur

Böyük bir dil modelini sıfırdan öyrətmək olduqca baha başa gəlir, çox vaxt hesablama xərcləri milyonlarla dollara başa gəlir və nəticədə əldə edilən modelin hələ də bilik məhdudiyyəti var. Axtarışla artırılmış sistemlər bu tənliyi dəyişdirir: əsas model daha kiçik və öyrətmək daha ucuz ola bilər, lakin hər bir sorğu axtarış mərhələsi və kontekst pəncərəsinə daxil edilən əlavə tokenlər səbəbindən daha baha başa gəlir. Təşkilatlar üçün bu o deməkdir ki, sərhəd modelini yenidən öyrətmədən cari məlumata ehtiyacınız olduqda RAG-ın tez-tez daha səmərəli olması deməkdir.

Təravət və Uyğunlaşma

Axtarışla artırılmış süni intellektinin ən böyük üstünlüklərindən biri, sadəcə olaraq axtarış indeksindəki sənədləri yeniləməklə onun biliklərini yeniləyə bilmənizdir. Modelin yeni məhsul xətti və ya son siyasət dəyişikliyi barədə məlumatlı olmasını istəyirsiniz? Sadəcə sənədləri əlavə edin. Yalnız məlumat dəsti təlimi ilə biliklərin yenilənməsi yeni məlumatların toplanması, yenidən hazırlanması və ya dəqiqləşdirilməsi və yenidən yerləşdirilməsi deməkdir ki, bu da həftələrlə çəkə biləcək bir prosesdir. Bu, RAG-ı maliyyə, hüquq və xəbərlər kimi sürətlə inkişaf edən sahələr üçün daha praktik edir.

Şəffaflıq və Etibar

Axtarışla genişləndirilmiş sistemlər istifadə etdikləri konkret sənədlərə işarə edə bildiyindən, istifadəçilər iddiaları yoxlaya və mənbələri araşdıra bilərlər. Bu, xüsusən jurnalistika, tədqiqat və müəssisə tətbiqlərində etibar üçün böyük bir qazancdır. Yalnız məlumat dəsti modelləri cavabın haradan gəldiyini izləmək üçün heç bir daxili yol təqdim etmir ki, bu da auditi çətinləşdirir. Bəzi yeni statik modellər etimadı qiymətləndirməyə çalışırlar, lakin sözün əsl mənasında işini göstərən bir sistemin yoxlanılmasına uyğun gələ bilmirlər.

Hər yanaşma parladıqda

Tibbi tədqiqat köməkçiləri, hüquqi sənədlərin təhlili və ya bilik bazasından istifadə edən müştəri dəstək botları kimi dəqiqlik, yenilik və mənbə istinadı ən vacib olduqda axtarışla artırılmış süni intellekt üstündür. Yalnız məlumat dəsti təlimi yaradıcı yazı, beyin fırtınası, kod generasiyası və ya təsadüfi söhbət kimi xarici faktlar tələb etməyən tapşırıqlar üçün hələ də qalib gəlir. Bu gün bir çox istehsal sistemi əslində hər ikisini birləşdirir: hər iki dünyanın ən yaxşısı üçün axtarışla artırılmış güclü baza modeli.

Üstünlüklər və Eksikliklər

Axtarışla Genişləndirilmiş Süni İntellekt

Üstünlüklər

  • + Həmişə aktualdır
  • + Mənbələrə istinad edir
  • + Daha ucuz təlim
  • + Daha asan yeniləmələr

Saxlayıcı

  • Daha yavaş nəticə
  • İnfrastruktura ehtiyacı var
  • Axtarış xətaları
  • Hər sorğu üçün daha yüksək xərc

Yalnız Məlumat Dəsti Təlimi

Üstünlüklər

  • + Sürətli nəticə
  • + Oflayn işləyir
  • + Sadə yerləşdirmə
  • + Güclü məntiq

Saxlayıcı

  • Bilik məhdudiyyəti
  • Daha yüksək halüsinasiya riski
  • Bahalı yenidən hazırlıq
  • Mənbə istinadları yoxdur

Yaygın yanlış anlaşılmalar

Əfsanə

Axtarışla artırılmış süni intellekt heç də halüsinasiya yaratmır.

Həqiqət

RAG halüsinasiyaları azaldır, lakin onları aradan qaldırmır. Model yenə də əldə edilmiş parçaları yanlış oxuya, sitat gətirə və ya yanlış yollarla birləşdirə bilər. Axtarış keyfiyyəti çox vacibdir; pis mənbələr pis cavablara gətirib çıxarır.

Əfsanə

Yalnız verilənlər bazası modelləri təlimdən sonra yeni bir şey bilə bilməz.

Həqiqət

Parametrik bilikləri sabit olsa da, onlar hələ də dəqiqləşdirilə və ya sistem mesajları vasitəsilə yeni məlumatlar verilə bilər. Məhdudiyyət ondadır ki, bu, avtomatik deyil və məqsədyönlü səy tələb edir.

Əfsanə

RAG sadəcə dəbdəbəli bir axtarış motorudur.

Həqiqət

Axtarışla artırılmış süni intellekt, əldə edilən məzmunu sintez edən, ümumiləşdirən və əsaslandıran generativ model ilə birləşdirir. Bu, sadəcə linkləri qaytarmaqla kifayətlənmir; bu mənbələrə əsaslanan orijinal, kontekstual cavablar yaradır.

Əfsanə

Daha çox məlumat üzərində təlim keçmiş daha böyük modellərin geri çağırılmasına ehtiyac yoxdur.

Həqiqət

Hətta GPT-4 və Claude da daxil olmaqla ən böyük modellər belə faktiki dəqiqlik və yenilik baxımından axtarışdan faydalanırlar. Miqyas mühakimə yürütməyə və səlis danışmağa kömək edir, lakin bilik kəsimi problemini həll etmir və ya faktiki dəqiqliyi təmin etmir.

Əfsanə

Axtarışla gücləndirilmiş sistemlər həmişə daha dəqiqdir.

Həqiqət

Dəqiqlik, axtarış indeksinin keyfiyyətindən və modelin əldə edilmiş kontekstdən istifadə etmək qabiliyyətindən çox asılıdır. Zəif konfiqurasiya edilmiş RAG boru kəməri müəyyən tapşırıqlarda yaxşı təlim keçmiş statik modeldən daha pis nəticə göstərə bilər.

Tez-tez verilən suallar

Retrieval-Augmented Generation (RAG) nədir?
RAG, süni intellekt modelinin cavab yaratmazdan əvvəl vektor verilənlər bazası və ya veb kimi xarici mənbədən müvafiq sənədləri əldə etdiyi bir texnikadır. Əldə edilən hissələr modelin kontekstinə daxil edilir və cavabı real məlumatlara əsaslandırır. Bu yanaşma Facebook AI Research tərəfindən 2020-ci ildə dərc edilmiş bir məqalədə rəsmiləşdirilib və o vaxtdan bəri müasir süni intellekt tətbiqlərinin təməl daşına çevrilib.
Süni intellekt modelləri niyə halüsinasiyalar görür?
Halüsinasiyalar, model inandırıcı səslənən, lakin faktiki olaraq səhv məlumat yaratdıqda baş verir. Dil modelləri həqiqəti yoxlamaq üçün deyil, növbəti işarəni proqnozlaşdırmaq üçün öyrədilir, buna görə də bəzən boşluqları etibarlı səslənən təxminlərlə doldururlar. RAG-ın etdiyi kimi, əldə edilmiş mənbələrdə cavabların əsaslandırılması, modelə işləmək üçün faktiki dəlillər verməklə bu problemi əhəmiyyətli dərəcədə azaldır.
Axtarışla artırılmış süni intellekt oflayn işləyə bilərmi?
Ənənəvi mənada yox. Axtarışla artırılmış sistemlərin adətən verilənlər bazası, vektor anbarı və ya veb bağlantısı mənasını verən axtarış indeksinə girişi olmalıdır. Bununla belə, sənədləri öz maşınınızda saxlayan FAISS və ya Chroma kimi yerli vektor verilənlər bazasından istifadə edərək tamamilə oflayn RAG quraşdırmasını işə sala bilərsiniz. Modelin özünün internetə ehtiyacı yoxdur, lakin axtarış komponentinin əlçatan məlumat mənbəyinə ehtiyacı var.
Böyük dil modelini öyrətmək nə qədər başa gəlir?
GPT-4 və ya Gemini kimi sərhəd modelini öyrətmək, ölçüsündən və təlim müddətindən asılı olaraq on milyonlarla dollardan yüz milyon dollara qədər başa gələ bilər. 7B-dən 70B-yə qədər parametr diapazonunda olan daha kiçik açıq mənbəli modellər on minlərlə dollardan bir neçə milyon dollara qədər öyrədilə bilər. Axtarışla artırılmış yanaşmalar, axtarışla birlikdə daha kiçik modellərdən istifadə etməklə bu xərcdən tamamilə qaçınır.
Müştəri dəstəyi chatbotları üçün hansı daha yaxşıdır?
Axtarışla artırılmış süni intellekt ümumiyyətlə müştəri dəstəyi üçün daha yaxşı seçimdir, çünki cavabları birbaşa bilik bazanızdan, məhsul sənədlərinizdən və ya kömək mərkəzi məqalələrindən əldə edə bilər. Bu o deməkdir ki, məhsullarınız və siyasətləriniz inkişaf etdikcə cavablar aktual olaraq qalır və bot müştərinin oxumalı olduğu dəqiq məqaləyə istinad edə bilər. Yalnız məlumat dəstinə əsaslanan model dəyişikliklərə uyğunlaşmaq üçün daimi təlimə ehtiyac duyacaq.
Bütün müasir süni intellekt sistemləri RAG istifadə edirmi?
Hamısı yox, amma getdikcə daha çox belədir. Perplexity, Bing Chat və Notion AI kimi məhsullar axtarışdan çox asılıdır. Digərləri, məsələn, GPT-4 və ya Claude-ın baza versiyaları, standart olaraq axtarış olmadan işləyir, lakin LangChain və ya LlamaIndex kimi API və çərçivələr vasitəsilə axtarış alətləri ilə birləşdirilə bilər. İndi bir çox müəssisə yerləşdirmələri hər iki yanaşmanı birləşdirir.
Bilik kəsiyi nədir?
Bilik məhdudiyyəti, modelin təlim məlumatlarından heç bir məlumata malik olmadığı tarixdir. Məsələn, GPT-4-ün təlim məlumatları müəyyən bir tarixə qədər uzanır və bundan sonra dərc edilən hər hansı bir məlumat onun parametrik yaddaşında olmayacaq. Axtarışla genişləndirilmiş sistemlər sorğu zamanı təzə məlumat əldə etməklə bu məhdudiyyəti aşır və nəticədə onlara heç bir məhdudiyyət qoymur.
Mövcud modelə RAG əlavə edə bilərəmmi?
Bəli, və bu, əslində olduqca yaygındır. LangChain, LlamaIndex və ya Haystack kimi çərçivələrdən istifadə edərək, demək olar ki, istənilən dil modelini axtarış təbəqəsi ilə əhatə edə bilərsiniz. Modelin özünün yenidən öyrədilməsinə ehtiyac yoxdur; sadəcə sənədlərinizin vektor verilənlər bazasına və müvafiq keçidləri tapan və sorğuya daxil edən bir axtarışçıya ehtiyacınız var. Bu, statik modelə xüsusi və ya yenilənmiş məlumatlara giriş imkanı verməyin ən sürətli yollarından biridir.
Axtarışla artırılmış süni intellekt daha təhlükəsizdirmi?
Bu, quraşdırmadan asılıdır. RAG bəzi yollarla daha təhlükəsiz ola bilər, çünki həssas məlumatlar model çəkilərinə çevrilmək əvəzinə, idarə olunan verilənlər bazanızda qalır. Bununla belə, o, həmçinin əldə edilmiş sənədlər vasitəsilə tez inyeksiya kimi yeni hücum səthlərini də təqdim edir. Yalnız verilənlər dəsti modelləri hər şeyi bir yerdə saxlayır, lakin yadda saxlamaqla təlim məlumatlarını sızdıra bilər. Hər iki yanaşma diqqətli təhlükəsizlik dizaynı tələb edir.
RAG ənənəvi model təlimini əvəz edəcəkmi?
Çox az ehtimal olunur, heç olmasa tamamilə yox. RAG təlimi əvəz etmək əvəzinə, onu tamamlayır. Yaxşı təlim keçmiş bir model hələ də güclü düşüncə, dil anlayışı və təlimatı izləmək bacarıqlarına ehtiyac duyur, bunların heç biri axtarış təmin etmir. Ən təsirli sistemlər axtarışla gücləndirilmiş, təlimin düşüncə gücünü və axtarışın təravətini əldə edən bacarıqlı bir baza modelindən istifadə edir.

Hökm

Əgər tətbiqinizə cari məlumatlar, təsdiqlənə bilən mənbələr və yenidən hazırlıq olmadan bilikləri yeniləmək imkanı lazımdırsa, axtarışla artırılmış süni intellekt daha güclü seçimdir. Əgər faktiki əsaslandırmanın daha az əhəmiyyət kəsb etdiyi xam nəticə çıxarma sürətinə, oflayn əməliyyata və ya yaradıcı tapşırıqlara üstünlük verirsinizsə, yalnız məlumat dəsti təlimi möhkəm və çox vaxt daha sadə bir seçim olaraq qalır. Praktikada ən bacarıqlı müasir sistemlər bir ifratçılığa sadiq qalmaq əvəzinə, hər iki yanaşmanı birləşdirir.

Əlaqəli müqayisələr

Açar söz axtarış motorları vs Vektor oxşarlığı axtarışı

Açar söz axtarış motorları tərs indekslərdən istifadə edərək dəqiq terminləri uyğunlaşdırır, vektor oxşarlığı axtarışı isə yüksək ölçülü yerləşdirmələr vasitəsilə semantik cəhətdən əlaqəli məzmun tapır. Hər iki yanaşma müasir məlumat axtarışını gücləndirir, lakin istifadəçi niyyətini necə şərh etdikləri və nəticələri necə sıraladıqları baxımından əsaslı şəkildə fərqlənir.

Açıq Çəkili Modellər və Qapalı Mənbəli Modellər

Açıq çəkili modellər təlim keçmiş parametrlərini ictimaiyyətə açıq şəkildə yayımlayır və hər kəsin onları yükləməsinə, yoxlamasına və dəqiq tənzimləməsinə imkan verir. Qapalı mənbəli modellər çəkilərini gizli saxlayır və yalnız API və ya hostinq məhsulları vasitəsilə giriş təklif edir. Aralarındakı seçim, tərtibatçıların süni intellekt sistemlərini necə qurduğunu, yerləşdirdiyini və etibar etdiyini formalaşdırır.

Açıq mənbəli İİ və Məxsusi İİ

Bu müqayisə açıq mənbəli süni intellekt ilə xüsusi mülkiyyətli süni intellekt arasındakı əsas fərqləri araşdırır, əlçatanlıq, fərdiləşdirmə, xərclər, dəstək, təhlükəsizlik, performans və real dünyada tətbiq hallarını əhatə edir, təşkilatların və tərtibatçıların hansı yanaşmanın onların məqsədlərinə və texniki imkanlarına uyğun gəldiyini müəyyən etməsinə kömək edir.

Açıq Mənbəli LLM-lər və Xüsusi LLM API-ləri

Açıq mənbəli LLM-lər tam kod girişi ilə özelleştirilebilir, özünəməxsus süni intellekt modelləri təklif edir, mülkiyyətçi LLM API-ləri isə istifadəyə əsaslanan qiymətlərlə bulud əsaslı son nöqtələr vasitəsilə idarə olunan, cilalanmış xidmətlər təqdim edir.

Adaptiv Axtarış və Statik Axtarış Boru Kəmərləri

Adaptiv axtarış sistemin sorğuya əsasən hansı məlumatı və necə əldə etdiyini dinamik şəkildə tənzimləyir, statik axtarış boru kəmərləri isə kontekstdən asılı olmayaraq sabit qaydalara əməl edir. Hər ikisi müasir süni intellekt tətbiqlərini gücləndirir, lakin onlar elastiklik, qiymət və dəqiqlik baxımından kəskin şəkildə fərqlənir. Aralarında seçim iş yükünün mürəkkəbliyindən və büdcədən asılıdır.