Bağlam duyarlı arama, sorgu geçmişi, kullanıcı amacı ve belge ilişkileri gibi çevresel bilgileri kullanarak daha alakalı sonuçlar sunarken, bağlamdan bağımsız arama her sorguyu ayrı ayrı ele alır. İlki modern konuşma yapay zekasını ve kişiselleştirilmiş aramayı desteklerken, ikincisi basit, tek seferlik aramalar için kullanışlı olmaya devam etmektedir.
Sorgu geçmişini, kullanıcı davranışını ve belge bağlamını dikkate alarak daha alakalı sonuçlar döndüren bir arama yaklaşımı.
Önceki etkileşimleri veya kullanıcıya özgü sinyalleri dikkate almadan her sorguyu bağımsız olarak işleyen bir arama yaklaşımı.
| Özellik | Bağlam Duyarlı Geri Alma | Bağlamdan Bağımsız Geri Çağırma |
|---|---|---|
| Sorgu İşleme | Oturum geçmişini ve kullanıcı sinyallerini kullanır. | Her sorguyu ayrı ayrı ele alır. |
| Konuşmalarda Alaka Düzeyi | Yüksek — diyalog tutarlılığını korur | Düşük seviye — takip süreçlerinde zorluk yaşıyor. |
| Hesaplama Maliyeti | Bağlam işleme nedeniyle daha yüksek | Sorgu başına daha düşük maliyet ve daha hızlı |
| Kişiselleştirme | Kullanıcı düzeyinde özelleştirmeyi destekler. | Varsayılan olarak kişiselleştirme yok. |
| Uygulama Karmaşıklığı | Bellek, yeniden yazma ve meta veri gerektirir. | Basit ters indeks veya vektör araması |
| En İyi Kullanım Örnekleri | Sohbet robotları, asistanlar, kişiselleştirilmiş arama | Tek seferlik olgusal sorgular, belge arama |
| Örnek Teknikler | HyDE, sorgu yeniden yazma, bağlamsal gömme | BM25, temel yoğun arama, anahtar kelime araması |
| Depolama Gereksinimleri | Oturum ve meta veri depolamasına ihtiyaç duyar. | Minimal — sadece indeks |
Bağlam duyarlı arama, bir sorguyu devam eden bir etkileşimin parçası olarak yorumlar ve birinin gerçekten ne demek istediğini anlamak için önceki konuşmalardan, kullanıcı profillerinden ve hatta belgenin etrafındaki meta verilerden yararlanır. Bağlamdan bağımsız arama ise, sorguyu tek başına ele alır; yazdığınız kelimeler kullandığı tek sinyaldir. Bu, bağlamdan bağımsız sistemleri tahmin edilebilir ve hata ayıklaması kolay hale getirir, ancak bir soru daha önce gelenlere bağlı olduğunda genellikle hedefi tutturamazlar.
İnsanlar yapay zekâ asistanlarıyla sohbet ederken, takip soruları nadiren tek başına anlam ifade eder. 'Peki ya ikincisi?' veya 'Bu nasıl karşılaştırılır?' gibi ifadeler ancak önceden var olan bağlamla anlam kazanır. Bağlam duyarlı arama, belirsiz sorguları aramadan önce kendi içinde bütünlük arz eden sorgulara dönüştürerek bunları doğal olarak ele alır. Bağlamdan bağımsız arama, bu gibi durumlarda alakasız sonuçlar döndürme eğilimindedir; bu nedenle çoğu üretim aşamasındaki sohbet botu artık bir tür bağlam duyarlı işlem hattı kullanmaktadır.
Bağlamdan bağımsız arama, bellek yönetimi ve sorguların yeniden yazılması gibi ek işlerden kaçındığı için daha hızlı çalışır ve büyük ölçekte işletme maliyeti daha düşüktür. Bağlamdan haberdar arama ise ek yük getirir; oturum durumunu saklamanız, sorgu yeniden yazma modellerini çalıştırmanız ve genellikle vektör sonuçlarını meta verilerle filtrelemeniz gerekir. Milyonlarca statik belgeyi indeksleme gibi yüksek hacimli, düşük karmaşıklıkta iş yükleri için bağlamdan bağımsız yöntemler hala geçerliliğini korumaktadır.
Meta AI ve Microsoft'un QReCC ve TopiOCQA gibi veri kümeleri üzerinde yaptığı çalışmalar da dahil olmak üzere, konuşma tabanlı yoğun bilgiye erişim üzerine yapılan araştırmalar, bağlamı dikkate alan yöntemlerin, bağlamdan bağımsız temel yöntemlere kıyasla MRR ve nDCG puanlarında %10-20 daha iyi performans gösterdiğini tutarlı bir şekilde ortaya koymaktadır. Zamirlerin ve referansların baskın olduğu çok turlu sorgularda bu fark daha da artmaktadır. Bununla birlikte, tek turlu olgusal sorular için fark önemli ölçüde azalmaktadır.
Her uygulamanın bağlam farkındalığına ihtiyacı yoktur. Dahili bilgi tabanları, yasal belge aramaları ve e-ticaret ürün aramaları genellikle bağlamdan bağımsız arama ile sorunsuz çalışır çünkü sorgular genellikle spesifik ve kendi içinde yeterlidir. Bu senaryolarda, bağlamdan bağımsız aramanın basitliği, hızı ve daha düşük altyapı maliyeti onu daha pratik bir seçenek haline getirir.
Bağlamdan haberdar arama, bağlamdan bağımsız aramadan her zaman daha iyi performans gösterir.
Mutlaka öyle değil. Tek turlu, iyi tanımlanmış sorgular için, bağlamdan bağımsız yöntemler, ek bağlamın bazen getirdiği gürültüyü önledikleri için bağlamdan haberdar olan yöntemlerle eşleşebilir, hatta onları geride bırakabilir. Bağlamdan haberdar olan aramanın avantajı en belirgin şekilde çok turlu veya kişiselleştirilmiş senaryolarda ortaya çıkar.
Bağlamdan bağımsız bilgi alma yöntemi eskidir ve artık kullanılmamaktadır.
Tam tersine. BM25 ve temel yoğun arama, kurumsal belge arama ve e-ticaret platformları da dahil olmak üzere birçok üretim arama sisteminin omurgasını oluşturmaya devam ediyor. Güçlü temeller olarak hizmet veriyorlar ve genellikle hibrit mimarilerde bağlam duyarlı katmanlarla birleştiriliyorlar.
Bağlam duyarlı erişim, modelin her şeyi 'hatırlaması' anlamına gelir.
Pratikte, bu sistemler yakın zamanki konuşmaların sınırlı bir bölümünü, özetlenmiş meta verileri veya yeniden yazılmış sorguları kullanır. Gerçek uzun vadeli hafıza hala açık bir araştırma problemidir ve çoğu sistem, bağlam penceresinden çıktıktan sonra eski konuşmaları unutur.
Vektör arama her zaman bağlamı dikkate alır.
Yoğun vektör tabanlı arama iki şekilde olabilir. Meta veri filtreleme veya sorgu yeniden yazma olmadan yapılan basit bir vektör araması esasen bağlamdan bağımsızdır. Oturum geçmişi, filtreler veya sorgu genişletme eklemek, onu bağlam duyarlı hale getirir.
Bağlamdan haberdar geri çağırma, RAG sistemlerindeki yanılsamaları ortadan kaldırır.
Bu hataları azaltır ancak tamamen ortadan kaldırmaz. İyi bir geri çağırma oranına sahip olsa bile, dil modelleri yine de pasajları yanlış yorumlayabilir veya bilgileri yanlış bir şekilde birleştirebilir. Geri çağırma kalitesi bulmacanın bir parçasıdır; üretim davranışı da aynı derecede önemlidir.
Uygulamanız çok aşamalı konuşmalar, kişiselleştirme veya belirsiz takip sorguları içeriyorsa, bağlam duyarlı arama yöntemini seçin; bu, modern RAG ve yapay zeka asistanları için standarttır. Konuşma derinliğinden ziyade hız ve düşük maliyetin önemli olduğu basit, tek aşamalı aramalar için bağlamdan bağımsız arama yöntemini kullanın.
Açık kaynaklı LLM'ler, tam kod erişimiyle özelleştirilebilir, kendi kendine barındırılan yapay zeka modelleri sunarken, tescilli LLM API'leri ise bulut tabanlı uç noktalar aracılığıyla kullanım tabanlı fiyatlandırmayla yönetilen, geliştirilmiş hizmetler sağlar.
Açık kaynaklı modeller, eğitilmiş parametrelerini herkese açık bir şekilde yayınlayarak herkesin bunları indirmesine, incelemesine ve ince ayar yapmasına olanak tanır. Kapalı kaynaklı modeller ise ağırlıklarını gizli tutarak yalnızca API'ler veya barındırılan ürünler aracılığıyla erişim sağlar. Bu iki model arasındaki seçim, geliştiricilerin yapay zeka sistemlerini nasıl oluşturduklarını, dağıttıklarını ve onlara nasıl güvendiklerini şekillendirir.
Bu karşılaştırma, açık kaynaklı yapay zeka ile tescilli yapay zeka arasındaki temel farkları ele alıyor; erişilebilirlik, özelleştirme, maliyet, destek, güvenlik, performans ve gerçek dünya kullanım senaryolarını kapsıyor. Bu sayede kuruluşlar ve geliştiriciler, hangi yaklaşımın hedeflerine ve teknik yetkinliklerine uygun olduğunu belirleyebilir.
Ağ tabanlı makine öğrenimi, gecikme süresi, bant genişliği ve topoloji gibi ağ koşullarını doğrudan model tasarımına ve çıkarım kararlarına dahil ederken, yalnızca hesaplama odaklı makine öğrenimi, GPU gücü ve bellek gibi hesaplama kaynaklarına odaklanır. İlki dağıtılmış ortamlar için optimizasyon yaparken, ikincisi bol miktarda yerel hesaplama gücü olduğunu varsayar.
Ajan işbirliği ve merkezi model akıl yürütme, karmaşık yapay zeka problemlerini çözmeye yönelik iki farklı yaklaşımı temsil eder. Çoklu ajan sistemleri bilişsel süreçleri uzmanlaşmış düğümler arasında dağıtırken, merkezi akıl yürütme karar verme sürecini tek bir güçlü model içinde yoğunlaştırır. Her paradigma, ölçeklenebilirlik, yorumlanabilirlik ve görev performansı açısından benzersiz avantajlar ve dezavantajlar sunar.
