RAG, LLM yanıtlarını yalnızca modelin eğitim sırasında ezberlediği verilere değil, harici verilere dayandırarak iyileştirir. Bir RAG sisteminin bileşenlerini kıyasladık ve sonuçları tek bir yerde topladık, ayrıca yığının her bir parçasını seçmek için pratik bir kılavuz sunduk.
Her RAG bileşeni için kıyaslama sonuçlarımıza, bir RAG yığını seçme kılavuzumuza veya RAG temellerine bakın: nedir, nasıl çalışır ve nerede kullanılır.
RAG kıyaslama sonuçları
Gömme modelleri
Gömme modeli, hem belgelerinizi hem de kullanıcının sorgusunu vektörlere dönüştürür, bu nedenle geri alma kalitesinin tavanını belirler.
15 yoğun gömme modeli ve bir BM25 sözcüksel taban çizgisini üç alanda (hukuk sözleşmeleri/CUAD, müşteri desteği/TechQA ve sağlık hizmetleri/MedRAG) kıyasladık ve her birini nDCG@3 üzerinden puanladık.
voyage-3.5, 0.9429 ile birinci sırada yer alıyor ve Voyage'ın kendi amiral gemisi voyage-4-large'ı geçerken yarı fiyatına mal oluyor (her 1M token için $0.060 vs $0.120). En yeni, en büyük model her zaman en iyi satın alma değildir. Maliyet öncelikli yığınlar için, perplexity'nin pplx-embed-v1-0.6b modeli, yaklaşık %92 kaliteyle voyage-3.5’ın performansını (0.8604) yaklaşık on beşte biri fiyatına ($0.004/1M) sunuyor. Fiyata göre doğruluk görünümü için, alan bazında döküm ve metodolojiyi de içeren tam gömme modelleri kıyaslamasına bakın.
Tek vektörlü yoğun gömmelerin ötesinde, ColBERT (ve görsel belge ile PDF geri alımı için ColPali/ColQwen) gibi geç etkileşimli (çok vektörlü) geri alıcılar, daha ince eşleştirme ve daha güçlü alan dışı genelleme için her token için bir vektör tutar; ancak bu çok daha büyük bir indeksle (ColPali, öğe başına yaklaşık 1.000 kat daha fazla vektör depolar; bkz. çok modlu gömme kıyaslamamız).
Eğer derleminiz çok dilli veya görselse, gömme seçimi değişir: Çok dilli gömme kıyaslamamız, 110M parametreli bir modelin (e5_base) altı dilin hepsinde başı çektiğini ve 70 kata kadar daha büyük modelleri geride bıraktığını ortaya koydu; çok modlu kıyaslamamız ise Apple'ın DFN5B-H modelini %50.1 metinden görüntüye Recall@1 ile zirveye yerleştirdi. Verileri bir API'ye gönderemeyen ekipler için, açık kaynaklı gömme kıyaslamamız NVIDIA'nın Nemotron-8B modelini ilk sıraya (0.9249 nDCG@3) koyarken, Microsoft'un MIT lisanslı 0.6B Harrier-oss modeli en güçlü sınırsız ticari seçenek olarak öne çıkıyor.
Yeniden sıralama
Bir bi-kodlayıcı geri alıcı hızlıdır ancak yaklaşıktır. Yeniden sıralayıcı, geri alıcının döndürdüğü en iyi adayları yeniden puanlayan bir çapraz kodlayıcıdır; her sorgu-belge çiftini birlikte okuyarak gerçekten ilgili parçaları LLM'ye ulaşmadan önce en üste iter. 2026'nın standart işlem hattı, geniş bir küme getirmek, yeniden sıralayarak azaltmak ve ardından modele 3–5 parça göndermektir.1
İngilizce geri alma üzerinde 8 yeniden sıralayıcıyı kıyasladık (en iyi 100 aday, 300 sorgu):
Yeniden sıralayıcı eklenmesi, en üst-1 doğruluğunu (Hit@1) 62.67%'den 83.00%'e çıkardı; bu, tek bir ek aşamadan 20.33 puanlık bir sıçrama anlamına geliyor. Satın alma kararını değiştirecek sonuç: 149M parametreli bir model (gte-reranker-modernbert-base), zirvede 1.2B parametreli bir modele denk geldi, yani en büyük yeniden sıralayıcı hedeflenmesi gereken değil. Tam yeniden sıralayıcı kıyaslaması, gecikme süresini ve Hit@10 tavanını kapsıyor.
Vektör veritabanları
Vektör veritabanı, gömmelerinizi depolar ve sorgu zamanında en yakın komşu aramasını gerçekleştirir, böylece gecikme tabanını ve işletme maliyetinin büyük bir kısmını belirler. 1 milyon vektörlü, 768 boyutlu bir veri kümesi üzerinde altı yönetilen hizmeti kıyasladık; ortalama sorgu gecikmesini ve aylık maliyeti ölçtük.
Tek bir kazanan yok, yalnızca gecikme/maliyet sınırı var. Zilliz Cloud en hızlıydı (26 ms) ve Qdrant hemen arkasındaydı (39 ms); Pinecone ise $60/100GB ile en ucuzuydu ancak aynı zamanda en yavaş olandı (102 ms). MongoDB Atlas ise açık ara en pahalıydı ($1.440/100GB). Altı hizmetin tümü artık yerel hibrit aramayı (yoğun vektörler artı BM25 anahtar kelime eşleştirme) destekliyor ve iki sonuç listesini birleştirmek için varsayılan yöntem olarak Karşılıklı Sıra Fusion (RRF) kullanılıyor. Tam vektör veritabanı kıyaslaması, hibrit destek matrisini ve bir depolama hesaplayıcısını içeriyor.
RAG yığınınızı nasıl seçersiniz?
Yukarıdaki kıyaslamalar “Tek başına hangi bileşen en iyisidir?” sorusuna yanıt verir. Bu bölüm ise “Bunları nasıl bir araya getiririm?” sorusunu yanıtlar. İşlem hattını sırayla gezin ve her aşamayı kullanım durumuna, ölçeğe ve bütçeye göre seçin:
- Parçalama: belgeleri yaklaşık 300–500 tokenlik parçalara, 10–20% örtüşme ile ayırın; heterojen belgeler için sabit boyutlar yerine anlamsal/yapısal farkındalığa dayalı bölmeyi tercih edin.
- Gömme modeli: bir API üzerinde dolar başına en iyi kalite için voyage-3.5; kendi sunucunuzda çalıştırmanız gerekiyorsa qwen3-embedding-8b veya NVIDIA Nemotron-8B; derleminiz gerektiriyorsa çok dilli veya çok modlu bir model seçin.
- Vektör veritabanı: Gecikme süresi ön plandaysa Zilliz/Qdrant; maliyet ön plandaysa Pinecone veya Elasticsearch; yerel hibrit aramaya ihtiyacınız varsa altısından herhangi biri.
- Hibrit geri alma: Yoğun + BM25'i RRF ile birleştirin; bu, sözcüksel ve anlamsal geri alma farklı sorgularda başarısız olduğu için 2026'nın varsayılanıdır, böylece ikisini birden kullanmak yalnızca birini kullanmaktan daha güvenilirdir.
- Yeniden sıralama: Bir bi-kodlayıcının masada bıraktığı yaklaşık 20 puanlık en üst-1 doğruluğunu geri kazanmak için bir çapraz kodlayıcı (bir 149M parametreli model yeterlidir) ekleyin.
- Üretim: Kaynak gösterilebilir yanıtlar için yere dayalı atıf desteği olan bir model kullanın.
- Değerlendirme: Uygulamayı yayınlamadan önce geri alma, üretim ve uçtan uca metrikleri sisteme bağlayın.
Kurumsal yönetişim
Kurumsal dağıtımlar için, geri alma kalitesi gerekli ancak yeterli değildir; geri alma katmanının da yönetilmesi gerekir. Üretim RAG sisteminin izin farkındalığına sahip geri alma (sonuçlar, kaynak sistemin erişim kontrollerine saygı gösterir, böylece kullanıcı doğrudan açamayacağı bir belgeyi asla geri almaz), kimlik sağlayıcıları (Okta, Azure AD, Auth0) ile eşitleme yaparak izin değişikliklerinin neredeyse gerçek zamanlı olarak yayılması, denetim için her geri almayı günlüğe kaydetme, girdi/çıktı koruma korkulukları çalıştırma ve veri yerleşimi kısıtlamalarına uyma gibi özellikleri zorunlu olarak sunması beklenir. İç verilere dokunan herhangi bir RAG sistemi için bunları ekstra değil, olmazsa olmaz olarak değerlendirin.2
RAG vs. uzun bağlam
Milyonlarca token'e ulaşan bağlam pencereleriyle, RAG'ın hâlâ gerekli olup olmadığı sorusu haklı bir sorudur. 2026'da yanıt, ya o ya da bu değil: RAG ilgili kanıtları getirir, uzun bir bağlam penceresi bunun üzerinde incelikli işlemler yapabilir ve bir yönlendirme katmanı her sorgunun hangi yolu izleyeceğine karar verir.
Karar genellikle maliyete dayanır. Bir LLM, her istekteki her girdi tokeni için ücretlendirildiğinden, tüm derlemi bağlama sıkıştırmak ölçeklendiğinde pahalıdır. Sabit sorgu yükü altındaki büyük bilgi tabanları için, RAG, uzun bağlam doldurmaya kıyasla sorgu başına yaklaşık 1.250 kat daha ucuz çalışabilir, çünkü her seferinde tüm arşivi değil, yalnızca birkaç bin getirilen token için ödeme yapar.3
Bu avantaj koşulludur ve dürüstçe belirtmek gerekir: RAG, yaklaşık 500K tokenlik derlem ve günde birkaç bin sorgunun üzerinde maliyet açısından kazanırken, yaklaşık 200K token ve günde birkaç yüz sorgunun altında, prompt'lar önbellekleme ile uzun bağlam genellikle açık ara kazanır, çünkü vektör veritabanının sabit barındırma maliyeti tek başına tüm uzun bağlam faturasını aşabilir.4 Doğruluk, samanlıkta iğne aramalarında hâlâ geri almayı tercih eder; burada ilgisiz metni filtrelemek, uzun bağlam geri çağırmasını düşüren “ortada kaybolma” dikkat sapmasını azaltır.
Mevcut RAG modelleri ve araçları nelerdir?
RAG araçları üç gruba ayrılır: yerleşik dayanak bağlama özelliğine sahip LLM'ler ve API'ler, orkestrasyon çerçeveleri ve temel geri alma bileşenleri (gömme modelleri, vektör veritabanları, yeniden sıralayıcılar).
LLM'ler ve yerleşik dayanak bağlama özelliğine sahip API'ler
Artık birçok model sağlayıcı, kaynak atfı ile harici bilgi ekleyebilmeniz için dayanaklı üretim özellikleri sunuyor:
- Anthropic Claude: Yanıtları sağladığınız belgelere dayandıran ve kullanılan tam pasajlara atıflar döndüren bir Citations API'si.5
- Google Gemini: Sizin için RAG işlemlerini gerçekleştiren yerleşik bir Dosya Arama aracı (belgeleri yükleyin ve Gemini bunları parçalara ayırır, gömer ve sorgu zamanında getirir); ayrıca yönetilen kurumsal geri alma için Vertex AI RAG Engine. Bunun ayrı bir özelliği olan “Google Arama ile dayanaklama”, kendi verileriniz yerine canlı web'den bilgi çeker.6
- Cohere Command: Kutudan çıkar çıkmaz satır içi atıflar döndüren ve özel bir Rerank uç noktasıyla eşleştirilmiş RAG için ayarlanmış modeller (Command R/R+ ve daha yeni Command A).7
- OpenAI: Assistants ve Responses API'lerinde bir dosya arama geri alma aracı.8
RAG kütüphaneleri ve çerçeveleri
Bunlar, geri alma ve üretimi bir işlem hattına bağlar:
- LangChain / LangGraph: Genel amaçlı orkestrasyon; LangGraph durum bilgisine sahip, etmen tabanlı getir-yansıt-doğrula döngüleri ekler.
- LlamaIndex: Veri alımı, indeksleme ve sorgu motorları.
- Haystack: Arama ve soru cevaplama için uçtan uca işlem hatları.
- DSPy: Bildirimsel, optimize edici odaklı prompt'lar/geri alma programları.
Daha ayrıntılı bir karşılaştırma için RAG çerçeveleri analizimize bakın.
Retrieval-augmented generation nedir?
Retrieval-augmented generation, büyük bir dil modeline sorgu zamanında harici bir bilgi kaynağına erişim sağlayan bir tekniktir. Model, yalnızca eğitim sırasında sabitlenen parametrelerle yanıt vermek yerine, bir belge deposundan ilgili pasajları getirir ve yanıtını bunlara dayandırır. Bu, yanıtları güncel tutar, alıntılanabilir kaynaklara dayandırır ve modeli yeniden eğitmeden bilgi yoğun görevlerde halüsinasyonu azaltır.
RAG modelleri nasıl çalışır?
Temelde, RAG iki aşamada çalışır: geri alma (sorguyla ilgili pasajları bulma) ve üretim (bu pasajlara dayalı bir yanıt yazma). Üretim sistemlerinde, bu çekirdek döngü daha kapsamlı bir işlem hattı içine alınır:
- Sorgu yeniden yazma/ayrıştırma: Özellikle çok turlu veya çok adımlı sorgular için daha iyi geri alma amacıyla soruyu yeniden ifade edin veya bölün.
- Hibrit geri alma: Yoğun (vektör) ve seyrek (BM25) aramaları çalıştırın ve sonuçları RRF ile birleştirin.
- Yeniden sıralama: Bir çapraz kodlayıcı adayları yeniden puanlar ve en iyilerini tutar.
- Bağlam oluşturma: Seçilen parçalardan alıntılarla birlikte prompt'lar oluşturun.
- Üretim: LLM oluşturulan bağlamdan yanıt verir.
- Değerlendirme: Geri alma ve yanıt kalitesini, ideal olarak CI'da puanlayın.
İki aşamalı döngü hâlâ zihinsel modeldir; ekstra aşamalar, bir demoyu üretim sisteminden ayıran şeydir.
RAG'ın farklı türleri nelerdir?
Doğrusal işlem hattının ötesinde, belirli başarısızlık modlarını hedefleyen birkaç RAG varyantı vardır: Spekülatif RAG (hız için taslak oluştur ve doğrula), Retrieval-Augmented Fine-Tuning (RAFT) (modeli getirilen bağlamı kullanacak şekilde eğitme), Self-RAG ve Corrective RAG (CRAG) (model kanıtlar zayıf olduğunda eleştirir ve yeniden getirir). Bunlar aşağıdaki gelişmiş mimarilerle örtüşür.
Gelişmiş RAG mimarileri
Graf tabanlı RAG (GraphRAG)
GraphRAG, derlem üzerinde, genellikle Neo4j veya FalkorDB gibi özel bir graf veritabanı üzerinde bir bilgi grafiği oluşturur, böylece sistem düz vektör aramasının kaçırdığı çok adımlı ve küresel toplama sorgularını yanıtlayabilir. Bu sorulardaki üstünlüğü, daha iyi pasaj geri almaktan ziyade büyük ölçüde tüm derlem üzerindeki ilişkilerin önceden hesaplanmasından gelir; bu nedenle vektör araması, belirli belge aramalarında hâlâ kazanma eğilimindedir. Pratik çıkarım: Sorgular birçok belge üzerinde küresel akıl yürütme gerektirdiğinde grafiğe başvurun, vektör geri alımının yerine geçen bir çözüm olarak değil.
Etmen tabanlı RAG
Etmen tabanlı RAG, geri alma işleminden sorumlu bir LLM etmeni görevlendirir: neyin getirileceğine, hangi kaynağın veya aracın çağrılacağına ve ne zaman düşünüp yeniden deneneceğine karar verir; yanıt dayanaklanana kadar döngü devam eder. Her soruyu doğru veritabanına yönlendirmesi ve ardından ona karşı SQL yazması gereken bir etmeni test eden etmen tabanlı RAG kıyaslamamızda, en güçlü modeller artık neredeyse mükemmel yönlendirme yapıyor (Claude Opus 4.8 100%, Fable 5 98%), ancak seçilen şemaya karşı doğru SQL yazmak daha zorlu bir üst sınır olmaya devam ediyor ve yaklaşık 90% civarında zirve yapıyor. Yönlendirme neredeyse çözülmüş durumda; dayanaklı yürütme, etmen tabanlı RAG'ın hâlâ farklılaştığı noktadır.
Hibrit, yinelemeli ve aktif RAG
Hibrit geri alma (yoğun + seyrek, yukarıda ele alındı) artık gelişmiş bir seçenekten ziyade varsayılandır. Yinelemeli ve aktif varyantlar (örn. FLARE), modelin üretim sırasında tekrar tekrar geri almasına, güveni düştüğünde yeni kanıtlar getirmesine olanak tanır.
RAG sistemleri nasıl değerlendirilir?
RAG değerlendirmesi artık yaşam döngüsüne göre üç katmanda yapılandırılmıştır: geri alma (kesinlik, duyarlılık, MRR, nDCG, hit@k: doğru parçaları getirdik mi?), üretim (dayanaklılık, sadakat: yanıt getirilen bağlam tarafından destekleniyor mu?) ve uçtan uca (nihai yanıt doğru mu?).
Araçlar da aynı çizgide ayrılır: geliştirme sırasında hızlı, referanssız yineleme için RAGAS; CI'da, bir gerilemenin yapıyı engellemesi için pytest tarzı bir geçti/kaldı kapısı olarak DeepEval; ve üretimde izleme ve gözlem için TruLens veya Phoenix. TREC-RAG ve ARES, yargıç kalibrasyonu için yararlı harici referanslardır.9
Parça boyutu
Parça boyutu, belgelerin gömme işleminden önce nasıl bölüneceğini kontrol eder.
2026 rehberliği, tek bir sabit boyutun ötesine geçmiştir: anlamsal / yapı farkındalığına sahip parçalama (komşu cümleler anlamca ayrıldığında yeni bir parça başlatın), parçaları 10–20% örtüşme ile yaklaşık 300–500 token civarında tutun ve bağlamsal geri almayı düşünün: Anthropic'in, gömme ve BM25 indekslemesinden önce her parçanın başına LLM tarafından oluşturulan bir bağlam cümlesi ekleme tekniği. Anthropic'in testlerinde, bağlamsal gömmeler en iyi 20 geri alma başarısızlık oranını %35, bağlamsal gömmeler artı bağlamsal BM25 %49 ve üstüne bir yeniden sıralayıcı eklemek %67 azaltmıştır.10
İnce Ayar vs. Retrieval-Augmented Generation
RAG ve ince ayar farklı sorunları çözer ve 2026'da alternatif olmaktan çok birlikte kullanılmaktadır.
Çoğu ekip için yanıt “önce RAG, gerekirse davranışı ince ayarla” şeklindedir ve RAFT, ikisini birden yapmayı resmileştirir.
Retrieval-augmented generation'ın faydaları
RAG'ın avantajları, benimsenmeyi gerçekten sağlayan birkaç noktada toplanır: doğruluk ve güncellik (yanıtlar, donmuş bir eğitim kesintisini değil, güncel, kaynağa dayalı verileri yansıtır), şeffaflık (yanıtlar kullandıkları pasajlara atıfta bulunur, bu nedenle denetlenebilir), ölçekte uzun bağlamdan daha düşük maliyet ve uyarlanabilirlik (modeli yeniden eğitmek yerine bilgi tabanını güncelleyin). Çok modlu RAG, bunları görüntülere, PDF'lere ve tablolara genişletir.
İleri okumalar
- Gömme modelleri kıyaslaması
- Yeniden sıralayıcı kıyaslaması
- RAG için vektör veritabanı
- Açık kaynaklı gömme modelleri
- Çok dilli gömme modelleri
- Çok modlu gömmeler
- Etmen tabanlı RAG çerçeveleri
Bu benchmarkı kaynak gösterin
Yayınlayacağınız yere uygun formatı seçin. Bağlantılı sürümü CMS'inize yapıştırmak, geri bağlantıyı korur.
@misc{sar2026,
author = {Sarı, Ekrem},
title = {{En İyi RAG Araçları, Çerçeveleri ve Kütüphaneleri}},
year = {2026},
month = jun,
howpublished = {\url{https://aimultiple.com/retrieval-augmented-generation}},
note = {AIMultiple. Erişim tarihi: 30 Haziran 2026}
}
Yorum yapan ilk kişi olun
E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir. Yorumlar orijinal dilinde bırakılır.