Dil modelleri şirketinizin sözleşmelerini, ürün kılavuzlarını ya da iç prosedürlerini bilmez. RAG, modele cevap vermeden önce doğru belgeyi okutmanın yöntemidir.
Sorun ne?
Bir dil modeli yalnızca eğitildiği veriyi bilir. Şirketinizin iade politikasını sorduğunuzda ya bilmediğini söyler ya da, daha kötüsü, makul görünen bir cevap uydurur.
Modeli kendi belgelerinizle baştan eğitmek pahalıdır ve belge her değiştiğinde tekrarlanması gerekir. RAG bu sorunu daha basit bir yoldan çözer.
RAG nasıl çalışır?
- Hazırlık: Belgeler küçük parçalara bölünür ve her parça anlamını temsil eden bir vektöre çevrilir
- Arama: Kullanıcı soru sorduğunda, soruya anlamca en yakın parçalar bulunur
- Cevap: Bu parçalar soruyla birlikte modele verilir; model cevabı bu metinlere dayanarak yazar
Ne kazandırır?
Cevaplar güncel belgeye dayanır, çünkü belge değiştiğinde yalnızca arama dizinini güncellemek yeterlidir. Cevabın hangi belgeden geldiği gösterilebilir, bu da doğrulamayı kolaylaştırır. Model kaynakta olmayan bir şeyi uydurmaya daha az meyleder.
Kurarken dikkat edilecekler
- Belgeler dağınık ya da çelişkiliyse cevaplar da öyle olur; önce içerik temizlenmeli
- Parçalar çok küçükse bağlam kaybolur, çok büyükse ilgisiz metin karışır
- Herkesin her belgeyi görmemesi gerekiyorsa erişim yetkisi arama aşamasında uygulanmalı
Öğrenmek isteyenler için
RAG, bugün kurumsal yapay zeka projelerinin en yaygın yapı taşlarından biri. n8n ile Agentic AI eğitimimizde parçalama, vektör arama ve RAG ile çalışan ajanları uygulamalı olarak kuruyoruz.