Retrieval-augmented generation (RAG), bir yapay zeka sisteminin önce ürün verileri, politikalar ve yardım makaleleri gibi kendi belgelerinizden oluşan bir kümede arama yaptığı, ardından bulduklarına dayanarak bir yanıt yazdığı bir yöntemdir. E-ticaret markaları için RAG, modelin genel hafızası yerine güncel katalog ve politika verilerinden yanıt veren alışveriş asistanlarını, destek botlarını ve dahili araçları güçlendirir.
Bu fikir, 2020 yılında Facebook AI Research’te Patrick Lewis ve meslektaşları ile ortak üniversiteler tarafından yazılan bir araştırma makalesinden gelmektedir. İşletme yapay zeka asistanları için şu anda en yaygın modeldir, çünkü yanıtları işletmenin kontrol ettiği ve güncellediği kaynaklara bağlı tutar.
RAG adım adım nasıl çalışır?
Bir RAG sisteminin iki yarısı vardır. Birincisi içeriğinizi hazırlar: belgeler parçalara ayrılır, her parça embedding adı verilen sayısal bir temsile dönüştürülür ve bu embedding’ler genellikle bir vektör veritabanı olan bir arama dizinine girer. İkinci yarı soruları yanıtlar: kullanıcının sorusu embedding’e dönüştürülür, en yakın parçalar getirilir ve dil modeli bunları kullanarak bir yanıt yazar.
- İçeri alma: ürün beslemelerini, politika sayfalarını, yardım makalelerini ve SSS’leri toplayın.
- Parçalara ayırma: ürün kayıtlarını bütün tutarak bunları birkaç yüz kelimelik pasajlara bölün.
- Embedding ve indeksleme: pasajları, genellikle anahtar kelime aramasıyla birlikte bir vektör dizininde saklayın.
- Getirme: her soru için en alakalı pasajları bulun.
- Oluşturma: model yalnızca bu pasajları kullanarak veya onlara atıfta bulunarak bir yanıt yazar.
- Güncelleme: ürünler, fiyatlar veya politikalar değiştiğinde yeniden indeksleyin.
Birçok platform, Azure AI Search, Google Vertex AI Search ve Amazon Bedrock Knowledge Bases gibi bulut hizmetlerinden, yerleşik bilgi tabanlarına sahip e-ticaret destek araçlarına kadar bu adımları paketler. Özel yapılar LangChain veya LlamaIndex gibi çerçeveler kullanır.
Hangi e-ticaret kullanım durumları RAG için uygundur?
Alışveriş asistanı
Bir müşteri sorar: “Belirli bir bütçenin altında geniş ayaklar için hangi koşu ayakkabılarınız var?” Bir RAG asistanı, verilerinde geniş kalıp belirtilen ürünleri getirir ve fiyata göre filtreler, ardından seçenekleri açıklar. Kalite, ürün verilerinde kalıp bilgisinin olup olmamasına büyük ölçüde bağlıdır. Eğer yoksa, hiçbir model bunu güvenilir bir şekilde icat edemez.
Destek ve politika yanıtları
İade süreleri, gönderim bölgeleri, garanti şartları ve ödeme seçenekleri değişir. Bir RAG destek botu güncel politika sayfasından yanıt verir, bu nedenle sayfayı güncellemek botu da günceller. Bu, modelin her politika değişikliği için yeniden eğitilmesi gereken ince ayara (fine-tuning) göre büyük bir avantajdır.
Dahili araçlar
- Canlı sohbet sırasında politikaları ve geçmiş çözümleri arayan müşteri hizmetleri temsilcileri.
- Beden tabloları veya bakım talimatları eksik olan ürünleri soran mağaza yöneticileri.
- Dahili süreç belgelerinden alınan yanıtlarla yeni personel işe alımı.
- Yüzlerce PDF üzerinden tedarikçi spesifikasyonlarını sorgulayan satın almacılar.
İçerik desteği
Yazarlar, gerçek ürün özelliklerine dayanan ürün karşılaştırma taslakları veya satın alma rehberleri oluşturabilir, bu da uydurma özellikleri azaltır. Bir editör hala her iddiayı kontrol eder, ancak başlangıç noktası verilere dayanır.
Bir RAG sisteminin kötü yanıt vermesine ne sebep olur?
RAG hatalarının çoğu getirme hatalarıdır. Doğru pasaj bulunamazsa, model ya belirsiz yanıt verir ya da daha kötüsü, boşlukları genel bilgilerle doldurur. Yaygın nedenler kötü parçalama, güncel olmayan dizinler ve müşterilerin sorduğu detayların eksik olduğu ürün verileridir.
- Güncel olmayan dizin: fiyatlar veya stoklar değişti ancak dizin yenilenmedi.
- Eksik veriler: kalıp, malzeme veya uyumluluk gibi özellikler beslemede yok.
- Kötü parçalama: parçalar arasında bölünmüş bir politika tablosu anlamını yitirir.
- Eş anlamlı boşlukları: müşteriler “spor ayakkabı” der, ürün verileri “sneaker” der.
- Reddetme kuralının olmaması: getirme hiçbir alakalı sonuç bulamadığında bile model yanıt verir.
Anahtar kelime ve vektör aramasını birleştiren hibrit arama, birçok eş anlamlı ve ürün kodu sorununu çözer. Kaynaklar eksik olduğunda “Bu bilgiye sahip değilim” demek için net bir talimat, uydurma yanıtların çoğunu önler.
Bir RAG asistanını piyasaya sürmeden önce nasıl test edersiniz?
- Sohbet günlüklerinden ve e-postalardan 100 gerçek müşteri sorusu toplayın.
- Her biri için doğru yanıtı ve kaynak sayfayı yazın.
- Getirmeyi ölçün: sistem doğru kaynağı en iyi sonuçlarında buldu mu?
- Yanıtları ölçün: doğru, kısmen doğru, yanlış veya uygun şekilde reddedilmiş.
- Zor durumları dahil edin: stokta olmayan ürünler, üretimi durdurulan ürünler, diğer diller.
- Her büyük katalog veya politika değişikliğinden sonra yeniden test edin.
İki puanı ayırın. Getirme iyiyse ancak yanıtlar yanlışsa, istemi veya modeli düzeltin. Getirme zayıfsa, hiçbir istem yardımcı olmaz; verileri ve dizini düzeltin.
Dil kendi test turunu hak eder. Türkçe ve İngilizce satış yapan bir mağaza, Türkçe bir sorunun sadece İngilizce olan ürün verilerini doğru bir şekilde getirip getirmediğini veya daha iyisi, temel özelliklerin her iki dilde de mevcut olup olmadığını kontrol etmelidir. Embedding modelleri çok dilli kalitede farklılık gösterir ve İngilizce’de iyi puan alan bir sistem, Türkçe soruların yarısını sessizce kaçırabilir.
Gizlilik ve güvenlik ne olacak?
Müşteri kişisel verilerini paylaşılan dizinin dışında tutun. Sipariş sorguları, vektör veritabanında saklanan belgeler aracılığıyla değil, güvenli, kimliği doğrulanmış bir API çağrısı aracılığıyla yapılmalıdır. Ayrıca istem enjeksiyonuna (prompt injection) dikkat edin: ürün yorumları veya tedarikçi belgeleri indekslenirse, içlerindeki metin modele talimat vermeye çalışabilir. İndekslenmiş kullanıcı tarafından oluşturulan içeriği güvenilmez olarak kabul edin.
Alien Road, RAG’ı e-ticaret müşterileri için nasıl uygular
Tipik bir çalışma, bir soru denetimi ile başlar: birkaç aylık sohbet ve e-posta sorularını çeker, bunları konuya göre gruplandırır ve müşterinin ürün verilerinin ve politika sayfalarının yanıtları gerçekten içerip içermediğini kontrol ederiz. Burada bulunan boşluklar genellikle herhangi bir teknoloji seçiminden daha önemlidir, çünkü kalıp veya uyumluluk verilerinin eksikliği asistanı ilk günden itibaren engeller.
Kurulum genellikle müşterinin yığınına uyan, hibrit arama, reddetme kuralı ve ürün beslemesine bağlı planlanmış yeniden indekslemeye sahip mevcut bir platform kullanır. 100 soruluk test setini müşterinin destek ekibiyle birlikte oluşturuyoruz. Ölçüm; getirme doğruluğunu, yanıt doğruluğunu, insan temsilcilerine aktarma oranını ve bot konuşmalarındaki müşteri memnuniyetini takip eder, başarısız yanıt örnekleri ve yapılan düzeltmelerle aylık olarak raporlanır.
Bu hafta nereden başlamalı
100 güncel müşteri sorusunu dışa aktarın ve her biri için sitenizde onu yanıtlayan sayfayı bulun. Hiçbir yerde yanıtı olmayanları işaretleyin.
- Sohbet, e-posta ve pazar yeri mesajlarından sorular toplayın.
- Her birini bir kaynak sayfayla eşleştirin veya eksik olarak işaretleyin.
- Sitedeki en iyi beş eksik yanıtı düzeltin.
- Ürün beslemenizin müşterilerin sorduğu özellikleri içerip içermediğini kontrol edin.
Bu egzersiz sitenizi hemen iyileştirir ve bu, bir RAG sisteminin daha sonra ihtiyaç duyacağı test setidir.
Okumaya devam edin: Yapay Zekâ Optimizasyonu · Yapay Zekâ Optimizasyonu