Retrieval-augmented generation (RAG) dil modelinin əvvəlcə öz sənədlərinizi axtardığı, sonra isə tapdıqlarına əsasən cavab yazdığı bir metoddur. Suallar müxtəlif olduqda və məzmununuz geniş olduqda, ənənəvi sayt axtarışını, statik FAQ-ları və qaydalara əsaslanan çatbotları üstələyir. Suallar az və proqnozlaşdırıla bilən olduqda, cavablar dəqiq olmalı olduqda və ya mənbə məzmununuz qarışıq və köhnəlmiş olduqda isə uduzur.
RAG sadə dillə necə işləyir?
RAG sisteminin üç hissəsi var. Birincisi, sənədləriniz hissələrə bölünür və mənanın rəqəmsal təsviri olan və vektor verilənlər bazasında və ya axtarış indeksində saxlanılan yerləşdirmələrə (embeddings) çevrilir. İkincisi, istifadəçi sual verdikdə, sistem ona ən çox bənzəyən hissələri tapır. Üçüncüsü, həmin hissələr yalnız bu materialdan istifadə edərək cavab vermək təlimatı ilə dil modelinə ötürülür.
Bunun cəlbediciliyi ondadır ki, model məhsul təlimatlarınız, siyasət sənədləriniz və ya yardım mərkəziniz kimi, heç vaxt təlim keçmədiyi cari, şəxsi məlumatlardan cavab verə bilir. Cavab həm də hansı sənəddən gəldiyini göstərə bilər ki, bu da yoxlamanı asanlaşdırır.
Əvəz etdiyi ənənəvi alətlər hansılardır?
Müqayisədən əvvəl, əksər şirkətlərin artıq nədən istifadə etdiyini qeyd etmək faydalıdır.
- WordPress axtarışı, Algolia və ya Elasticsearch kimi uyğun səhifələrin siyahısını qaytaran açar sözlü sayt axtarışı.
- Zendesk, Intercom və ya CMS-də qurulmuş statik FAQ səhifələri və yardım mərkəzləri.
- Düymələrlə skript axınlarını izləyən qaydalara əsaslanan və ya qərar ağacı olan çatbotlar.
- Daxili bilik bazasından işləyən insan dəstək agentləri.
Bunların hər birini idarə etmək RAG-dan daha ucuz və proqnozlaşdırmaq daha asandır. Sual budur ki, istifadəçiləriniz onlardan ehtiyac duyduqlarını alırlarmı.
Nə vaxt RAG-a keçməlisiniz?
İstifadəçilərin nə soruşduğu ilə məzmununuzun necə təşkil edildiyi arasındakı boşluq böyük olduqda RAG özünü doğruldur. Bir neçə əlamət:
İstifadəçilər öz sözləri ilə soruşurlar
Əgər axtarış jurnallarınız heç nə qaytarmayan və ya yanlış səhifəni göstərən çoxlu sorğular göstərirsə, açar söz axtarışı lüğət baxımından uğursuz olur. RAG mənanı uyğunlaşdırır, buna görə də “divanı iki həftədən sonra qaytara bilərəmmi” sualı, heç vaxt “divan” sözünü işlətməsə belə, geri qaytarma siyasətini tapır.
Cavablar sənədlər arasında yayılıb
Düzgün cavab zəmanətdən bir cümlə, göndərmə səhifəsindən başqa bir cümlə və məhsul vərəqindən bir rəqəm tələb etdikdə, axtarış nəticələri siyahısı istifadəçini bunları toplamağa məcbur edir. RAG isə onları birləşdirə bilər.
Məzmununuz genişdir və tez-tez dəyişir
Qaydalara əsaslanan botlar hər axını əllə yeniləmək üçün birinə ehtiyac duyur. RAG sənədlərinizin ən son versiyasını yenidən indeksləndikdən sonra oxuyur, ona görə də texniki xidmət skript yazmaqdan mənbə məzmununu düzgün saxlamağa keçir.
Nə vaxt keçməməlisiniz?
Ənənəvi alətlərin daha yaxşı seçim olduğu aydın hallar var.
Əgər ilk 20 sualınız trafikinizin çox hissəsini əhatə edirsə, yaxşı yazılmış FAQ səhifəsi və skriptli bot onlara daha sürətli, daha ucuz və uydurma cavab riski olmadan cavab verəcəkdir. Hər hansı bir şey qurmazdan əvvəl dəstək biletlərinizə baxın.
Əgər cavablar tarif dərəcələri, dərman dozaları və ya müqavilə şərtləri kimi dəqiq və hüquqi cəhətdən məcburi olmalıdırsa, yaradılmış parafraza öhdəlikdir. Bunun əvəzinə səlahiyyətli səhifəyə keçid edin və ya mənbə mətnini olduğu kimi göstərin.
Əgər sənədləriniz bir-birinə ziddirsə, RAG ziddiyyəti əks etdirəcək, bəzən yanlış versiyanı seçəcək. Məzmunu təmizləmək isteğe bağlı əlavə deyil, ilkin şərtdir.
Və əgər məzmunun sahibi yoxdursa, sistem çürüyəcək. İndeksdəki köhnəlmiş sənədlər əminliklə çatdırılan köhnəlmiş cavablar yaradır.
Seçimlər necə müqayisə olunur?
Qərarı başqalarına təqdim edərkən yan-yana görünüş kömək edir.
- Quraşdırma səyi: FAQ səhifəsi aşağı; açar söz axtarışı aşağıdan ortaya; skriptli bot orta; RAG orta-yüksək.
- İstismar xərcləri: FAQ sıfıra yaxın; axtarış aşağı; skriptli bot aşağı; RAG daha yüksək, çünki hər cavab bir modeli çağırır.
- Müxtəlif ifadələrin idarə edilməsi: FAQ zəif; açar söz axtarışı orta; skriptli bot zəif; RAG yaxşı.
- Yanlış cavab riski: FAQ aşağı; axtarış aşağı; skriptli bot aşağı; RAG sınaq olmadan orta.
- Texniki xidmət: FAQ və botlar əl ilə yeniləmə tələb edir; RAG təmiz mənbə məzmunu və yenidən indeksləmə tələb edir.
Düzgün RAG layihəsi necə görünür?
Memarlıqla deyil, qiymətləndirmə ilə başlayın. Axtarış jurnallarından, dəstək biletlərindən və satış zənglərindən 50-100 real sual toplayın və hər biri üçün düzgün cavabı yazın. Bu dəst sistemin hər versiyasını mühakimə edəcəyiniz yoldur.
Sonra işləyə biləcək ən sadə boru kəmərini qurun: OpenAI-ın fayl axtarışı, Google-un Vertex AI Search, Azure AI Search kimi idarə olunan seçim və ya Pinecone kimi host edilmiş vektor verilənlər bazası və əsas model. Neçə test sualına düzgün cavab verdiyini və neçəsini rədd etməli olduğu halda rədd etdiyini ölçün. Yalnız test dəsti xüsusi bir uğursuzluq göstərdikdə, yenidən sıralama və ya hibrid açar söz üstəgəl vektor axtarışı kimi mürəkkəblik əlavə edin.
Ehtiyat plan saxlayın. Sistem əmin olmadıqda, bunu deməli və təxmin etmək əvəzinə bir keçid və ya insan təklif etməlidir.
Alien Road RAG-ı necə tətbiq edir
Tipik bir əməkdaşlıqda məzmun və sual auditi ilə başlayırıq: sayt axtarış jurnallarını, dəstək bileti mövzularını və onlara cavab verməli olan sənədləri çıxarırıq. Bir çox layihə burada dayanır, çünki audit on FAQ cavabını yenidən yazmağın problemin çox hissəsini həll etdiyini göstərir. RAG əsaslandırıldıqda, mənbə sənədlərini təmizləyir və etiketləyirik, müştərinin dəstək komandası ilə test sualları dəstini qururuq və çat vidceti və ya daxili alətlə əlaqəli idarə olunan axtarış boru kəmərini qururuq.
İşə salınmazdan əvvəl sistem test dəstində razılaşdırılmış dəqiqlik həddini keçməlidir. İşə salındıqdan sonra hesabatlar cavablandırılmış və cavablandırılmamış sualları, insanlara ötürülmələri və məzmun planına əlavə ediləcək yeni sualları əhatə edir. Məsələn, elektron ticarət müştərisinin köməkçisi çatdırılma və geri qaytarma suallarını cari siyasət səhifələrindən cavablandıra bilər, hər cavab öz mənbəyinə keçid edir.
Bu həftə haradan başlamalı
Son üç ayın sayt axtarış sorğularını və dəstək bileti mövzularını ixrac edin. Onları mövzuya görə qruplaşdırın və cari səhifələrinizin artıq hansılara yaxşı cavab verdiyini qeyd edin. Əgər çoxu əhatə olunubsa, əvvəlcə həmin səhifələri təkmilləşdirin. Əgər bir çox sual sənədlər arasında qalırsa və ya məzmununuzun istifadə etmədiyi ifadələrdən istifadə edirsə, RAG üçün real bir vəziyyətiniz və onu qurmaq üçün hazır test dəstiniz var.
Oxumağa davam edin: Süni intellekt optimallaşdırması · Süni intellekt optimallaşdırması