Retrieval-augmented generation (RAG) AI modelinin əvvəlcə müəyyən edilmiş sənədlər toplusunda axtarış apardığı, sonra isə tapdıqlarından istifadə edərək cavab yazdığı bir metoddur. Müştəri kampaniyalarında Alien Road RAG-dan ona görə istifadə edir ki, çatbotlar, kontent qaralamaları və hesabatlar modelin ümumi yaddaşına deyil, müştərinin öz təsdiqlənmiş materiallarına əsaslansın; bu da uydurma faktları azaldır və iddiaları ardıcıl saxlayır.
Bu məqalə RAG-ın necə işlədiyini, hansı kampaniya tapşırıqlarını dəstəklədiyini və kəşfiyyatdan hesabatadək izlədiyimiz prosesi izah edir.
RAG necə işləyir?
RAG sisteminin üç hissəsi var. Sənəd anbarı hissələrə bölünmüş mənbə materiallarını saxlayır. Retriever (axtarış sistemi) adətən vektor yerləşdirmələrini müqayisə edərək və çox vaxt açar söz axtarışı ilə birləşdirərək suala ən uyğun hissələri tapır. Dil modeli daha sonra sualı və həmin hissələri qəbul edərək cavab yazır və ideal halda hansı hissələrdən istifadə etdiyini qeyd edir.
Modelin ümumi biliyi hələ də dili formalaşdırır, lakin faktlar əldə edilmiş mətndən gəlir. Əgər axtarış sistemi uyğun heç nə tapmasa, yaxşı qurulmuş sistem təxmin etmək əvəzinə bunu bildirir.
Niyə sənədləri sadəcə çata yapışdırmırıq?
Tək bir sual üçün sənədi yapışdırmaq işə yarayır. Yüzlərlə məhsul vərəqi, siyasət səhifəsi, keçmiş reklamlar və tədqiqat hesabatları olan kampaniya üçün bu, işə yaramır. Kontekst pəncərələrinin limitləri var, xərclər hər tokenlə artır və əllə yapışdırmaq müxtəlif komanda üzvlərinin fərqli cavablar alması deməkdir.
RAG mənbə dəstini sabit və ortaq edir. Hər kəs və hər alət eyni anbardan soruşur və sənəd dəyişdikdə onu bir dəfə yeniləyirsiniz.
Hansı kampaniya tapşırıqlarında RAG istifadə olunur?
- Məhsul və siyasət sənədlərindən cavab verən veb-sayt və WhatsApp çatbotları
- Texniki spesifikasiyalara uyğun qalmalı olan kontent qaralamaları
- Təsdiqlənmiş iddialar və uyğunluq dili ilə məhdudlaşdırılan reklam mətni generasiyası
- Satış nümayəndəsi üçün düzgün keysi və ya cavabı tapan satış dəstəyi köməkçiləri
- Kampaniya qeydləri və dəyişiklik jurnallarından istifadə edərək performansı izah edən hesabat şərhləri
Ümumi cəhət odur ki, nəticə müştərinin təsdiqlədiyi bir şeylə üst-üstə düşməlidir. RAG modelin sərbəst hərəkət etməsini istədiyiniz açıq yaradıcı işlər üçün daha az faydalıdır.
Alien Road retrieval-augmented generation-ı necə tətbiq edir
Kəşfiyyat
Tipik bir əməkdaşlıq mənbə auditi ilə başlayır. Biz müştərinin məhsulları və iddiaları haqqında həqiqəti özündə saxlayan sənədləri sadalayırıq: spesifikasiya vərəqləri, qiymət qaydaları, tez-tez verilən suallar, hüquqi imtinalar, brend təlimatları. Biz həmçinin köhnəlmiş və ya bir-birinə zidd olan sənədləri qeyd edirik, çünki RAG anbarda nə varsa, o cümlədən köhnə qiymətləri də sədaqətlə təkrarlayacaq.
Quraşdırma
Sənədlər təmizlənir, başlıqlar kimi təbii bölmələr boyunca hissələrə bölünür və məhsul, dil, region və tarix kimi metadata ilə etiketlənir. Biz onları pgvector, Pinecone və ya idarə olunan axtarış xidməti kimi vektor verilənlər bazasında indeksləşdiririk və dəqiq məhsul kodlarının etibarlı şəkildə tapılması üçün açar söz axtarışı ilə cütləşdiririk.
Prompt modeli yalnız əldə edilmiş mətndən cavab verməyə, mənbə sənədini göstərməyə və məlumat çatışmadıqda bunu bildirməyə təlimatlandırır. Çoxdilli müştərilər üçün biz cavab anında tərcüməyə güvənmək əvəzinə hər dil versiyasını indeksləşdiririk.
Qiymətləndirmə
İşə salınmazdan əvvəl biz dəstək biletlərindən, satış e-poçtlarından və müştərinin komandasından götürülmüş, məlum düzgün cavabları olan real suallardan ibarət test dəsti qururuq. Hər bir cavab düzgünlük, sitat dəqiqliyi və imtina edilməli olduğu halda imtina baxımından yoxlanılır. Nəticələr sabitləşənə qədər hissə ölçülərini, axtarış parametrlərini və promptları tənzimləyirik.
Ölçmə və hesabat
İşə salındıqdan sonra hesabatlar nəzərdən keçirilmiş nümunə üzrə cavab dəqiqliyini, yaxşı axtarış nəticəsi olmayan sualları (sənədin çatışmadığının əlaməti) və çatbotdan gələn potensial müştərilər və ya kontent qaralamaları üzərində redaktə vaxtı kimi sistemin dəstəklədiyi kampaniya göstəricilərini əhatə edir. Cavabsız sualların siyahısı çox vaxt növbəti kontent planına çevrilir.
RAG ilə nə səhv gedə bilər?
- Köhnəlmiş sənədlər: anbar keçən ilin qiymətlərini saxlayır, ona görə də bot onları sitat gətirir
- Pis hissələrə bölmə: hissələr arasında bölünmüş cədvəl öz mənasını itirir
- Axtarış uğursuzluqları: istifadəçinin ifadəsi sənəddəkindən fərqlənir və təmiz vektor axtarışı onu tapmır
- Həddindən artıq etibar: komandalar RAG nəticəsinin həmişə düzgün olduğunu güman edir və nəzərdən keçirməyi buraxırlar
- Girişə nəzarət boşluqları: daxili sənədlər ictimai botun anbarına düşür
Bunların hər biri model problemindən çox proses problemidir, buna görə də audit və qiymətləndirmə addımları texniki quraşdırmadan daha çox vaxt aparır.
RAG SEO və AI axtarışı üçün vacibdirmi?
Google-un AI Overviews, Perplexity və ChatGPT search kimi AI axtarış məhsulları oxşar prinsip əsasında işləyir: veb səhifələri əldə et, sonra cavab yarat. Əldə edilməsi və sitat gətirilməsi asan olan, aydın başlıqları, birbaşa cavabları və dəqiq faktları olan səhifələrdən istifadə ehtimalı daha yüksəkdir. Müştərilər üçün RAG sistemlərinin qurulması onların ictimai kontentini necə strukturlaşdırdığımıza təsir edib, çünki biz hansı növ keçidlərin yaxşı nəticə verdiyini görürük.
RAG fine-tuning ilə müqayisədə
Fine-tuning modeli nümunələr üzərində öyrədərək onun çəkilərini dəyişir. Bu, üslubu, formatı və ya dar təsnifat tapşırığını öyrətmək üçün faydalıdır. Bu, dəyişən faktları öyrətmək üçün zəif bir yoldur, çünki hər qiymət yenilənməsi yenidən təlim tələb edəcək və model hələ də yeni faktları köhnələrlə qarışdıra bilər.
RAG faktları modeldən kənarda, dəqiqələr ərzində yeniləyə biləcəyiniz sənədlərdə saxlayır. Məhsulların, təkliflərin və siyasətlərin aylıq dəyişdiyi kampaniya işləri üçün RAG demək olar ki, həmişə daha yaxşı uyğun gəlir. İkisi birləşdirilə bilər: brend tonu üzrə fine-tuned edilmiş model, cari faktların RAG anbarından cavab verir.
- Dəyişən faktlar üçün RAG istifadə edin: qiymətlər, ehtiyatlar, siyasətlər, spesifikasiyalar
- Sabit nümunələr üçün fine-tuning istifadə edin: ton, çıxış formatı, təsnifat etiketləri
- Bir neçə nümunə ilə yaxşı yazılmış prompt artıq işlədikdə heç birini istifadə etməyin
Sənəd anbarını kim saxlayır?
Hər bir RAG sisteminin müştəri tərəfində sənədin nə vaxt dəyişdiyini bilən bir sahibi olmalıdır. Tipik bir quraşdırmada, məhsul menecerləri spesifikasiyaları yeniləyir, hüquq şöbəsi imtinaları yeniləyir və marketinq təklifləri yeniləyir, hər biri öz qovluğunda. Həftəlik yoxlama müəyyən edilmiş yaşdan köhnə sənədləri nəzərdən keçirmək üçün işarələyir.
Bu həftə haradan başlamaq lazımdır
Satış və dəstək komandalarınızın ən çox güvəndiyi on sənədi toplayın və hər birini tarix və sahibinə görə yoxlayın. Köhnəlmiş hər şeyi silin və ya işarələyin. Sonra yanlarında düzgün cavabları olan iyirmi real müştəri sualı yazın. Bu iki siyahı, təmiz mənbələr və test dəsti, sonradan hansı aləti seçməyinizdən asılı olmayaraq, hər hansı RAG layihəsinin təməlidir.
Oxumağa davam edin: Süni intellekt optimallaşdırması · Süni intellekt optimallaşdırması