Retrieval-augmented generation (RAG) elə bir texnikadır ki, burada AI modeli əvvəlcə müəyyən edilmiş sənədlər toplusunda müvafiq hissələri axtarır, sonra isə həmin hissələri sübut kimi istifadə edərək cavabını yazır. Marketoloqlar üçün bu, modelin ümumi yaddaşından deyil, sizin öz məhsul vərəqlərinizdən, siyasətlərinizdən və araşdırmalarınızdan cavab verən çatbotlar, köməkçilər və məzmun alətləri deməkdir. Bu, uydurma cavabları azaldır, lakin tamamilə aradan qaldırmır.
RAG addım-addım necə işləyir?
Bu fikir 2020-ci ildə Facebook AI Research-in elmi məqaləsində təsvir edilmiş və o vaxtdan bəri biznes AI köməkçiləri üçün standart modelə çevrilmişdir. O, iki mərhələdə işləyir.
Hazırlıq bir dəfə həyata keçirilir və sənədlər dəyişdikcə yenilənir. Sənədlər hissələrə bölünür, hər bir hissə mənasına uyğun rəqəmlər siyahısı olan embedding-ə çevrilir və vektor verilənlər bazasında və ya axtarış indeksində saxlanılır.
Cavablandırma hər dəfə kimsə sual verdikdə baş verir:
- Sual embedding-ə çevrilir.
- Sistem ən yaxın mənaya malik hissələri, çox vaxt açar söz axtarışı ilə birlikdə əldə edir.
- Həmin hissələr yalnız onlardan cavab vermək təlimatı ilə birlikdə sorğuya daxil edilir.
- Model, ideal halda istifadə olunan hissələrə istinadlarla cavab yazır.
Niyə sadəcə çatbotdan olduğu kimi istifadə etmirsiniz?
Ümumi modellər çox şey bilir, lakin sizin qiymət siyahınızı, geri qaytarma siyasətinizi və ya ən son məhsul buraxılışınızı bilmir. Onlar haqqında soruşulduqda, inandırıcı, lakin yanlış detallar verə bilərlər. Modeli sənədləriniz üzərində incə tənzimləmək (fine-tuning) bahalıdır və tez köhnəlir.
RAG biliyi modeldən kənarda saxlayır. Sənədi yeniləyin və növbəti cavab bunu əks etdirəcək. Siz həmçinin mənbələri göstərə bilərsiniz ki, bu da istifadəçilərə və rəyçilərə iddianı yoxlamağa imkan verir.
RAG marketinq işində harada uyğun gəlir?
Ən yaxşı istifadə halları iki xüsusiyyəti bölüşür: etibarlı məzmunun müəyyən edilmiş korpusu və onun haqqında təkrarlanan suallar.
- Rəsmi səhifələrdən məhsul, qiymət və siyasət suallarını cavablandıran vebsayt köməkçiləri.
- Satışın gücləndirilməsi: nümayəndələrin təsdiqlənmiş sənədlərdən keys stadi, funksiyalar və ya rəqib müqayisələri haqqında soruşması.
- Məzmun istehsalı: şirkətin öz araşdırmaları, məhsul sənədləri və brend bələdçisi əsasında məqalələrin hazırlanması.
- Kampaniya hesabatları, briflər və iclas qeydləri üzrə daxili axtarış.
- Cavabların yardım mərkəzinə uyğun olmalı olduğu müştəri dəstəyi yönləndirməsi.
Bu, mövcud sənədlərə əsaslanmanın orijinallığı məhdudlaşdıra biləcəyi kampaniya ideyaları kimi açıq yaradıcı işlər üçün daha zəif uyğunluq təşkil edir.
Marketoloqlar sıfırdan qurmadan hansı alətlərdən istifadə edə bilərlər?
Hər RAG layihəsi üçün mühəndislərə ehtiyacınız yoxdur. Bir çox alət hazır şəkildə axtarış funksiyasını özündə birləşdirir:
- Yüklənmiş faylları olan xüsusi GPT-lər və ChatGPT layihələri.
- Bilik bazası olan Claude layihələri.
- Sitatlarla yüklənmiş mənbələrdən cavab vermək üçün Google NotebookLM.
- SharePoint və ya vebsaytlara əsaslanan Microsoft Copilot Studio agentləri.
- Yardım mərkəzindən istifadə edən AI agentləri olan Intercom və Zendesk kimi yardım masası platformaları.
Daha böyük və ya müştəriyə yönəlmiş sistemlər üçün komandalar LangChain və ya LlamaIndex kimi çərçivələr və Pinecone, Weaviate və ya pgvector kimi vektor anbarları ilə qururlar və ya bulud provayderlərinin idarə olunan xidmətlərindən istifadə edirlər.
RAG sistemini nə yaxşı və ya pis edir?
Keyfiyyət problemlərinin çoxu modeldən deyil, axtarışdan qaynaqlanır. Əgər düzgün hissə tapılmazsa, model ondan istifadə edə bilməz.
Məzmun keyfiyyəti
Köhnəlmiş, təkrarlanan və ya ziddiyyətli sənədlər ziddiyyətli cavablar yaradır. İndeksləmədən əvvəl mənbə dəstini təmizləyin. Bir cari qiymət səhifəsi, fərqli qiymətləri olan beş köhnə PDF-dən daha yaxşıdır.
Hissələrə bölmə və metadata
Çox kiçik hissələr konteksti itirir; çox böyük olduqda isə aktuallığı azaldır. Məhsul, region və tarix kimi metadata əlavə etmək sistemə axtarışdan əvvəl filtrləməyə imkan verir.
Təlimatlar və imtina
Modelə sənədlər sualı əhatə etmədikdə bilmədiyini söyləməyi tapşırın. Boşluğu etiraf edən köməkçi təxmin edəndən daha təhlükəsizdir.
RAG köməkçisini necə qiymətləndirirsiniz?
Düzgün cavabı və onu ehtiva edən sənədi olan 50-100 real sualdan ibarət test dəsti yaradın. Sonra ölçün:
- Axtarış hit dərəcəsi: düzgün sənəd tapılan hissələrdə göründümü?
- İstinada qarşı cavabın dəqiqliyi.
- Etibarlılıq: cavab mənbələrin dedikləri çərçivəsində qalıbmı?
- İmtina dəqiqliyi: sənədlərin cavab vermədiyi sualları rədd edirmi?
Sənədlər, hissələrə bölmə və ya sorğular dəyişdikdə testi işə salın. Ragas kimi çərçivələr bunun bəzi hissələrini avtomatlaşdıra bilər, lakin nümunənin insan tərəfindən nəzərdən keçirilməsi vacib olaraq qalır.
Alien Road RAG-ı AI optimallaşdırma işində necə tətbiq edir
Tipik bir əməkdaşlıq məzmun auditi ilə başlayır: hansı sənədlər rəsmidir, hansılar köhnəlib və hər birinə kim sahibdir. Bu addım çox vaxt texnologiya seçimindən daha vacibdir, çünki RAG köməkçisi mənbələrində nə varsa, onu miras alır.
Quraşdırma uyğun olan ən yüngül aləti seçir. Daxili satış köməkçisi Claude layihəsi və ya NotebookLM ola bilər; müştəriyə yönəlmiş vebsayt köməkçisi axtarış qeydiyyatı, imtina qaydaları və insana ötürülməsi ilə düzgün qurulma tələb edir. Test sualları dəsti müştərinin satış və ya dəstək komandası ilə birlikdə yazılır.
Ölçmə, test dəstində axtarış hit dərəcəsini, cavab dəqiqliyini və imtina dəqiqliyini, üstəgəl eskalasiya olmadan cavablandırılan suallar kimi canlı göstəriciləri izləyir. Aylıq hesabatlar ən çox cavabsız qalan sualları sadalayır ki, bu da adətən müştərinin öz saytında çatışmayan və ya qeyri-müəyyən məzmuna işarə edir.
RAG axtarış görünürlüyü ilə necə əlaqələnir?
Perplexity, Google-un AI Overviews və ChatGPT axtarışı kimi AI axtarış sistemləri axtarışdan oxşar şəkildə istifadə edir: onlar səhifələri gətirir, sonra onlardan cavablar yazırlar. Aydın, yaxşı strukturlaşdırılmış və sitat gətirmək asan olan məzmun tapılmağa və istinad edilməyə meyllidir. Öz RAG sisteminizi qurmaq, məzmununuzun maşınlar üçün istifadəsinin nə qədər asan olduğunu kəşf etməyin praktik yoludur.
RAG layihəsi adətən neçəyə başa gəlir?
Xərclər üç kateqoriyaya bölünür. Məzmun işi birinci gəlir: sənədlərin təmizlənməsi, yenilənməsi və dublikatların silinməsi, bu da heyət vaxtıdır. Alətlər ikinci gəlir: NotebookLM və ya Claude layihəsi kimi kodsuz seçim mövcud abunəliklərdən kənarda az xərc tələb edir, müştəriyə yönəlmiş xüsusi quruluş isə inkişaf, hostinq və vektor verilənlər bazası əlavə edir.
İstismar xərcləri sonuncu gəlir, əsasən hər sual üçün model çağırışları və hər sorğuya daxil edilən tapılmış hissələrdən əlavə tokenlər. Əksər daxili köməkçilər üçün bunlar az qalır. Çox trafikli ictimai vebsayt köməkçisi üçün aylıq sualları təxmin edin və model seçməzdən əvvəl cavab başına orta tokenlərə vurun.
Bu həftə haradan başlamaq lazımdır
Satış və ya dəstək komandanızın ən çox istifadə etdiyi 20 sənədi toplayın və köhnəlmiş versiyaları silin. Onları NotebookLM və ya Claude layihəsinə yükləyin və müştərilərin ən çox verdiyi 30 sualı verin. Səhv və ya çatışmayan hər cavabı qeyd edin. Bu boşluqlar sizə RAG alətinə, daha yaxşı məzmuna və ya hər ikisinə ehtiyacınız olub-olmadığını göstərir.
Oxumağa davam edin: Süni intellekt optimallaşdırması · Süni intellekt optimallaşdırması