Axtarışla artırılmış nəsil (RAG) bir AI modelinin əvvəlcə öz sənədlərinizdə müvafiq hissələri axtardığı, sonra isə bu hissələrdən kontekst kimi istifadə edərək cavab yazdığı bir metoddur. RAG pilotunu istehsala keçirmək üçün təmiz mənbə inventarı, məntiqli parçalama, sınaqdan keçirilmiş axtarış təbəqəsi, məlum cavabları olan qiymətləndirmə dəsti, giriş nəzarəti və monitorinq lazımdır. Qiymətləndirməni atlamaq, pilotların nümayişlərdə yaxşı görünməsinin və real istifadəçilərlə uğursuz olmasının ən çox yayılmış səbəbidir.
RAG, dil modellərini yenidən təlim etmədən şirkət bilikləri əsasında cavab verməyə məcbur etmək üçün standart bir yola çevrildi. Yardım mərkəzini oxuyan bir dəstək köməkçisi, cari qiymət siyahısını sitat gətirən bir satış aləti, siyasət sənədləri üzrə daxili axtarış: bunların hamısı RAG sistemləridir. Model ümumi qalır; bilik sorğu zamanı axtarışdan gəlir, buna görə də sənədi yeniləmək cavabı yeniləyir.
RAG sistemi nədən ibarətdir?
Hər bir RAG quraşdırması, hansı çərçivədən istifadə etməyinizdən asılı olmayaraq, eyni əsas hissələrə malikdir.
- Mənbələr: sistemin cavab verməsini istədiyiniz sənədlər, səhifələr, məhsul lentləri və ya verilənlər bazası cədvəlləri.
- İngestion (daxil etmə): bu mənbələrin yüklənməsi, təmizlənməsi və parçalara bölünməsi.
- Yerləşdirmələr (Embeddings): oxşar mənaların bir-birinə yaxın olması üçün parçaların yerləşdirmə modeli ilə vektorlara çevrilməsi.
- İndeks: pgvector, Pinecone, Weaviate, Elasticsearch və ya OpenSearch kimi vektor verilənlər bazası və ya axtarış sistemi, çox vaxt açar söz axtarışı ilə birləşdirilir.
- Axtarışçı (Retriever): bir sual üçün ən yaxşı parçaları tapan məntiq, bəzən reranker ilə müşayiət olunur.
- Generator: əldə edilmiş parçalardan cavabı yazan dil modeli.
- Tətbiq təbəqəsi: interfeys, jurnalın aparılması, icazələr və rəy.
LangChain və LlamaIndex kimi çərçivələr və Azure AI Search, Google Vertex AI və Amazon Bedrock-dakı idarə olunan seçimlər bu hissələrin bir çoxunu paketləyir.
Faza 1: pilot yoxlama siyahısı
Pilot bir suala cavab verməlidir: axtarış real suallar üçün düzgün məlumatı tapa bilərmi?
- Çatdırılma və geri qaytarılma suallarını cavablandırmaq kimi aydın sahibi olan bir dar istifadə vəziyyəti seçin.
- Biletlərdən, çatdan və ya axtarış jurnallarından 50-100 real sual toplayın.
- Hər biri üçün düzgün cavabı və mənbə sənədini yazın. Bu sizin qiymətləndirmə dəstiniz olur.
- Mənbələri inventarlaşdırın: hər bir sənədi, onun sahibini, yenilənmə tezliyini və hələ də dəqiq olub-olmadığını siyahıya alın.
- Daxil etməzdən əvvəl köhnəlmiş, dublikat və ziddiyyətli sənədləri silin.
- Başlıqla və ya bir neçə yüz sözlə, bir qədər üst-üstə düşməklə sadə parçalama ilə başlayın.
- Yalnız axtarışı sınaqdan keçirin: hər sual üçün düzgün mənbə ən yaxşı nəticələrdədirmi?
- Yalnız bundan sonra generatoru birləşdirin və tam cavabları sınaqdan keçirin.
Məzmunu necə parçalamalı və indeksləşdirməliyəm?
Parçalama modelin nə görə biləcəyinə qərar verir. Çox kiçik parçalar konteksti itirir; çox böyük parçalar aktuallığı azaldır və tokenləri israf edir.
Praktik parçalama qaydaları
- Əvvəlcə sənəd strukturuna görə bölün: başlıqlar, bölmələr, FAQ cütləri, cədvəl sətirləri.
- Sənəd başlığını və bölmə başlığını hər bir parçaya metadata kimi əlavə edin.
- Mənbə URL-ni, son yenilənmə tarixini və giriş səviyyəsini hər bir parça ilə saxlayın.
- Cədvəllərə və məhsul spesifikasiyalarına diqqətlə yanaşın; cədvəli nəsrə çevirmək çox vaxt onu pozur.
Açar söz uyğunluğunu vektor oxşarlığı ilə birləşdirən hibrid axtarış, adətən, xüsusilə yerləşdirmələrin zəif işlədiyi məhsul kodları, adlar və dəqiq ifadələr üçün hər ikisindən daha yaxşı nəticə verir.
Faza 2: istehsal üçün möhkəmləndirmə
Axtarış işlədikdən sonra yoxlama siyahısı etibarlılığa və təhlükəsizliyə keçir.
- Əsaslandırma təlimatları: modelə yalnız təqdim olunan kontekstdən cavab verməyi və cavab olmadıqda bunu deməyi tapşırın.
- Sitatlar: istifadəçilərin və rəyçilərin yoxlaya bilməsi üçün hər cavab üçün mənbə linkini göstərin.
- Giriş nəzarəti: axtarışı istifadəçinin icazələrinə görə süzgəcdən keçirin ki, müştəri heç vaxt yalnız daxili sənədləri görməsin.
- Prompt injection müdafiəsi: əldə edilmiş mətni məlumat kimi qəbul edin. “Əvvəlki təlimatları nəzərə almayın” olan bir sənəd davranışı dəyişməməlidir.
- Şəxsi məlumatlar: daxil etmə zamanı həssas sahələri istisna edin və ya maskalayın.
- Təzəlik: mənbələr dəyişdikdə yenidən daxil etməni planlaşdırın və silinmiş sənədlərdən parçaları silin.
- Ehtiyat variantlar: cavabsız sualları insana və ya əlaqə formasına yönləndirin.
Sistemin kifayət qədər yaxşı olduğunu necə bilirsiniz?
Axtarış və nəsli ayrı-ayrılıqda ölçün. Cavab səhvdirsə, hansı hissənin uğursuz olduğunu bilməlisiniz.
- Axtarış hit dərəcəsi: düzgün mənbənin ən yaxşı nəticələrdə göründüyü qiymətləndirmə suallarının payı.
- Sadiqlik: əldə edilmiş kontekst tərəfindən tam dəstəklənən cavabların payı.
- Cavabın düzgünlüyü: istinad cavabına uyğun gələn cavabların payı.
- İmtina dəqiqliyi: cavab mənbələrdə olmadıqda, sistem bunu deyirmi?
- Cavab başına gecikmə və xərc.
Ragas, TruLens və əsas bulud platformalarındakı qiymətləndirmə xüsusiyyətləri kimi alətlər bunun bir hissəsini avtomatlaşdıra bilər, lakin hər buraxılışda insanların bir nümunəni nəzərdən keçirməsini təmin edin. Başlamazdan əvvəl hər bir metrik üçün hədəf təyin edin və ona çatana qədər canlı yayıma keçməyin.
Faza 3: işə salındıqdan sonra monitorinq
- Hər bir sualı, əldə edilmiş parça ID-lərini və cavabı qeyd edin.
- İstəyə görə şərh ilə bəyənmə və bəyənməmə rəylərini toplayın.
- Cavabsız və aşağı qiymətləndirilmiş sualları həftəlik nəzərdən keçirin; onlar çatışmayan məzmunu aşkar edir.
- Parçalama, yerləşdirmə modeli, prompt və ya generator modelində hər hansı dəyişiklikdən sonra qiymətləndirmə dəstini yenidən işə salın.
- Hansı mənbələrin ən çox əldə edildiyini izləyin; sahiblərinin onların biznes üçün kritik olduğunu bildiyinə əmin olun.
Alien Road axtarışla artırılmış nəsli necə tətbiq edir
Tipik bir əməkdaşlıqda kəşf əsasən məzmun işidir. Biz müştərinin dəstək qutusundan, sayt axtarışından və satış komandasından real suallar toplayırıq, sonra onları mövcud səhifələrə və sənədlərə uyğunlaşdırırıq. Bu, adətən, hər hansı AI cəlb olunmazdan əvvəl düzəldilməli olan boşluqları və ziddiyyətləri göstərir.
Quraşdırma yuxarıdakı yoxlama siyahısına əməl edir: təmizlənmiş mənbələr, metadata ilə struktur əsaslı parçalama, hibrid axtarış və sitatlarla əsaslandırılmış prompt. İcazələr müştərinin İT əlaqəsi ilə dizayn edilir və qiymətləndirmə dəsti biznes sahibi ilə razılaşdırılır ki, hər kəs düzgün cavabın eyni tərifindən istifadə etsin.
Ölçmə hər buraxılışda qiymətləndirmə dəstindən, sistem istifadədə olduqdan sonra isə canlı rəylərdən istifadə edir. Aylıq hesabatda axtarış hit dərəcəsi, sadiqlik, cavabsız sual mövzuları və onların səbəb olduğu məzmun yeniləmələri sadalanır. Eyni məzmun təkmilləşdirmələri çox vaxt üzvi axtarışa da kömək edir, çünki daha aydın səhifələr həm insanlar, həm də axtarış sistemləri üçün suallara daha yaxşı cavab verir.
Bu həftə haradan başlamaq lazımdır
Son 100 müştəri və ya işçi sualını bir kanaldan ixrac edin. Hər biri üçün cavabı olan səhifəni və ya sənədi tapın və yaxşı mənbəyi olmayanları qeyd edin. Həmin cədvəl həm sizin qiymətləndirmə dəstiniz, həm də məzmun boşluğu siyahınızdır və bu, işləməyə dəyər hər hansı RAG pilotunun təməlidir.
Oxumağa davam edin: Süni intellekt optimallaşdırması · Süni intellekt optimallaşdırması