İncə tənzimləmə, əvvəlcədən təlim keçmiş dil və ya görüntü modelini öz nümunələriniz üzərində daha da təlim etməklə xüsusi bir tapşırığa uyğunlaşdırır. Low-Rank Adaptation (LoRA) termini, bütün model əvəzinə kiçik adapter çəkilərini təlim edən, hesablama xərclərini və yaddaş tutumunu azaldan bir metoddur. Tətbiq yoxlama siyahısı nə vaxt incə tənzimləmə etməli, məlumatları necə hazırlamalı, necə qiymətləndirməli və necə təhlükəsiz şəkildə tətbiq etməli olduğunuzu əhatə edir.
LoRA 2021-ci ildə Microsoft tədqiqatçıları tərəfindən təqdim edilmiş və Llama, Mistral və Qwen kimi açıq çəkili modelləri, eləcə də Stable Diffusion kimi görüntü modellərini uyğunlaşdırmaq üçün standart halına gəlmişdir. OpenAI və Google daxil olmaqla host provayderləri, bəzi modellər üçün öz idarə olunan incə tənzimləmə xidmətlərini təklif edir və çox vaxt arxa planda oxşar parametr-effektiv metodlardan istifadə edirlər.
Ümumiyyətlə incə tənzimləmə etməlisinizmi?
Çox vaxt yox. Bir çox marketinq tapşırıqları yaxşı sorğular, sorğu daxilindəki nümunələr və ya cavab zamanı modelə sənədlərinizi ötürən axtarışla genişləndirilmiş generasiya (RAG) ilə daha yaxşı həll olunur. İncə tənzimləmə, eyni dar tapşırıq yüksək həcmdə təkrarlandıqda və yalnız sorğular qeyri-ardıcıl nəticələr verdikdə faydalıdır.
İncə tənzimləmə üçün yaxşı səbəblər
- Modelin daim pozduğu sabit çıxış formatı, məsələn, strukturlaşdırılmış məhsul atributları
- Minlərlə çıxışda sorğuların qoruya bilmədiyi brend səsi
- Dəstək biletlərini və ya rəyləri kateqoriyalara ayırmaq kimi təsnifat tapşırıqları
- Tapşırığı böyük bir modeldən daha kiçik, tənzimlənmiş bir modelə keçirməklə xərcləri azaltmaq
- Görüntü LoRA istifadə edərək görüntü generasiyası üçün ardıcıl vizual üslub
Pis səbəblər
- Qiymətlər və ya stok səviyyələri kimi tez-tez dəyişən faktları modelə öyrətmək
- Hələ dəqiq müəyyən etmədiyiniz bir tapşırığı düzəltmək
- Bir neçə yüzdən az yaxşı nümunəyə sahib olmaq
Addım 1: tapşırığı və uğur meyarlarını müəyyən edin
Girişi, gözlənilən çıxışı və ölçülə bilən şərtlərlə “yaxşı” sözünün nə demək olduğunu yazın. “Daha yaxşı mətn” kimi qeyri-müəyyən məqsədlər test edilə bilməz və test edilə bilməyən tapşırıq tənzimlənə bilməz. Məhsul təsviri tapşırığı üçün “yaxşı” dedikdə, düzgün atributlar, müəyyən uzunluq diapazonu, qadağan olunmuş iddiaların olmaması və rəyçi tərəfindən üslub reytinqi nəzərdə tutula bilər.
Sonra, hər hansı bir təlimdən əvvəl qiymətləndirmə dəsti qurun. 100-300 real giriş götürün, ideal çıxışları yazın və ya təsdiqləyin və onları kənarda saxlayın. Bu dəst heç vaxt təlimə daxil edilmir. Hər bir model versiyası buna qarşı qiymətləndiriləcək.
Addım 2: təlim məlumatlarını hazırlayın
Keyfiyyət kəmiyyətdən üstündür. Dar tapşırıqlar üçün diqqətlə yoxlanılmış bir neçə yüz nümunə çox vaxt minlərlə səs-küylü nümunədən daha yaxşı nəticə verir. Dublikatları silin, formatlama səhvlərini düzəldin və nümunələrin çox qısa girişlər və ya çatışmayan sahələr kimi kənar halları əhatə etdiyinə əmin olun.
Məlumat hüquqlarını və məxfiliyi yoxlayın. Müştəri e-poçtları, dəstək çatları və rəylər şəxsi məlumatları ehtiva edə bilər. Adları, e-poçtları və telefon nömrələrini silin və müştərilərinizin harada olmasından asılı olaraq GDPR və ya KVKK çərçivəsində təlim üçün məlumatlardan istifadə etmək üçün hüquqi əsasınızın olduğunu təsdiqləyin.
Addım 3: baza modelini və parametrləri necə seçirsiniz?
Tapşırığı yaxşı yerinə yetirə bilən ən kiçik modeli seçin, çünki kiçik modelləri işlətmək daha ucuzdur. Əvvəlcə tənzimlənməmiş baza modelini qiymətləndirmə dəstinizdə test edin; bu nəticə ilə hədəfiniz arasındakı fərq, incə tənzimləmənin nə qədər iş görməli olduğunu göstərir.
LoRA üçün əsas parametrlər rank (çox vaxt 8-dən 64-ə qədər), öyrənmə sürəti, epoxaların sayı və hansı təbəqələrin adapter alacağıdır. Hugging Face PEFT, Axolotl və Unsloth kimi kitabxanalar mexanikanı idarə edir. Baza modelini 4-bit dəqiqliklə yükləyən bir variant olan QLoRA, orta ölçülü modelləri tək bir GPU-da tənzimləməyə imkan verir.
Addım 4: dürüst qiymətləndirin
Hər bir təlim keçmiş versiyanı kənarda saxlanılan qiymətləndirmə dəstində qiymətləndirin. Mümkün olduqda formatın etibarlılığı, tələb olunan sahələr və uzunluq kimi avtomatik yoxlamalardan, nümunə üzərində ton və dəqiqlik üçün isə insan rəyindən istifadə edin.
Həddindən artıq uyğunlaşmadan (overfitting) ehtiyatlı olun: təlim itkisi azalır, lakin qiymətləndirmə balları dayanır və ya düşür. Bu baş verərsə, daha böyük bir rank sınamazdan əvvəl epoxaları azaldın, öyrənmə sürətini aşağı salın və ya daha müxtəlif nümunələr əlavə edin. Həmçinin ümumi davranışı test edin. Bir tapşırıq üzərində çox sərt tənzimlənmiş model əsas təlimatlara əməl etməkdə pisləşə bilər və ya təlim ifadələrini sözbəsöz təkrarlamağa başlaya bilər.
Addım 5: istehsal tətbiqini planlaşdırın
Tətbiq seçimləri modeldən asılıdır. Host edilmiş incə tənzimləmələr provayderin endpoint-ində işləyir. LoRA adapterləri olan açıq çəkili modellər vLLM və ya Text Generation Inference kimi çıxarış serverlərində işləyə bilər və bəzi qurğular bir baza modelində bir neçə adapter yükləyir ki, bu da müxtəlif müştərilər və ya tapşırıqlar üçün adapterləriniz olduqda xərcləri aşağı saxlayır.
İstehsal yoxlama siyahısı
- Hər bir adapteri versiyalaşdırın və onun təlim məlumatlarını və qiymətləndirmə balını qeyd edin
- Sürətli geri qayıtma üçün əvvəlki versiyanı hazır saxlayın
- Sonrakı baxış üçün şəxsi məlumatları silinmiş giriş və çıxışları qeyd edin
- Trafikin bir hissəsini əvvəlcə yeni versiyaya yönləndirin və müqayisə edin
- Yeni təsdiqlənmiş nümunələr üzərində yenidən təlim keçmək üçün aylıq kimi bir baxış dövrü təyin edin
Xərclərə nəzarət
Təlim xərcləri adətən miqyasda çıxarışla müqayisədə kiçikdir. Aylıq sorğuları, sorğu başına orta tokenləri və token və ya GPU saatı başına qiyməti hesablayın, sonra tənzimlənmiş kiçik modeli tənzimlənməmiş böyük modelə qarşı müqayisə edin. Tənzimlənmiş seçim, böyük model bir qədər yaxşı nəticə göstərsə belə, çox vaxt işləmə xərclərinə görə qalib gəlir. Gizli xərcləri də daxil edin: məlumatların hazırlanmasına, çıxışların nəzərdən keçirilməsinə və tapşırıq dəyişdikdə yenidən təlimə sərf olunan saatlar. İşçi heyətinin vaxtını nəzərə almayan bir pilot kağız üzərində olduğundan daha ucuz görünəcək.
Alien Road incə tənzimləmə və LoRA-nı necə tətbiq edir
Tipik bir əməkdaşlıqda kəşfiyyat, sorğulama və ya axtarışın problemi artıq həll edib-etmədiyini yoxlamaqla başlayır. Bir çox sorğu orada bitir ki, bu da müştərini təlim layihəsindən xilas edir. Həcm və ardıcıllıq ehtiyacları bunu əsaslandırdıqda, biz tapşırığı müəyyən edirik, müştərinin komandası ilə qiymətləndirmə dəstini qururuq və məlumatları şəxsi məlumat və hüquqlar üçün yoxlayırıq.
Quraşdırma baza modelinin seçilməsini, LoRA təlim qaçışlarını və baza modelinə qarşı yan-yana qiymətləndirməni əhatə edir. Ölçmə işə salındıqdan sonra eyni meyarlara qarşı nəzərdən keçirilən qeydə alınmış nümunələr vasitəsilə davam edir və hesabat keyfiyyət ballarını, min çıxış başına xərci və hər hansı bir sürüşməni göstərir. Hər bir adapter versiyası sənədləşdirilir ki, müştəri audit edə bilsin və ya geri qayıda bilsin.
Bu həftə haradan başlamalı
Bir təkrarlanan tapşırıq seçin və ideal çıxışları olan iyirmi real giriş yazın. Onları ən yaxşı sorğunuzla cari modelinizdən keçirin və nəticələri qiymətləndirin.
Əgər ondan səkkizi standartlara cavab vermirsə, daha bir neçə yüz nümunə toplayın. Bu, LoRA pilotunun məna kəsb etməyə başladığı nöqtədir.
Oxumağa davam edin: Süni intellekt optimallaşdırması · Süni intellekt optimallaşdırması