Fine-tuning ve LoRA, B2B pazarlama ekiplerinin bir dil modelini kendi tarzlarına, formatlarına ve sınıflandırma kurallarına uyarlamalarına olanak tanır. Fine-tuning, bir modeli örnekler üzerinde daha da eğitir; LoRA (düşük dereceli adaptasyon) ise tüm model yerine küçük adaptör ağırlıklarını eğiterek bunu ucuza mal eder. Her ikisi de yalnızca prompting ve retrieval denendikten sonra ve istediğiniz çıktının yüzlerce iyi örneğine sahip olduğunuzda mantıklıdır.
Fine-tuning ve LoRA aslında neyi değiştirir?
Bir temel modelin genel yeteneği vardır. Fine-tuning, davranışını örneklerinize doğru kaydırır: ton, yapı, etiket seçimleri, çıktı formatı. Yeni gerçekleri güvenilir bir şekilde öğretmez. Hedef “en son ürün özelliklerimizi bilmek” ise, retrieval-augmented generation (RAG) daha iyi bir araçtır, çünkü gerçekler değişir ve RAG güncel belgeleri okur.
LoRA, Microsoft araştırmacılarının 2021 tarihli bir araştırma makalesinden bir tekniktir. Orijinal modeli dondurur ve bazı katmanlara eklenen küçük matrisleri eğitir. Adaptör küçük bir dosyadır, görev başına değiştirilebilir ve tam fine-tuning’den çok daha az GPU belleğine ihtiyaç duyar. QLoRA, nicelleştirilmiş bir model üzerinde çalışarak daha da ileri gider, bu da birçok açık model için tek bir güçlü GPU’da eğitimi mümkün kılar.
Bir B2B ekibi ne zaman fine-tuning yapmalıdır?
Bir karar sırası kullanın. Çoğu ekip birinci veya ikinci adımda durur.
- Net talimatlar ve birkaç örnekle prompting.
- Retrieval, sorun bilgi eksikliği olduğunda.
- Fine-tuning, model yeterince bildiğinde ancak formatınızı veya tarzınızı güvenilir bir şekilde takip etmediğinde veya daha küçük bir fine-tuned model büyük ve pahalı bir modelin yerini alabildiğinde.
İyi B2B adayları: gelen potansiyel müşterileri kendi segmentlerinize sınıflandırmak, içeriği taksonominize göre etiketlemek, ürün sürüm notları gibi katı bir şirket formatında kısa çıktılar yazmak ve RFP’lerden alanları sabit bir yapıda çıkarmak. Kötü adaylar: uzun biçimli düşünce liderliği, güncel gerçekler gerektiren her şey ve birkaç yüzden az örneği olan görevler.
Nerede fine-tuning yapabilirsiniz?
Barındırılan seçenekler arasında seçili GPT modelleri için OpenAI’ın fine-tuning API’si, Gemini ve açık modeller için Google Vertex AI, birkaç model ailesi için Amazon Bedrock, Azure AI Foundry ve Mistral’in platformu bulunur. Bunlar altyapıyı gizler; verileri yüklersiniz ve eğitim ve kullanım için ödeme yaparsınız.
Llama, Mistral, Qwen veya Gemma gibi açık ağırlıklı modeller için Hugging Face PEFT ve TRL, Unsloth ve Axolotl gibi kütüphaneler kendi veya kiralık GPU’larınızda LoRA eğitimini çalıştırır. Bu yol daha fazla kontrol sağlar ve verileri ortamınızda tutar, ancak mühendislik süresi maliyetiyle.
Eğitim verilerini nasıl hazırlarsınız?
Veri kalitesi sonucu belirler. Birkaç yüz temiz örnek, binlerce gürültülü örnekten daha iyidir.
Gerçek örnekleri toplayın
Girdileri ve ekibinizin kabul ettiği çıktıları çekin: satış ekibinin atadığı segmentle potansiyel müşteri formu metinleri, yayınlanan sürüm notuyla ürün notları, çıkarılan alanlarla RFP bölümleri. Kullanmanıza izin verilmeyen kişisel verileri içeren her şeyi kaldırın veya anonimleştirin.
Çıktıları tutarlı hale getirin
İki kişi benzer potansiyel müşterileri farklı şekilde etiketlediyse, model kafa karışıklığını öğrenir. Bir örneği inceleyin, etiketleme kuralları yazın ve çelişkili örnekleri düzeltin. Bu adım genellikle eğitimden daha uzun sürer.
Verileri bölün
Eğitim sırasında modelin asla görmediği, genellikle yüzde 10 ila 20 civarında bir test seti ayırın. Tüm kalite rakamları bu setten gelir.
Fine-tuned bir modeli nasıl değerlendirirsiniz?
Aynı test setinde üç seçeneği karşılaştırın: en iyi prompt’unuzla temel model, prompt artı few-shot örnekleriyle temel model ve fine-tuned model. Görev metriklerini kullanın: sınıflandırma için doğruluk ve F1, çıkarma için alan düzeyinde doğruluk, yazma için bir puanlama rubriği.
- Fine-tuned model açıkça daha iyi ve çağrı başına daha ucuz: benimseyin.
- Fine-tuned model prompting ile benzer: prompting’e devam edin; bakımı daha kolaydır.
- Fine-tuned model bazı kategorilerde daha kötü: onlar için örnekler ekleyin ve yeniden eğitin.
Gerilemeleri de kontrol edin. Bir formatta sıkı bir şekilde ayarlanmış bir model, yeni talimatları takip etmede daha kötü hale gelebilir. Ne değiştiğini görmek için birkaç genel görevi test edin.
Maliyeti nedir ve kim bakımını yapar?
Maliyetler veri hazırlama süresini, eğitim çalıştırmalarını, barındırma veya çağrı başına ücretleri ve taksonominiz, ürünleriniz veya tarzınız değiştiğinde yeniden eğitimi içerir. LoRA eğitim maliyetini düşük tutar, ancak veri işi aynı kalır. Veri setini üç ayda bir güncelleyen ve her değişiklikten sonra değerlendirmeyi yeniden çalıştıran bir sahip planlayın. Sahibi olmayan fine-tuned bir model, iş onun etrafında değişirken sessizce eskir.
Yönetişim B2B’de önemlidir. Hangi verilerin her model sürümünü eğittiğini, kimin onayladığını ve adaptörlerin nerede saklandığını belgeleyin. Müşteriler ve denetçiler giderek daha fazla soruyor.
Hangi hatalar bir fine-tuning bütçesini boşa harcar?
Üçü tekrar tekrar ortaya çıkar. Ekipler gerçekleri eklemek için fine-tuning yapar, sonra modelin hala eski bilgilerle yanıt verdiğini görürler. Kimsenin incelemediği çıktılar üzerinde eğitirler, bu yüzden model geçmiş hataları sadakatle kopyalar. Ve temel çizgiyi atlarlar, bu yüzden kimse ayarlanmış modelin iyi yazılmış bir prompt’tan daha iyi olup olmadığını söyleyemez. Dördüncüsü daha az belirgindir: sağlayıcının daha sonra emekliye ayırdığı bir model sürümü üzerinde eğitim yapmak, bu da yeniden oluşturmayı zorunlu kılar. Barındırılan bir temel model seçmeden önce kullanımdan kaldırma zaman çizelgelerini sorun ve veri setinizi başka bir modelde yeniden kullanabileceğiniz bir formatta tutun.
Alien Road, B2B müşterileri için fine-tuning’i nasıl uygular
Tipik bir çalışmada, AI Optimization ekibimiz önce görevi prompting ve retrieval ile çözmeye çalışır ve sonuçları bir test setinde kaydeder. Yalnızca net bir boşluk kaldığında, veri işi ve çalışma maliyetinin yazılı bir tahminiyle fine-tuning öneririz.
Onaylanan projeler için müşterinin örneklerini ekibiyle birlikte temizler ve etiketleriz, açık bir model üzerinde bir LoRA adaptörü eğitiriz veya barındırılan bir fine-tuning hizmeti kullanırız ve bunu yalnızca prompt temel çizgisiyle karşılaştırırız. Adaptör ve veri seti müşterinin ortamında kalır.
Aylık raporlar, ayrılmış setteki doğruluğu, büyük model temel çizgisine karşı çağrı başına maliyeti ve puanlar düştüğünde yeniden eğitim önerisiyle taze örneklerdeki sapma kontrollerini kapsar.
Bu hafta nereden başlamalı
Ekibinizin elle yaptığı bir sınıflandırma görevini seçin, örneğin gelen potansiyel müşterileri etiketlemek. İnsanların atadığı etiketlerle 300 geçmiş örneği dışa aktarın, tutarlılık için 50’sini kontrol edin ve temiz sette güçlü bir prompt’u test edin. Doğruluk hala satışın ihtiyaç duyduğundan düşükse, bir fine-tuning adayınız ve bir veri setinin başlangıcınız var.
Okumaya devam edin: Yapay Zekâ Optimizasyonu · Yapay Zekâ Optimizasyonu