Çoğu küçük işletme, fine-tuning ile değil, iyi promptlar ve gerekirse kendi belgelerinin aranması ile başlamalıdır. Fine-tuning ve LoRA, yüzlerce yüksek kaliteli tekrarlanan görev örneğiniz olduğunda ve sadece bir prompt, stili veya formatı tutarlı bir şekilde doğru alamadığında (örneğin, sorguları sınıflandırmak veya sabit bir kurumsal dilde ürün açıklamaları yazmak gibi) değerli hale gelir.
Fine-tuning, mevcut bir dil veya görüntü modelini kendi örnekleriniz üzerinde eğiterek bir kalıbı öğrenmesini sağlamak demektir. Tam fine-tuning, modelin tüm ağırlıklarını günceller, bu da maliyetlidir. Microsoft araştırmacıları tarafından tanıtılan ve dondurulmuş bir model üzerinde küçük bir ekstra parametre setini eğiten bir teknik olan LoRA (low-rank adaptation), modelin davranışını maliyetin bir kısmıyla değiştiren hafif bir adaptör dosyası oluşturur. LoRA, Llama, Mistral ve Stable Diffusion gibi açık modellerle yaygın olarak kullanılır ve OpenAI, Google ve diğerlerinin barındırılan fine-tuning hizmetleri, donanım yönetmeden benzer sonuçlar sunar.
Fine-tuning aslında hangi sorunu çözer?
Fine-tuning gerçekleri değil, biçimi öğretir. Modelin bir formatı izlemesini, bir tonu benimsemesini veya girdileri ekibinizin yaptığı gibi sınıflandırmasını sağlamada iyidir. Fiyatlar, stok seviyeleri veya çalışma saatleri gibi değişen bilgileri öğretmek için zayıf bir yoldur, çünkü bunlar yeniden eğitebileceğinizden daha hızlı değişir.
Gerçekler için, retrieval-augmented generation genellikle daha iyidir: model soru anında güncel belgelere bakar. Fine-tuning’e ihtiyacı olduğunu düşünen birçok işletmenin aslında iyi organize edilmiş bir SSS ve arama kurulumuna ihtiyacı vardır.
Fine-tuning’e mi yoksa daha iyi bir prompt’a mı ihtiyacınız var?
Para harcamadan önce üç soru sorun:
- Beş veya daha fazla iyi örnek içeren ayrıntılı bir prompt denediniz mi? Few-shot prompting birçok stil sorununu çözer.
- Görev ayda en az yüzlerce kez tekrarlanıyor mu? Değilse, çıktıları elle düzenlemek daha ucuzdur.
- Modelin kopyalamasından memnun kalacağınız en az birkaç yüz temiz girdi ve çıktı çiftiniz var mı?
Cevaplar hayır, evet ve hayır ise, dürüst bir sonraki adım eğitmek değil, örnek toplamaktır.
Hangi küçük işletme görevleri fine-tuning için uygundur?
İyi adayların net bir girdisi, net bir çıktısı ve tutarlı bir standardı vardır. 3.000 ürünü olan bir mobilya mağazası, tedarikçi tablolarını kendi ses tonuyla ürün açıklamalarına dönüştürmek için bir modeli fine-tune edebilir. Bir klinik, web sorgularını randevu, fiyat sorusu, şikayet veya diğer kategorilere ayıran bir sınıflandırıcı eğitebilir, böylece personel önce doğru olanlara yanıt verir.
Görüntü LoRA’ları, resimli sosyal medya gönderileri gibi tutarlı bir stilde birçok görsele ihtiyaç duyan işletmeler için uygundur. Haklarına sahip olmadığınız görüntüler üzerinde asla eğitilmemelidirler ve gerçek bir insanın yüzü üzerinde eğitim, o kişinin rızasını gerektirir.
Hangi verilere ihtiyacınız var?
Kalite miktardan daha önemlidir. Birkaç yüz dikkatlice kontrol edilmiş örnek, genellikle binlerce tutarsız örnekten daha iyidir, çünkü model hataları iyi iş kadar sadık bir şekilde kopyalar.
Eğitim seti hazırlama
- Kendi işinizden gerçek örnekler toplayın: onaylanmış açıklamalar, doğru etiketlenmiş sorgular, en iyi çalışanlarınızın yazdığı yanıtlar.
- Net bir yasal dayanağınız olmadıkça isimler, telefon numaraları ve adresler gibi kişisel verileri kaldırın.
- Formatı örnekler arasında aynı yapın, genellikle girdi ve çıktı alanları olan bir JSONL dosyası.
- Örneklerin yüzde 10 ila 20’sini test için ayırın; asla bunlar üzerinde eğitmeyin.
- İyi bir çıktının nasıl göründüğünü tanımlayan bir sayfalık bir standart yazın, böylece sonuçları derecelendirebilirsiniz.
Maliyeti ne kadar ve ne kadar zor?
İki genel yol vardır. Bir model sağlayıcısından barındırılan fine-tuning, bir dosya yüklemek, eğitim token’ı başına ve ardından kullanım başına ödeme yapmak demektir. Donanım gerektirmez ve az kod gerektirir. Açık bir model üzerinde kendi kendine barındırılan LoRA, bulutta kiralanmış veya yerel bir GPU ve Hugging Face’in PEFT kütüphanesi gibi araçlarla rahat olan birini gerektirir.
Fiyatlar sık sık değişir, bu yüzden güncel fiyat sayfalarını kontrol edin. Küçük bir işletme için daha büyük maliyet genellikle verileri hazırlamak ve kontrol etmek için harcanan personel zamanı ve standardınız değiştiğinde yeniden eğitmenin devam eden işidir.
İşe yarayıp yaramadığını nasıl anlarsınız?
Fine-tuned modeli, ayrılmış örnekler üzerinde en iyi prompt’unuzla karşılaştırın. Her ikisini de bir sayfalık standardınıza göre puanlayın. Fine-tuned versiyon açıkça daha iyi değilse, prompt’u tutun; yarın değiştirmek daha kolaydır.
Sınıflandırıcılar için, genel olarak değil, kategori bazında doğruluğu ölçün. Yüzde 90 oranında doğru olan ancak şikayetlerin çoğunu kaçıran bir model bir sorundur.
Fine-tuning’in riskleri nelerdir?
Fine-tuned bir model, kusurları da dahil olmak üzere verilerinizi kopyalar. Geçmiş ürün açıklamalarınız eski iddialar veya tutarsız yazımlar içeriyorsa, model bunları güvenle tekrarlayacaktır. Temiz örnekler isteğe bağlı değildir.
Ayrıca bir bakım riski de vardır. Temel model emekli olduğunda veya güncellendiğinde, fine-tune’unuzun yeniden yapılması gerekebilir. Eğitim dosyasını, test setini ve puanları tek bir klasörde tutun, böylece yeniden eğitim yeni bir proje değil, rutin bir iş olur.
Alien Road, fine-tuning ve LoRA’yı nasıl uygular
Tipik bir çalışmada, ilk teslimat genellikle henüz fine-tuning yapmama tavsiyesidir. Müşterinin görevini gözden geçirir, örneklerle yapılandırılmış bir prompt’u test eder ve ancak boşluk gerçekse ilerleriz.
Fine-tuning mantıklı olduğunda, müşterinin kendi onaylanmış işinden eğitim setini oluşturmaya ve temizlemeye, barındırılan bir fine-tuning veya açık bir model üzerinde LoRA çalıştırmaya ve bunu ayrılmış veriler üzerinde prompt temeli ile karşılaştırmaya yardımcı oluruz. Müşteri puanlar, bin çıktı başına maliyet ve bir yeniden eğitim planı içeren kısa bir rapor alır ve veri setinin mülkiyetini korur.
Bu hafta nereden başlamalı
Ekibinizin en çok tekrarladığı tek metin görevini seçin. Bunun için bir sayfalık standardı yazın, ardından onaylanmış örneklerden oluşan paylaşılan bir klasör başlatın ve ekibinizin ürettiği her iyi örneği ekleyin.
Paralel olarak, bu örneklerden beşiyle bir prompt oluşturun ve bunu on yeni girdi üzerinde test edin. Prompt sizi zaten yolun büyük bir kısmına getiriyorsa, kendinizi bir eğitim projesinden kurtarmışsınız demektir. Değilse, klasörünüz zaten veri setine dönüşüyor demektir.
Bir ay sonrasına bir inceleme tarihi belirleyin. O zamana kadar, prompt çıktısı ile standardınız arasındaki boşluğun kendiliğinden kapanıp kapanmadığını veya eğitimin gerçekten bir sonraki adım olup olmadığını bileceksiniz.
Okumaya devam edin: Yapay Zekâ Optimizasyonu · Yapay Zekâ Optimizasyonu