La plupart des petites entreprises devraient commencer avec de bons prompts et, si nécessaire, la récupération de leurs propres documents, pas avec le fine-tuning. Le fine-tuning et LoRA deviennent intéressants lorsque vous avez des centaines d’exemples de haute qualité d’une tâche répétée et qu’un prompt seul ne peut pas obtenir le style ou le format correctement de manière cohérente, par exemple en classant des demandes ou en écrivant des descriptions de produits dans un style maison fixe.
Le fine-tuning signifie continuer à entraîner un modèle de langage ou d’image existant sur vos propres exemples afin qu’il apprenne un modèle. Le fine-tuning complet met à jour tous les poids d’un modèle, ce qui est coûteux. LoRA, abréviation de low-rank adaptation, est une technique introduite par des chercheurs de Microsoft qui entraîne un petit ensemble de paramètres supplémentaires sur un modèle gelé. Le résultat est un fichier adaptateur léger qui modifie le comportement du modèle à une fraction du coût. LoRA est largement utilisé avec des modèles ouverts comme Llama, Mistral et Stable Diffusion, et les services de fine-tuning hébergés d’OpenAI, Google et d’autres offrent des résultats similaires sans gérer de matériel.
Quel problème le fine-tuning résout-il réellement ?
Le fine-tuning enseigne la forme, pas les faits. Il est bon pour amener un modèle à suivre un format, adopter un ton ou classer les entrées comme le fait votre équipe. C’est un mauvais moyen d’enseigner des informations changeantes comme les prix, les niveaux de stock ou les heures d’ouverture, car ils changent plus vite que vous ne pouvez réentraîner.
Pour les faits, la génération augmentée par récupération (RAG) est généralement meilleure : le modèle recherche des documents actuels au moment de la question. De nombreuses entreprises qui pensent avoir besoin de fine-tuning ont en fait besoin d’une FAQ bien organisée et d’une configuration de récupération.
Avez-vous besoin de fine-tuning ou d’un meilleur prompt ?
Posez trois questions avant de dépenser de l’argent :
- Avez-vous essayé un prompt détaillé avec cinq bons exemples ou plus ? Le few-shot prompting résout de nombreux problèmes de style.
- La tâche est-elle répétée au moins des centaines de fois par mois ? Sinon, éditer les sorties à la main est moins cher.
- Avez-vous au moins quelques centaines de paires d’entrée et de sortie propres que vous seriez heureux qu’un modèle copie ?
Si les réponses sont non, oui et non, la prochaine étape honnête est de collecter des exemples, pas de s’entraîner.
Quelles tâches de petite entreprise conviennent au fine-tuning ?
Les bons candidats ont une entrée claire, une sortie claire et une norme cohérente. Un magasin de meubles avec 3 000 produits pourrait ajuster un modèle pour transformer des feuilles de calcul de fournisseurs en descriptions de produits avec sa propre voix. Une clinique pourrait entraîner un classificateur qui trie les demandes Web en rendez-vous, question de prix, plainte ou autre, afin que le personnel réponde d’abord aux bonnes.
Les LoRA d’image conviennent aux entreprises qui ont besoin de nombreux visuels dans un style cohérent, comme des publications sociales illustrées. Ils ne doivent jamais être entraînés sur des images dont vous n’avez pas les droits, et l’entraînement sur le visage d’une personne réelle nécessite le consentement de cette personne.
De quelles données avez-vous besoin ?
La qualité compte plus que la quantité. Quelques centaines d’exemples soigneusement vérifiés surpassent souvent des milliers d’exemples incohérents, car le modèle copie les erreurs aussi fidèlement qu’un bon travail.
Préparation d’un ensemble d’entraînement
- Collectez des exemples réels de votre propre travail : descriptions approuvées, demandes correctement étiquetées, réponses que vos meilleurs employés ont écrites.
- Supprimez les données personnelles telles que les noms, numéros de téléphone et adresses, sauf si vous avez une base légale claire.
- Rendez le format identique sur tous les exemples, généralement un fichier JSONL avec des champs d’entrée et de sortie.
- Gardez 10 à 20 pour cent des exemples pour les tests ; n’entraînez jamais dessus.
- Écrivez une norme d’une page décrivant à quoi ressemble une bonne sortie, afin que vous puissiez noter les résultats.
Combien cela coûte-t-il et est-ce difficile ?
Il existe deux voies générales. Le fine-tuning hébergé d’un fournisseur de modèles signifie télécharger un fichier, payer par jeton d’entraînement, puis par utilisation. Il ne nécessite aucun matériel et peu de code. Le LoRA auto-hébergé sur un modèle ouvert nécessite un GPU, soit loué dans le cloud, soit local, plus quelqu’un à l’aise avec des outils comme la bibliothèque PEFT de Hugging Face.
Les prix changent souvent, alors vérifiez les pages de prix actuelles. Pour une petite entreprise, le coût le plus important est généralement le temps du personnel pour préparer et vérifier les données, et le travail continu de réentraînement lorsque votre norme change.
Comment savoir si cela a fonctionné ?
Comparez le modèle ajusté avec votre meilleur prompt sur les exemples retenus. Notez les deux par rapport à votre norme d’une page. Si la version ajustée n’est pas clairement meilleure, gardez le prompt ; il est plus facile à changer demain.
Pour les classificateurs, mesurez la précision par catégorie, pas globalement. Un modèle qui a raison 90 pour cent du temps mais manque la plupart des plaintes est un problème.
Quels sont les risques du fine-tuning ?
Un modèle ajusté copie vos données, y compris leurs défauts. Si vos descriptions de produits précédentes contiennent des affirmations obsolètes ou une orthographe incohérente, le modèle les répétera avec confiance. Les exemples propres ne sont pas facultatifs.
Il existe également un risque de maintenance. Lorsque le modèle de base est retiré ou mis à jour, votre fine-tuning peut devoir être refait. Gardez le fichier d’entraînement, l’ensemble de test et les scores dans un dossier afin que le réentraînement soit un travail de routine plutôt qu’un nouveau projet.
Comment Alien Road applique le fine-tuning et LoRA
Dans un engagement typique, le premier livrable est souvent une recommandation de ne pas encore faire de fine-tuning. Nous examinons la tâche du client, testons un prompt structuré avec des exemples et n’avançons que si l’écart est réel.
Lorsque le fine-tuning a du sens, nous aidons à construire et à nettoyer l’ensemble d’entraînement à partir du travail approuvé du client lui-même, exécutons un fine-tuning hébergé ou un LoRA sur un modèle ouvert, et le comparons avec la ligne de base du prompt sur les données retenues. Le client reçoit un bref rapport avec des scores, un coût par millier de sorties et un plan de réentraînement, et conserve la propriété de l’ensemble de données.
Par où commencer cette semaine
Choisissez la tâche de texte unique que votre équipe répète le plus. Écrivez la norme d’une page pour celle-ci, puis démarrez un dossier partagé d’exemples approuvés, en ajoutant chaque bon exemple que votre équipe produit.
En parallèle, créez un prompt avec cinq de ces exemples et testez-le sur dix nouvelles entrées. Si le prompt vous mène déjà la majeure partie du chemin, vous vous êtes épargné un projet d’entraînement. Sinon, votre dossier devient déjà l’ensemble de données.
Fixez une date de révision dans un mois. D’ici là, vous saurez si l’écart entre la sortie du prompt et votre norme se comble de lui-même ou si l’entraînement est vraiment la prochaine étape.
Continuer la lecture : Optimisation par IA · Optimisation par IA