Le fine-tuning entraîne davantage un modèle d’IA existant sur vos propres exemples afin qu’il apprenne un style ou une tâche spécifique, et LoRA (Low-Rank Adaptation) est une méthode qui y parvient en entraînant un petit ensemble de poids supplémentaires au lieu du modèle entier. En marketing, ils valent la peine d’être utilisés lorsque le prompting seul ne permet pas de maintenir la cohérence, par exemple pour la voix de marque, les formats de description de produit ou la classification d’annonces, et lorsqu’il existe suffisamment de données d’exemple propres.
Quelle est la différence entre le fine-tuning et LoRA ?
Le fine-tuning complet met à jour tous les paramètres d’un modèle. Pour les grands modèles de langage, cela nécessite une puissance de calcul importante et produit une copie complète du modèle pour chaque version. LoRA, décrit dans un article de recherche de 2021 de Microsoft, gèle le modèle original et entraîne de petites matrices de bas rang qui sont ajoutées à certaines couches. Le résultat est un fichier adaptateur qui représente une infime fraction de la taille du modèle.
Cela présente des avantages pratiques. Les adaptateurs s’entraînent plus rapidement et à moindre coût, plusieurs peuvent être conservés pour différentes marques ou tâches, et ils peuvent être échangés sur un modèle de base. QLoRA va plus loin en s’entraînant sur une version compressée du modèle, ce qui réduit les besoins en mémoire.
Des options hébergées existent également. OpenAI, Google Vertex AI et d’autres plateformes proposent le fine-tuning de certains de leurs modèles via une interface de téléchargement et d’entraînement, vous évitant ainsi de gérer l’infrastructure. Pour les modèles à poids ouverts comme Llama, Mistral ou Qwen, des outils comme Hugging Face PEFT rendent l’entraînement LoRA accessible.
Quand le fine-tuning surpasse-t-il un bon prompt ?
La plupart des tâches marketing ne nécessitent pas de fine-tuning. Un prompt clair avec des exemples, ainsi que la récupération des bons documents, résolvent de nombreux problèmes à moindre coût et avec des mises à jour plus faciles. Le fine-tuning trouve sa place dans des situations plus restreintes.
- La sortie doit suivre un format strict à chaque fois, comme des titres de produits avec un ordre d’attributs fixe sur des milliers de SKU.
- La voix de marque est distinctive et les prompts dérivent constamment vers des formulations génériques.
- La tâche est une classification en volume, comme le marquage des termes de recherche par intention ou le tri des avis par type de problème.
- Le coût ou la vitesse sont importants, et un modèle plus petit et affiné pourrait remplacer un modèle général plus grand.
- Les prompts longs avec de nombreux exemples deviennent coûteux à grande échelle.
C’est un mauvais choix pour enseigner des faits qui changent. Les prix, les stocks et les détails de campagne appartiennent à la récupération ou au prompt, car un modèle affiné ne peut pas être mis à jour aussi rapidement et peut affirmer des informations obsolètes avec confiance.
De quelles données avez-vous besoin ?
La qualité des données détermine le résultat. Un modèle affiné sur des copies médiocres apprend à écrire des copies médiocres de manière fiable.
Construction d’un ensemble d’entraînement
- Collectez des exemples qui représentent la sortie cible : copies d’annonces approuvées, descriptions de produits performantes, lignes d’objet d’e-mail éditées.
- Associez chaque sortie à l’entrée qui devrait la produire, comme des attributs de produit menant à une description.
- Supprimez les doublons, les offres obsolètes, les mentions légales qui ne s’appliquent plus et tout ce qui contient des données personnelles.
- Gardez un ensemble de réserve (held-out set), généralement une partie des exemples, que le modèle ne voit jamais pendant l’entraînement, pour l’évaluation.
La documentation de la plateforme suggère souvent de commencer avec des dizaines à des centaines d’exemples de haute qualité pour les tâches de style. Plus n’aide que si les exemples supplémentaires sont tout aussi bons.
Comment Alien Road applique le fine-tuning et LoRA dans les campagnes clients
Dans un engagement typique, Alien Road traite le fine-tuning comme une étape ultérieure, pas comme un point de départ. La découverte commence par la tâche elle-même : ce qui est produit, à quelle fréquence, par qui et à quoi ressemble le “bon”. L’équipe construit d’abord une version prompt-plus-exemples et la mesure. Ce n’est que lorsque cette base de référence échoue en termes de cohérence, de coût ou de vitesse que le fine-tuning est mis sur la table.
Si c’est le cas, le processus comporte quatre étapes.
- Préparation des données : les actifs approuvés du client sont collectés et nettoyés, et un éditeur humain étiquette quels exemples sont réellement conformes à la marque.
- Entraînement : selon les règles de données du client, soit un service de fine-tuning hébergé, soit un adaptateur LoRA sur un modèle à poids ouverts, ce dernier lorsque les données doivent rester sur une infrastructure contrôlée.
- Évaluation : les sorties de l’ensemble de réserve sont examinées à l’aveugle par rapport à la version prompt uniquement, notées par des réviseurs de marque pour le ton, la précision et le format.
- Déploiement avec examen : le modèle alimente les brouillons dans le flux de travail d’approbation existant. Rien ne passe en direct sans qu’une personne ne signe.
Les rapports couvrent le temps d’édition par actif, le taux de rejet lors de l’examen, le coût par sortie et, lorsque les sorties sont diffusées en tant qu’annonces, les performances par rapport aux créations précédentes. Un exemple typique est la rédaction de descriptions de produits pour un grand catalogue, où un format cohérent importe plus que la portée créative.
Quels sont les risques et les limites ?
Les modèles affinés peuvent sur-apprendre (overfit) : ils copient trop étroitement les phrases des données d’entraînement ou perdent leurs capacités générales. Ils peuvent également amplifier les biais dans les exemples. Si la plupart des copies d’entraînement ciblent une audience, le modèle peut avoir des difficultés avec d’autres.
Il y a aussi la maintenance. Lorsque la voix de marque change, le modèle a besoin de nouvelles données et d’un réentraînement. Lorsque le modèle de base est mis à jour ou retiré par un fournisseur, le fine-tuning peut devoir être refait. Les licences comptent également : les modèles à poids ouverts sont assortis de conditions régissant l’utilisation commerciale, alors lisez-les avant de construire sur l’un d’eux.
Comment mesurez-vous si cela a fonctionné ?
Comparez par rapport à l’alternative que vous utiliseriez autrement, pas par rapport à rien. Les mesures utiles incluent celles-ci.
- Préférence humaine dans les examens à l’aveugle entre les sorties affinées et les sorties prompt uniquement.
- Taux de conformité au format : à quelle fréquence la sortie suit la structure requise.
- Distance d’édition ou temps d’édition avant approbation.
- Coût et temps de réponse par requête.
- Pour une utilisation en direct, la métrique en aval : taux de clics pour les copies d’annonces, taux de conversion pour les pages produits.
Si la version affinée ne gagne pas clairement sur au moins l’un de ces points sans perdre sur les autres, gardez la configuration basée sur les prompts.
Gardez la feuille de score. Elle devient l’ensemble d’évaluation pour tout futur fine-tuning et montre si un modèle de base plus récent résout déjà le problème.
Par où commencer cette semaine
Choisissez une tâche de contenu répétée et rassemblez vingt exemples de sortie que vous considérez comme excellents. Écrivez un prompt qui en inclut cinq et testez-le sur les quinze entrées restantes.
Notez les résultats honnêtement. Si le prompt est déjà proche, affinez-le. S’il continue d’échouer de la même manière, vous avez la première preuve qu’un fine-tuning ou un adaptateur LoRA pourrait valoir l’investissement.
Continuez à lire : Optimisation par IA · Optimisation par IA