Le fine-tuning et LoRA permettent aux équipes marketing B2B d’adapter un modèle de langage à leur propre style, formats et règles de classification. Le fine-tuning entraîne davantage un modèle sur des exemples ; LoRA (low-rank adaptation) le fait à moindre coût en entraînant de petits poids d’adaptateur au lieu de l’ensemble du modèle. Les deux ne sont pertinents qu’après avoir essayé le prompting et la récupération (retrieval), et seulement lorsque vous disposez de centaines de bons exemples de la sortie souhaitée.
Que changent réellement le fine-tuning et LoRA ?
Un modèle de base a une capacité générale. Le fine-tuning déplace son comportement vers vos exemples : ton, structure, choix d’étiquettes, format de sortie. Il n’enseigne pas de manière fiable de nouveaux faits. Si l’objectif est de « connaître nos dernières spécifications produit », la génération augmentée par récupération (RAG) est le meilleur outil, car les faits changent et RAG lit les documents actuels.
LoRA est une technique issue d’un article de recherche de 2021 par des chercheurs de Microsoft. Il gèle le modèle original et entraîne de petites matrices ajoutées à certaines couches. L’adaptateur est un petit fichier, peut être échangé par tâche et nécessite beaucoup moins de mémoire GPU qu’un fine-tuning complet. QLoRA va plus loin en travaillant sur un modèle quantifié, ce qui rend l’entraînement possible sur un seul GPU puissant pour de nombreux modèles ouverts.
Quand une équipe B2B doit-elle faire du fine-tuning ?
Utilisez un ordre de décision. La plupart des équipes s’arrêtent à l’étape un ou deux.
- Prompting avec des instructions claires et quelques exemples.
- Récupération (retrieval), lorsque le problème est un manque de connaissances.
- Fine-tuning, lorsque le modèle en sait assez mais ne suit pas votre format ou votre style de manière fiable, ou lorsqu’un modèle fine-tuné plus petit peut remplacer un grand modèle coûteux.
Bons candidats B2B : classer les leads entrants dans vos propres segments, étiqueter le contenu selon votre taxonomie, écrire des sorties courtes dans un format interne strict comme des notes de version produit, et extraire des champs de RFP dans une structure fixe. Mauvais candidats : leadership d’opinion long format, tout ce qui nécessite des faits actuels, et les tâches avec moins de quelques centaines d’exemples.
Où pouvez-vous faire du fine-tuning ?
Les options hébergées incluent l’API de fine-tuning d’OpenAI pour certains modèles GPT, Google Vertex AI pour Gemini et les modèles ouverts, Amazon Bedrock pour plusieurs familles de modèles, Azure AI Foundry et la plateforme de Mistral. Ceux-ci masquent l’infrastructure ; vous téléchargez des données et payez pour l’entraînement et l’utilisation.
Pour les modèles à poids ouverts comme Llama, Mistral, Qwen ou Gemma, des bibliothèques comme Hugging Face PEFT et TRL, Unsloth et Axolotl exécutent l’entraînement LoRA sur vos propres GPU ou des GPU loués. Cette voie offre plus de contrôle et garde les données dans votre environnement, au prix d’un temps d’ingénierie.
Comment préparez-vous les données d’entraînement ?
La qualité des données décide du résultat. Quelques centaines d’exemples propres valent mieux que des milliers d’exemples bruyants.
Collectez des exemples réels
Récupérez les entrées et les sorties que votre équipe a acceptées : textes de formulaires de leads avec le segment attribué par l’équipe commerciale, notes de produit avec la note de version publiée, sections de RFP avec les champs extraits. Supprimez tout ce qui contient des données personnelles que vous n’êtes pas autorisé à utiliser, ou anonymisez-les.
Rendez les sorties cohérentes
Si deux personnes ont étiqueté des leads similaires différemment, le modèle apprend la confusion. Examinez un échantillon, rédigez des règles d’étiquetage et corrigez les exemples contradictoires. Cette étape prend souvent plus de temps que l’entraînement.
Divisez les données
Gardez un ensemble de test mis de côté, souvent environ 10 à 20 pour cent, que le modèle ne voit jamais pendant l’entraînement. Tous les chiffres de qualité proviennent de cet ensemble.
Comment évaluez-vous un modèle fine-tuné ?
Comparez trois options sur le même ensemble de test : le modèle de base avec votre meilleur prompt, le modèle de base avec prompt plus exemples few-shot, et le modèle fine-tuné. Utilisez des métriques de tâche : précision et F1 pour la classification, précision au niveau du champ pour l’extraction, une grille de notation pour l’écriture.
- Modèle fine-tuné clairement meilleur et moins cher par appel : adoptez-le.
- Modèle fine-tuné similaire au prompting : gardez le prompting ; c’est plus facile à maintenir.
- Modèle fine-tuné moins bon sur certaines catégories : ajoutez des exemples pour celles-ci et ré-entraînez.
Vérifiez également les régressions. Un modèle fortement ajusté sur un format peut devenir moins bon pour suivre de nouvelles instructions. Testez quelques tâches générales pour voir ce qui a changé.
Combien cela coûte-t-il et qui le maintient ?
Les coûts incluent le temps de préparation des données, les exécutions d’entraînement, les frais d’hébergement ou par appel, et le ré-entraînement lorsque votre taxonomie, vos produits ou votre style changent. LoRA maintient le coût d’entraînement bas, mais le travail sur les données reste le même. Prévoyez un propriétaire qui met à jour le jeu de données trimestriellement et relance l’évaluation après chaque changement. Sans propriétaire, un modèle fine-tuné vieillit silencieusement pendant que l’entreprise change autour de lui.
La gouvernance est importante en B2B. Documentez quelles données ont entraîné chaque version du modèle, qui l’a approuvée et où les adaptateurs sont stockés. Les clients et les auditeurs le demandent de plus en plus.
Quelles erreurs gaspillent un budget de fine-tuning ?
Trois apparaissent à plusieurs reprises. Les équipes font du fine-tuning pour injecter des faits, puis découvrent que le modèle répond toujours avec d’anciennes informations. Elles entraînent sur des sorties que personne n’a examinées, donc le modèle copie fidèlement les erreurs passées. Et elles sautent la ligne de base, donc personne ne peut dire si le modèle ajusté est meilleur qu’un prompt bien écrit. Une quatrième est moins évidente : entraîner sur une version de modèle que le fournisseur retire plus tard, ce qui force une reconstruction. Renseignez-vous sur les délais de dépréciation avant de choisir un modèle de base hébergé, et gardez votre jeu de données dans un format que vous pouvez réutiliser sur un autre modèle.
Comment Alien Road applique le fine-tuning pour les clients B2B
Dans un engagement typique, notre équipe d’AI Optimization essaie d’abord de résoudre la tâche avec le prompting et la récupération, et enregistre les résultats sur un ensemble de test. Ce n’est que si un écart clair subsiste que nous proposons le fine-tuning, avec une estimation écrite du travail sur les données et du coût d’exécution.
Pour les projets approuvés, nous nettoyons et étiquetons les exemples du client avec son équipe, entraînons un adaptateur LoRA sur un modèle ouvert ou utilisons un service de fine-tuning hébergé, et le comparons à la ligne de base prompt-only. L’adaptateur et le jeu de données restent dans l’environnement du client.
Les rapports mensuels couvrent la précision sur l’ensemble mis de côté, le coût par appel par rapport à la ligne de base du grand modèle, et les vérifications de dérive sur des exemples frais, avec une recommandation de ré-entraînement lorsque les scores chutent.
Par où commencer cette semaine
Choisissez une tâche de classification que votre équipe fait à la main, comme l’étiquetage des leads entrants. Exportez 300 exemples passés avec les étiquettes attribuées par les personnes, vérifiez-en 50 pour la cohérence et testez un prompt fort sur l’ensemble propre. Si la précision est toujours inférieure à ce dont les ventes ont besoin, vous avez un candidat pour le fine-tuning et le début d’un jeu de données.
Continuez à lire : Optimisation par IA · Optimisation par IA