Les petits modèles de langage sont des modèles d’IA compacts, généralement dotés de quelques milliards de paramètres, qui peuvent fonctionner sur un ordinateur portable, un serveur unique ou une instance cloud privée. Pour les équipes marketing B2B, ils conviennent aux tâches ciblées et répétitives telles que la classification des leads, le marquage de contenu, la rédaction de textes courts et la synthèse d’appels, où la confidentialité, le coût et la vitesse importent plus qu’un raisonnement étendu.
Qu’est-ce qui compte comme un petit modèle de langage ?
Il n’y a pas de limite fixe, mais le terme fait généralement référence à des modèles beaucoup plus petits que les plus grands systèmes de pointe. Les familles bien connues incluent Gemma de Google, Phi de Microsoft, les modèles plus petits de Mistral et les versions compactes de Llama de Meta. Beaucoup sont publiés avec des poids ouverts, de sorte qu’une entreprise peut les télécharger et les exécuter sur son propre matériel.
Leur taille est le compromis. Un petit modèle est moins cher et plus rapide, et il peut rester au sein de votre réseau. Il en sait également moins, raisonne de manière moins fiable sur des problèmes longs et fait plus d’erreurs sur des questions ouvertes. Le guide explique comment faire correspondre ce profil aux bons emplois.
Pourquoi une équipe B2B choisirait-elle un petit modèle plutôt qu’un grand ?
Les grands modèles hébergés sont d’excellents outils généraux. Les petits modèles gagnent dans des situations plus étroites, et le marketing B2B en compte beaucoup.
- Confidentialité : les enregistrements CRM, les transcriptions d’appels et les notes de tarification peuvent être traités sans quitter votre environnement.
- Coût par volume : le marquage de dizaines de milliers d’enregistrements coûte beaucoup moins cher sur un modèle que vous hébergez que via une API par jeton.
- Vitesse : les tâches courtes sont traitées rapidement, ce qui convient aux outils qui fonctionnent au sein d’un CRM ou d’un site Web.
- Contrôle : vous choisissez la version et elle ne change pas sous vous, de sorte que les résultats restent stables.
- Réglage fin : un petit modèle peut être entraîné sur vos propres exemples étiquetés pour suivre vos catégories de près.
Quelles tâches marketing conviennent le mieux aux petits modèles ?
Les meilleures tâches ont une entrée claire, une sortie claire et un moyen de vérifier la réponse. La classification et l’extraction sont les plus adaptées. Le leadership d’opinion sous forme longue est le plus faible.
Bonnes options
- Classification des leads et des comptes : secteur, tranche de taille d’entreprise, étape d’achat à partir des champs de formulaire et des notes.
- Marquage de contenu : attribution de sujets, de personas et d’étapes de tunnel à un blog ou à une bibliothèque de ressources.
- Synthèses d’appels et de réunions : extraction des objections, des concurrents mentionnés et des prochaines étapes à partir des transcriptions.
- Variantes de textes courts : lignes d’objet, titres d’annonces et méta-descriptions dans un modèle strict.
- Recherche et routage : mise en correspondance des questions entrantes avec le bon article d’aide ou le bon responsable commercial.
Mauvaises options
- Documents de stratégie et articles de recherche originaux.
- Tâches nécessitant des faits actuels provenant du Web.
- Analyse complexe en plusieurs étapes sur de nombreux documents.
Comment choisir un modèle ?
Commencez par la tâche, pas par le classement. Notez l’entrée, la sortie attendue et la langue. Ensuite, présélectionnez deux ou trois modèles avec des licences autorisant une utilisation commerciale et vérifiez qu’ils prennent en charge les langues dont vos marchés ont besoin.
Testez-les sur vos propres données. Créez un ensemble de 100 à 200 exemples réels avec des réponses correctes, étiquetés par quelqu’un de l’équipe. Exécutez chaque modèle et comparez la précision, la vitesse et les besoins en matériel. Un modèle légèrement moins précis mais qui fonctionne sur le matériel que vous possédez déjà peut être le meilleur choix commercial.
À quoi ressemble un premier projet ?
Un premier projet doit être suffisamment petit pour être terminé en quelques semaines et suffisamment utile pour que les gens le remarquent. La classification des leads est un choix courant, car les équipes commerciales en ressentent directement les avantages.
- Semaine 1 : définir les catégories avec les ventes, exporter des exemples d’enregistrements, étiqueter un ensemble de test.
- Semaine 2 : exécutez deux ou trois modèles candidats via un outil local comme Ollama ou un point de terminaison hébergé dans votre compte cloud.
- Semaine 3 : choisissez un modèle, affinez l’invite et connectez-le au CRM via un script ou un outil d’automatisation.
- Semaine 4 : exécutez-le en mode fantôme, où le modèle suggère une étiquette et une personne la confirme, et suivez la concordance.
Si la concordance est élevée, passez à l’étiquetage automatique pour les cas clairs et conservez la révision humaine pour les cas à faible confiance. Si elle est faible, essayez un réglage fin sur l’ensemble étiqueté ou déplacez la tâche vers un modèle plus grand.
Conservez l’ensemble de test après la fin du projet pilote. Il devient votre référence : chaque fois qu’un nouveau petit modèle est publié, ou que vos catégories changent, vous pouvez réexécuter les mêmes exemples et voir en une heure si le changement en vaut la peine. Sans référence fixe, les choix de modèles dérivent vers ce qui est le plus récent plutôt que vers ce qui fonctionne le mieux sur vos propres données.
Quels risques devez-vous prévoir ?
Les petits modèles peuvent sembler confiants tout en ayant tort. Chaque utilisation en production nécessite une vérification : un score de confiance, une révision d’échantillon ou une règle qui envoie les cas incertains à une personne. Les licences diffèrent selon les familles de modèles, il vaut donc la peine de consacrer du temps à l’examen juridique. Quelqu’un doit également posséder le modèle, le mettre à jour et surveiller la dérive lorsque vos catégories ou produits changent.
Comment Alien Road applique les petits modèles de langage
Dans un engagement typique, la découverte commence par un inventaire des tâches marketing répétitives et des données que chacune touche. Les tâches impliquant des données sensibles sur les clients ou les prospects sont marquées comme candidates pour un modèle auto-hébergé ; d’autres peuvent rester avec une API hébergée.
La configuration suit le modèle de quatre semaines ci-dessus. L’équipe étiquette un ensemble de test avec le client, compare les modèles à poids ouverts sur cet ensemble et déploie le modèle choisi dans le propre compte cloud du client ou sur un serveur local, connecté au CRM ou au système de contenu.
La mesure utilise l’ensemble étiqueté et l’échantillonnage en direct. La précision, la concordance avec les réviseurs humains et le coût de traitement sont suivis, et un échantillon des résultats est examiné chaque mois.
Le rapport décrit ce que fait le modèle, sa précision sur les données actuelles, où il passe la main aux personnes et ce qui devrait changer au prochain trimestre.
Par où commencer cette semaine
Listez cinq tâches que votre équipe répète chaque semaine et qui impliquent de trier, d’étiqueter ou de résumer du texte. Choisissez celle qui a la réponse correcte la plus claire.
Exportez 100 exemples réels pour cette tâche, étiquetez-les et essayez deux petits modèles dessus avec une invite simple. Les résultats vous diront, en quelques heures, si un petit modèle vaut la peine d’un vrai projet pilote. Partagez les résultats avec les personnes qui effectuent la tâche aujourd’hui, car elles repéreront les erreurs plus rapidement que quiconque.
Continuer la lecture : Optimisation par IA · Optimisation par IA