Les petits modèles de langage sont des modèles d’IA avec beaucoup moins de paramètres que les systèmes de pointe, généralement de moins d’un milliard à quelques dizaines de milliards, qui peuvent fonctionner à moindre coût dans le cloud ou sur une seule machine. Dans le travail marketing, ils sont les meilleurs pour des tâches étroites et répétitives telles que la classification des termes de recherche, le marquage de contenu, le nettoyage de données et le routage de messages, où la vitesse, le coût et le contrôle des données importent plus qu’un raisonnement large.
Les familles connues incluent les modèles Phi de Microsoft, Gemma de Google, les variantes plus petites de Llama de Meta, les modèles compacts de Mistral et la gamme Qwen d’Alibaba, ainsi que les niveaux “mini”, “flash” ou “haiku” que les principaux fournisseurs proposent via leurs API. De nombreux modèles à poids ouverts peuvent être téléchargés et exécutés localement avec des outils tels qu’Ollama, llama.cpp ou LM Studio, de sorte que les données ne quittent jamais le propre matériel de l’entreprise.
Quelle est la différence entre un petit et un grand modèle ?
La taille affecte ce qu’un modèle sait et sa capacité à raisonner sur de nombreuses étapes. Un grand modèle de pointe peut rédiger une stratégie, suivre de longues instructions et gérer des demandes inhabituelles. Un petit modèle est plus étroit : il gère rapidement une tâche claire et bien définie, mais il est plus susceptible de trébucher sur des instructions ambiguës ou des questions en dehors de son entraînement.
Les différences pratiques sont le coût et la vitesse. Un petit modèle peut traiter des milliers d’éléments courts dans le temps qu’un grand modèle en traite une fraction, à un prix beaucoup plus bas par élément. Lorsque le travail consiste à “étiqueter ces 50 000 termes de recherche en douze groupes d’intention”, cette différence décide si le projet est abordable.
Quelles tâches marketing conviennent aux petits modèles ?
Le fil conducteur est le volume élevé, les entrées courtes et un ensemble fixe de sorties possibles.
- Classification des termes de recherche : trier les termes de recherche Google Ads en groupes d’intention ou en candidats à des mots-clés négatifs.
- Marquage de contenu : attribuer des catégories, des sujets ou des types de produits à des milliers de pages ou de publications.
- Étiquetage des sentiments et des sujets pour les avis, les commentaires sociaux et les réponses aux enquêtes.
- Nettoyage de données : normaliser les noms d’entreprises, les titres de poste ou les adresses dans les exportations CRM.
- Routage : décider quelle équipe doit gérer un formulaire ou un message entrant.
- Détection de langue et vérifications de traduction simples sur du contenu multilingue.
Les tâches nécessitant du jugement, de la créativité ou de longs documents restent généralement avec des modèles plus grands ou des personnes.
Pourquoi est-il important d’exécuter un modèle localement ?
Certaines données ne devraient pas du tout aller vers une API tierce : listes de clients, plans de campagne non publiés, détails de santé ou financiers. Un petit modèle à poids ouverts fonctionnant sur le propre serveur du client ou une instance cloud privée garde ces données sur place, ce qui simplifie la conformité au RGPD et à la KVKK turque.
Les modèles locaux offrent également des coûts prévisibles. Une fois le matériel en place, le traitement de cent mille lignes supplémentaires coûte de l’électricité plutôt que des frais d’API. Le compromis est la maintenance : quelqu’un doit mettre à jour, surveiller et sécuriser la configuration.
Comment Alien Road applique les petits modèles de langage
Dans un engagement typique, notre équipe d’optimisation IA utilise les petits modèles comme des travailleurs au sein de pipelines plus larges plutôt que comme des outils de chat. La découverte commence par la liste des tâches : nous recherchons des travaux de classification ou de nettoyage répétitifs que les gens effectuent actuellement dans des feuilles de calcul, et nous estimons le volume par mois.
Construisez d’abord un échantillon étiqueté
Avant de choisir un modèle, nous demandons aux spécialistes du client d’étiqueter quelques centaines d’exemples réels, tels que des termes de recherche ou des avis, avec les catégories qu’ils utilisent réellement. Cet échantillon devient l’ensemble de test pour chaque modèle que nous essayons.
Comparez les modèles sur cet échantillon
Nous exécutons deux ou trois candidats, généralement un petit modèle à poids ouverts, un petit modèle API et un grand modèle comme référence, par rapport à l’échantillon étiqueté. Si le petit modèle est d’accord avec les étiquettes humaines presque aussi souvent que le grand, il gagne en coût et en vitesse. Sinon, nous ajustons le prompt, ajoutons des exemples ou conservons le grand modèle pour cette tâche.
Mettez les humains sur les bords
Les éléments à faible confiance vont dans une file d’attente de révision humaine. Pour les comptes publicitaires, le modèle suggère des mots-clés négatifs ; un spécialiste les approuve avant qu’ils n’atteignent Google Ads ou Microsoft Advertising.
Pour la mesure, nous suivons la concordance avec les étiquettes humaines au fil du temps, la taille de la file d’attente de révision, le coût de traitement par millier d’éléments et les heures libérées. Les rapports mensuels notent toute dérive, par exemple lorsqu’une nouvelle gamme de produits produit des termes de recherche que le modèle classe mal.
Quelles sont les limites et les risques ?
Les petits modèles font des erreurs différentes de celles des grands, et ils les font plus souvent sur les cas limites.
- Ils suivent les instructions de format de manière moins fiable ; validez les sorties par rapport aux étiquettes autorisées dans le code.
- La connaissance est plus mince, ils peuvent donc ne pas reconnaître les marques de niche ou les noms de produits sans exemples.
- Les performances en turc et dans d’autres langues non anglaises varient selon le modèle ; testez avec des données locales réelles.
- Les licences diffèrent entre les modèles à poids ouverts, et certaines restreignent l’utilisation commerciale ; vérifiez avant de déployer.
- Une configuration locale nécessite toujours des correctifs de sécurité et un contrôle d’accès comme n’importe quel serveur.
Comment décidez-vous entre le réglage fin (fine-tuning) et le prompting ?
Commencez par le prompting et une poignée d’exemples dans le prompt. C’est bon marché à changer et souvent assez bon. Affiner un petit modèle sur quelques milliers d’exemples étiquetés peut augmenter la précision sur une tâche étroite, mais cela ajoute du travail d’entraînement et une version de modèle à maintenir. Nous ne l’envisageons que lorsque le prompting stagne en dessous du niveau d’accord requis et que le volume de la tâche justifie l’effort.
Combien coûte l’exécution d’un petit modèle ?
Les coûts dépendent de la voie. Via une API, les niveaux de petits modèles sont tarifés par jeton et sont généralement une fraction du grand niveau ; vérifiez les pages de prix actuelles, car elles changent souvent. En exécutant localement, un ordinateur portable récent avec suffisamment de mémoire peut gérer des modèles de quelques milliards de paramètres pour les tests, tandis que les volumes de production justifient généralement un serveur dédié ou une instance GPU cloud. Le coût caché est humain : configuration, surveillance et re-test périodique par rapport à l’échantillon étiqueté.
Une liste de contrôle simple avant de commencer
- Définissez la tâche comme un ensemble fermé de sorties, pas comme une question ouverte.
- Collectez et étiquetez au moins 200 à 300 exemples réels.
- Décidez quelles données peuvent quitter vos systèmes et lesquelles ne le peuvent pas.
- Testez au moins un petit et un grand modèle sur le même échantillon.
- Définissez un seuil de confiance et un chemin de révision humaine pour les éléments en dessous.
- Enregistrez les entrées et les sorties afin que les erreurs puissent être tracées.
Par où commencer cette semaine
Exportez le rapport des termes de recherche du mois dernier depuis un compte Google Ads. Prenez 300 lignes au hasard et étiquetez chacune vous-même avec trois ou quatre groupes d’intention, plus “non pertinent”. Ensuite, exécutez les mêmes lignes via un petit modèle avec un court prompt listant ces groupes, et comptez où il est d’accord avec vous. Cet après-midi vous dit si l’automatisation de la révision hebdomadaire des termes de recherche est réaliste.
Continuez à lire : Optimisation par IA · Optimisation par IA