Les petits modèles de langage sont des modèles d’IA compacts qui peuvent fonctionner sur un ordinateur portable ordinaire ou via une API à faible coût, ce qui en fait une première étape pratique pour les entreprises locales et les petites entreprises. Commencez par une tâche étroite et répétitive, comme le tri des messages des clients ou la rédaction de réponses aux questions courantes, et testez-la sur vos propres données passées avant de vous y fier.
Pourquoi une petite entreprise choisirait-elle un petit modèle ?
Les grands assistants IA comme ChatGPT, Claude ou Gemini sont généraux et puissants, et pour de nombreux propriétaires, ils sont l’outil approprié. Les petits modèles ont du sens dans trois situations : lorsque vous manipulez des données clients sensibles que vous préférez garder sur votre propre ordinateur, lorsque vous répétez la même tâche simple des centaines de fois, ou lorsque vous souhaitez un coût fixe plutôt qu’une facture mensuelle croissante.
Un cabinet dentaire, un bureau de comptabilité ou un hôtel familial correspondent souvent à au moins l’une de ces situations. Les notes des patients, les dossiers fiscaux des clients et les détails des clients sont exactement le type de données que les propriétaires hésitent à coller dans un chatbot public.
Que peut bien faire un petit modèle ?
Les petits modèles sont efficaces pour les tâches courtes et claires avec une réponse prévisible. Ils sont faibles face aux questions ouvertes qui nécessitent des connaissances étendues ou des faits actuels.
- Trier les e-mails entrants ou les messages WhatsApp en “réservation”, “plainte”, “question de prix” ou “autre”
- Rédiger des réponses polies aux dix questions que les clients posent le plus souvent
- Résumer un long e-mail de fournisseur en trois lignes
- Transformer des notes vocales ou des notes brouillonnes en un paragraphe ordonné
- Vérifier les descriptions de produits ou de menus pour l’orthographe et un style cohérent
- Extraire les dates, les noms et les montants des factures vers une feuille de calcul
Demandez à un petit modèle des conseils juridiques, des règles fiscales ou le taux de change actuel, et il pourrait répondre avec assurance et de manière erronée. Gardez ces questions pour une personne ou une source en laquelle vous avez confiance.
Quels outils facilitent cela ?
Vous n’avez pas besoin d’un développeur pour essayer un petit modèle. Plusieurs applications de bureau gratuites téléchargent et exécutent des modèles en quelques clics.
Options de bureau
- Ollama : un outil gratuit pour Mac, Windows et Linux qui télécharge et exécute des modèles à partir d’une commande simple ou d’une application compagnon
- LM Studio : une application de bureau avec une fenêtre de chat et un navigateur de modèles, conviviale pour les utilisateurs non techniques
- GPT4All : une autre application de bureau gratuite axée sur l’exécution de modèles localement et en privé
Modèles à essayer
Les petites familles populaires au moment de la rédaction incluent Gemma de Google, Phi de Microsoft, les modèles Llama plus petits de Meta, les modèles compacts de Mistral et Qwen d’Alibaba. Chacun est disponible en plusieurs tailles. Un modèle de quelques milliards de paramètres fonctionne généralement sur un ordinateur portable récent avec 16 Go de mémoire ; les plus grands en nécessitent davantage.
La prise en charge des langues varie. Si vos clients écrivent en français, testez chaque modèle sur de vrais messages en français. Certains le gèrent bien ; d’autres mélangent les langues ou font des fautes de grammaire.
Comment effectuer un premier test en toute sécurité ?
Considérez le premier mois comme une expérience. Vous vérifiez si le modèle permet de gagner du temps sans créer d’erreurs que les clients remarqueraient.
- Choisissez une tâche et notez combien de temps elle prend à la main chaque semaine
- Collectez 50 à 100 exemples réels passés avec la bonne réponse
- Installez une application de bureau et un modèle
- Écrivez une courte instruction et incluez-y deux ou trois exemples
- Exécutez vos exemples passés et comptez combien sont corrects
- Si le score est bon, utilisez-le pour le nouveau travail, mais vérifiez chaque sortie pendant deux semaines
Ne laissez jamais un modèle envoyer des messages aux clients seul dans la première phase. Utilisez-le pour rédiger ; une personne approuve.
Qu’en est-il de la confidentialité et de la KVKK ?
En Turquie, la loi sur la protection des données personnelles (KVKK) fixe des règles pour le traitement des données personnelles, similaires dans l’esprit au RGPD européen. Exécuter un modèle localement sur votre propre ordinateur signifie que les données des clients ne voyagent pas vers un fournisseur d’IA externe, ce qui simplifie une partie de la conformité.
Cela ne supprime pas vos autres obligations. Vous devez toujours stocker les données en toute sécurité, limiter qui peut y accéder et informer les clients sur la manière dont leurs informations sont utilisées. Si vous utilisez une API cloud à la place, lisez les conditions relatives aux données du fournisseur et vérifiez où le traitement a lieu.
- Gardez l’ordinateur portable exécutant le modèle crypté et protégé par mot de passe
- Supprimez les fichiers de test contenant des données personnelles lorsque vous avez terminé
- Écrivez une note d’une page sur l’utilisation du modèle et qui peut l’utiliser
Quand un petit modèle est-il le mauvais choix ?
Si votre tâche change à chaque fois, nécessite des recherches ou doit être très soignée, un grand assistant est préférable. Un petit modèle ajoute également du travail : quelqu’un doit installer les mises à jour et tester les nouvelles versions. Pour une entreprise où personne n’est à l’aise avec un ordinateur, un assistant payant avec de bons paramètres de confidentialité peut être plus simple.
Le test honnête est le temps. Si la configuration et la vérification du petit modèle prennent plus de temps que l’exécution de la tâche à la main, arrêtez.
Comment Alien Road applique les petits modèles de langage pour les petites entreprises
Dans un engagement typique, notre équipe commence par un court appel pour lister les tâches répétées du propriétaire et les données que chacune implique. Nous marquons les tâches qui sont fréquentes, simples et sensibles ; ce sont les candidats aux petits modèles.
Nous configurons ensuite un outil de bureau sur l’une des machines du client, choisissons un modèle qui gère la langue du client et construisons un prompt avec des exemples tirés des propres messages de l’entreprise. Le personnel reçoit une session de formation d’une heure et une liste de contrôle imprimée.
Pour la mesure, nous comparons les heures consacrées à la tâche avant et après, et examinons un échantillon de sorties chaque semaine pendant le premier mois. Le rapport est court : temps gagné, taux d’erreur et une recommandation pour conserver, ajuster ou arrêter.
Par où commencer cette semaine
Exportez les messages des clients du mois dernier depuis votre e-mail ou WhatsApp Business. Étiquetez-en 50 à la main avec une catégorie simple. Installez LM Studio ou Ollama, chargez un petit modèle et demandez-lui d’étiqueter les 50 mêmes. Comparez ses réponses avec les vôtres. S’il est d’accord sur la plupart, vous avez un outil qui peut trier votre boîte de réception chaque matin ; sinon, vous avez passé un après-midi et appris quelque chose d’utile.
Notez le résultat dans tous les cas : la tâche, le modèle, le score et le temps que cela a pris. Si vous réessayez dans six mois avec un modèle plus récent, vous aurez une base de comparaison équitable et vous ne répéterez pas le même travail de configuration à partir de zéro.
Continuer la lecture : Optimisation par IA · Optimisation par IA