Les modèles à poids ouverts tels que DeepSeek, Llama de Meta, Mistral et Qwen d’Alibaba publient leurs poids entraînés afin que quiconque puisse les télécharger et les exécuter. Pour une entreprise locale ou une petite entreprise, les principaux avantages sont des coûts d’exploitation inférieurs et un meilleur contrôle des données. Le coût principal est l’effort de configuration, donc la plupart des petites entreprises devraient commencer avec une version hébergée et ne faire fonctionner un modèle elles-mêmes que lorsqu’une tâche claire et répétitive le justifie.
Que signifie réellement « poids ouvert » ?
Un modèle fermé comme ChatGPT ou Claude n’est disponible que via l’application ou l’API de son entreprise. Les paramètres d’un modèle à poids ouverts sont publiés publiquement, généralement sous une licence qui autorise l’utilisation commerciale sous certaines conditions. Vous pouvez l’exécuter sur votre propre ordinateur, sur un serveur cloud loué ou via un hébergeur tiers.
« Poids ouvert » n’est pas tout à fait la même chose que « open source ». Les données d’entraînement et le code d’entraînement complet ne sont souvent pas publiés, et les licences diffèrent. La licence de Llama, par exemple, a ses propres conditions, tandis que certains modèles Mistral et Qwen utilisent Apache 2.0. Lisez la licence du modèle exact que vous choisissez.
DeepSeek a attiré beaucoup d’attention car ses modèles ont obtenu des performances proches des principaux systèmes fermés sur de nombreux benchmarks tout en étant publiés ouvertement. Sa propre application hébergée fonctionne sur des serveurs en Chine, ce qui est important pour les décisions relatives aux données, mais les poids eux-mêmes peuvent être exécutés n’importe où.
Pourquoi une petite entreprise devrait-elle s’y intéresser ?
La plupart des petites entreprises n’ont pas besoin d’exécuter leur propre modèle. Un abonnement à un assistant courant couvre les e-mails, les publications sur les réseaux sociaux et les devis. Les modèles à poids ouverts deviennent intéressants dans trois situations.
- Confidentialité : une clinique, un cabinet d’avocats ou un comptable traitant des documents clients peut préférer que le texte ne quitte jamais sa propre machine.
- Volume : un magasin générant des milliers de descriptions de produits ou traduisant un catalogue peut réduire considérablement les coûts par requête.
- Personnalisation : une entreprise ayant sa propre terminologie, comme un fournisseur de pièces détachées, peut affiner un petit modèle sur son catalogue.
Si rien de tout cela ne s’applique, un modèle fermé via un abonnement normal est plus simple et souvent meilleur pour l’écriture.
Quelles sont les façons réalistes d’en utiliser un ?
Il existe trois points d’entrée, classés du plus facile au plus difficile.
Utiliser un fournisseur hébergé
Des services comme Groq, Together AI, Fireworks et OpenRouter exécutent des modèles à poids ouverts et facturent à l’utilisation via une API. Vous bénéficiez d’un coût inférieur sans acheter de matériel. Vérifiez où se trouvent les serveurs du fournisseur et ce qu’il fait de vos données.
Exécuter un petit modèle sur un ordinateur portable
Des outils comme Ollama et LM Studio vous permettent de télécharger un modèle et de discuter avec lui localement en quelques clics. Un ordinateur portable récent avec 16 Go de mémoire ou plus peut exécuter confortablement des modèles plus petits. Ils sont plus lents et moins performants que les plus grands modèles, mais suffisamment bons pour résumer des documents ou rédiger des réponses standard.
Louer un serveur cloud
Pour les modèles plus grands ou les outils métier utilisés par plusieurs employés, vous pouvez louer un serveur GPU et exécuter le modèle avec un logiciel comme vLLM. Cela nécessite une personne technique, soit dans le personnel, soit en tant que prestataire.
Combien cela coûte-t-il ?
Les coûts dépendent fortement de la méthode. Exécuter un petit modèle sur un ordinateur portable existant ne coûte rien d’autre que l’électricité. Les prix des API hébergées pour les modèles à poids ouverts sont généralement inférieurs à ceux des modèles fermés de pointe pour des tâches similaires, bien que les prix changent souvent, alors vérifiez les tarifs actuels.
La location de serveurs GPU est l’endroit où les coûts augmentent. Les tarifs horaires pour des GPU performants s’additionnent rapidement si la machine fonctionne tout le mois, donc cette méthode n’a de sens que pour un travail constant et à haut volume. Un test utile : si votre facture mensuelle sur une API hébergée est toujours faible, l’auto-hébergement ne vous fera pas économiser d’argent une fois que vous aurez compté le temps passé à le maintenir.
Quelles sont les limites et les risques ?
Les modèles à poids ouverts ont les mêmes faiblesses que n’importe quel modèle de langage. Ils peuvent affirmer des faits erronés avec assurance, et les versions plus petites font plus d’erreurs dans les langues autres que l’anglais. Vérifiez toujours le résultat avant qu’il n’atteigne un client.
Certains modèles ont été entraînés avec des filtres de contenu reflétant leur pays d’origine, ce qui peut affecter les réponses sur des sujets politiques ou historiques. Pour les descriptions de produits ou les rappels de rendez-vous, cela importe rarement, mais il est bon de le savoir.
La sécurité est votre responsabilité lorsque vous vous auto-hébergez. Un serveur de modèle exposé à Internet sans mot de passe est une porte ouverte. Gardez-le sur un réseau privé ou derrière une authentification.
Une liste de contrôle de démarrage pour les petites entreprises
Avant de dépenser de l’argent ou du temps, passez en revue ces questions.
- Quelle tâche unique le modèle effectuerait-il chaque semaine, et combien de temps cela prend-il à une personne actuellement ?
- La tâche implique-t-elle des données client qui ne devraient pas quitter vos locaux ?
- Avez-vous d’abord essayé la même tâche avec un assistant d’abonnement normal ?
- Qui installera et mettra à jour le modèle si vous l’exécutez vous-même ?
- Quelle licence s’applique, et autorise-t-elle votre utilisation commerciale ?
- Comment une personne examinera-t-elle le résultat avant qu’il ne soit envoyé ou publié ?
Comment Alien Road applique les modèles à poids ouverts
Dans une mission typique avec un client plus petit, nous commençons par chronométrer deux ou trois tâches répétitives, comme la rédaction de listes de produits, la réponse aux demandes courantes ou la traduction de pages de catalogue. Nous exécutons chaque tâche sur un modèle fermé et sur un ou deux modèles à poids ouverts via une API hébergée, en utilisant les exemples réels du client, et nous comparons la qualité, la vitesse et le coût.
Si un modèle ouvert est suffisamment bon, nous le configurons via un fournisseur hébergé avec une interface simple ou une connexion à la boutique ou au CRM du client. L’auto-hébergement n’est proposé que lorsque les règles de confidentialité l’exigent. Les rapports mensuels couvrent le volume traité, le taux d’erreur constaté lors de la révision et les dépenses. Par exemple, un détaillant local pourrait générer des brouillons de descriptions pour les nouveaux stocks chaque semaine sur un modèle ouvert, avec un membre du personnel approuvant chacun d’eux avant qu’il ne soit mis en ligne.
Par où commencer cette semaine
Installez Ollama ou LM Studio sur un ordinateur de bureau et téléchargez un petit modèle bien connu. Donnez-lui une tâche réelle, comme résumer cinq e-mails de clients ou rédiger trois descriptions de produits, et comparez le résultat avec votre assistant habituel. Cette heure montre si les modèles à poids ouverts valent la peine d’être explorés davantage pour votre entreprise, sans aucune dépense ni contrat.
Continuer la lecture : Optimisation par IA · Optimisation par IA