DeepSeek et d’autres modèles à poids ouverts offrent aux entreprises une AI performante qu’elles peuvent télécharger, héberger et adapter, mais cette liberté transfère la responsabilité à l’utilisateur. Avant qu’une équipe ne les adopte, établissez des règles sur l’endroit où le modèle s’exécute, les données qu’il peut voir, la licence qui s’applique, la manière dont les résultats sont révisés et qui approuve les nouvelles utilisations. Ces règles sont plus importantes que le choix du modèle, car les principaux risques proviennent de la manière dont un modèle est déployé plutôt que des poids seuls.
Qu’est-ce que les modèles à poids ouverts ?
Un modèle à poids ouverts est un modèle dont les paramètres entraînés sont publiés afin que quiconque puisse l’exécuter. DeepSeek, une entreprise d’AI chinoise, a publié des modèles tels que DeepSeek-V3 et la famille de raisonnement R1 de cette manière. D’autres familles bien connues incluent Llama de Meta, les modèles ouverts de Mistral, Qwen d’Alibaba, Gemma de Google et les versions à poids ouverts d’OpenAI.
Les poids ouverts ne sont pas toujours open source au sens strict. Les données d’entraînement et le code ne sont souvent pas publiés, et les licences vont de permissives, comme MIT ou Apache 2.0, à des licences personnalisées avec des restrictions d’utilisation. Lisez la licence de chaque modèle et version que vous utilisez.
Quels sont les principaux risques ?
Les risques se répartissent en quelques groupes. Chacun nécessite sa propre règle, et aucun ne se résout simplement en choisissant un modèle bien connu.
Risque lié aux données et à l’hébergement
L’utilisation d’un modèle via l’application hébergée ou l’API de son fabricant envoie vos données aux serveurs de cette entreprise conformément à ses conditions et à la loi locale. L’application et l’API de DeepSeek sont exploitées depuis la Chine, et plusieurs gouvernements et régulateurs ont restreint ou enquêté sur son utilisation en raison de préoccupations concernant la protection des données. Exécuter les mêmes poids ouverts sur vos propres serveurs ou via un fournisseur de cloud tel qu’AWS Bedrock, Azure ou Google Vertex AI est une situation de données très différente.
Risque lié au contenu et aux biais
Les modèles reflètent leur entraînement. Certains modèles ouverts, y compris ceux de DeepSeek, auraient donné des réponses censurées ou unilatérales sur des sujets politiquement sensibles. Tous les modèles peuvent produire des déclarations fausses avec assurance. Pour le contenu marketing, cela signifie que les affirmations doivent être vérifiées et les sujets sensibles traités par des personnes.
Risque de sécurité
Les modèles auto-hébergés nécessitent le même soin en matière de sécurité que n’importe quel serveur : contrôle d’accès, correctifs et journalisation. Les chercheurs ont montré que la formation à la sécurité dans les modèles ouverts peut être faible ou supprimée par un réglage fin, vous ne pouvez donc pas compter sur le modèle pour refuser les demandes nuisibles. Les fichiers de modèle téléchargés à partir de sources non officielles peuvent également être altérés.
Risque lié aux licences et juridique
Les licences peuvent restreindre l’utilisation commerciale au-delà d’une certaine taille, exiger une attribution ou interdire certaines applications. Les questions de droit d’auteur concernant les données d’entraînement et les résultats générés restent non résolues dans de nombreux pays. Tenez un registre du modèle et de la licence utilisés pour chaque projet.
Quelles sont les limites pratiques ?
Les modèles à poids ouverts peuvent égaler les modèles fermés sur de nombreux benchmarks, mais les faire fonctionner correctement demande du travail. Les grands modèles ont besoin de GPU puissants ; les versions distillées plus petites fonctionnent sur du matériel modeste mais sont moins performantes. Votre équipe doit gérer les mises à jour, la mise à l’échelle et la surveillance qu’un fournisseur d’API ferait autrement.
Des fonctionnalités telles que la navigation Web, la gestion de fichiers et l’utilisation d’outils proviennent du logiciel environnant, pas du modèle. Un modèle ouvert brut est un moteur sans voiture autour.
Quelles règles de gouvernance devez-vous définir en premier ?
Écrivez ces règles avant le premier projet et gardez-les assez courtes pour que les gens les lisent.
- Hébergement approuvé : listez les méthodes d’exécution des modèles autorisées, telles que l’auto-hébergement dans votre compte cloud ou chez des fournisseurs de cloud nommés, et celles qui ne le sont pas, telles que les applications grand public pour les données d’entreprise.
- Classes de données : définissez ce qui peut être envoyé à chaque configuration. Le contenu public peut aller partout où c’est approuvé ; les données confidentielles des clients et les données personnelles uniquement vers des environnements auto-hébergés ou contractuels.
- Modèles approuvés : tenez un registre des modèles, versions, sources et licences autorisés à l’utilisation, avec un propriétaire pour chacun.
- Révision des résultats : exigez une révision humaine pour tout ce qui est publié, envoyé aux clients ou utilisé dans les décisions.
- Sujets sensibles : nommez les sujets où les résultats du modèle ne peuvent pas être utilisés sans révision experte, tels que la santé, le droit, la finance et la politique.
- Base de sécurité : téléchargez les poids uniquement à partir de référentiels officiels, vérifiez les sommes de contrôle, restreignez l’accès et journalisez l’utilisation.
- Approbation de nouvelle utilisation : une personne nommée ou un petit groupe approuve toute nouvelle utilisation par rapport à ces règles.
Comment ces règles s’appliquent-elles dans une équipe marketing ?
Une équipe marketing pourrait autoriser un modèle ouvert auto-hébergé pour étiqueter des flux de produits, résumer des pages publiques de concurrents et rédiger des variantes sociales, car les données sont publiques et le résultat est révisé. La même équipe ne collerait pas de contrats clients dans une application de chatbot grand public de n’importe quel fournisseur.
Pour le travail orienté client, divulguez l’utilisation de l’AI lorsque la politique du client le demande. Certains clients interdisent nommément des fournisseurs spécifiques ; votre registre de modèles devrait permettre de montrer facilement quel modèle a touché quel projet.
Comment Alien Road applique les modèles à poids ouverts
Dans une mission typique, Alien Road commence par examiner la politique AI du client, s’il en existe une, et ses classes de données. Nous proposons ensuite les tâches adaptées à un modèle à poids ouverts, généralement le travail à haut volume sur des données publiques où le coût ou le contrôle comptent, et celles qui devraient rester sur des API commerciales contractuelles.
Lorsque nous utilisons des modèles ouverts, nous les exécutons dans des comptes cloud approuvés, pas via l’application grand public du fabricant du modèle, et nous enregistrons le nom du modèle, la version et la licence par projet. Les résultats passent par les mêmes étapes de révision que tout autre contenu. Le reporting inclut le coût par tâche et les scores de qualité par rapport aux modèles commerciaux, afin que le client puisse voir si le compromis en vaut la peine.
Par où commencer cette semaine
Demandez à votre équipe quels outils et modèles d’AI ils ont utilisés pour le travail au cours du mois dernier, y compris les applications gratuites. Listez-les, notez où chacun envoie des données et marquez toute utilisation de données d’entreprise ou client dans des outils que vous n’avez pas approuvés. Cette liste est votre premier document de gouvernance ; transformez-la en règles à partir de là.
Gardez la première version sur une page. Diffusez-la, demandez aux personnes qui utilisent ces outils quotidiennement ce qui les empêcherait de la suivre, et ajustez. Une politique courte que les gens suivent réellement vous protège bien plus qu’une longue qui reste non lue sur un lecteur partagé.
Révisez le registre chaque trimestre. De nouvelles versions à poids ouverts arrivent souvent, et un modèle approuvé il y a six mois peut avoir une version plus récente avec une licence différente ou des problèmes de sécurité connus.
Continuez à lire : Optimisation par IA · Optimisation par IA