Mistral AI est une entreprise basée à Paris qui construit de grands modèles de langage, certains publiés avec des poids ouverts et d’autres offerts via sa propre API et l’assistant Le Chat. Avant qu’une équipe ne l’adopte, les premières règles de gouvernance doivent couvrir quel modèle est approuvé, où les données sont traitées, qui peut publier ses résultats et comment les résultats sont vérifiés. Ces quatre règles permettent d’éviter la plupart des problèmes.
L’entreprise a attiré l’attention en Europe en partie parce qu’elle est européenne et en partie parce que plusieurs de ses modèles peuvent être téléchargés et exécutés sur vos propres serveurs. Cette option change la donne en matière de risques. Un modèle auto-hébergé garde les données au sein de votre infrastructure, mais il vous rend également responsable de la sécurité, des mises à jour et de la surveillance qu’un fournisseur hébergé gérerait autrement.
Quels sont les principaux risques liés à l’utilisation de Mistral AI ?
Les risques sont similaires à ceux de tout modèle de langage, avec quelques nuances qui découlent des choix de déploiement offerts par Mistral.
- Erreurs factuelles : le modèle peut énoncer des faits erronés avec fluidité, notamment des spécifications de produits, des prix et des affirmations juridiques
- Exposition de données : le personnel peut coller des données clients, des contrats ou des identifiants dans une fenêtre de chat
- Confusion sur les licences : différents modèles Mistral ont été publiés sous différentes licences, et les conditions d’utilisation commerciale ne sont pas identiques
- Lacunes de l’auto-hébergement : un modèle à poids ouverts sur un serveur non corrigé n’a pas de filtre anti-abus côté fournisseur
- Dérive de la sortie : passer d’une version de modèle à une autre peut modifier le ton et la précision
La confusion sur les licences mérite une attention particulière. Vérifiez la licence du modèle exact que vous prévoyez d’utiliser dans la documentation de Mistral au moment de la rédaction, et enregistrez-la. Ne supposez pas que parce qu’un modèle a été publié sous une licence permissive, tous les modèles de la même entreprise le sont.
Quelles limites les équipes doivent-elles prévoir ?
Chaque modèle a une fenêtre de contexte, une quantité maximale de texte qu’il peut lire en une seule requête. Les longs briefs, les directives de marque complètes et les grands tableurs peuvent la dépasser, et le modèle refusera ou supprimera silencieusement des parties. Divisez les longs documents ou résumez-les d’abord.
La couverture linguistique est une autre limite. Les modèles de Mistral sont performants en anglais et dans les principales langues européennes. Pour le turc, l’azéri ou d’autres langues, testez la qualité de la sortie avec un locuteur natif avant de vous y fier pour du contenu publié. La grammaire peut sembler correcte pour un non-locuteur alors que les idiomes et les niveaux de formalité sont inappropriés.
Hébergé versus auto-hébergé
L’API hébergée est rapide à démarrer et Mistral gère la mise à l’échelle. L’auto-hébergement via des outils tels que vLLM ou Ollama nécessite des GPU, un ingénieur capable de les maintenir et votre propre limitation de débit. Pour la plupart des équipes marketing, la voie hébergée, ou l’accès via une place de marché cloud, est le choix pratique.
Quelles règles de gouvernance devez-vous définir en premier ?
Gardez la première version de votre politique sur une seule page. Une politique longue que personne ne lit ne protège personne. Ces cinq règles couvrent la plupart des utilisations marketing.
- Modèles approuvés : listez les modèles spécifiques et les voies d’accès que le personnel peut utiliser, et interdisez les comptes personnels pour les données de travail
- Classes de données : définissez ce qui ne doit jamais être envoyé, comme les données personnelles des clients, les mots de passe et les données financières non publiées
- Révision humaine : tout texte qui sera publié, envoyé à un client ou utilisé dans une publicité doit être lu et approuvé par une personne nommée
- Vérification des affirmations : les statistiques, les prix, les déclarations juridiques et les comparaisons avec les concurrents sont vérifiés par rapport à une source avant utilisation
- Journalisation : conservez les prompts et les sorties pour les flux de travail convenus afin que les problèmes puissent être tracés
Notez qui est responsable de la politique. Un responsable des opérations marketing ou un délégué à la protection des données est un choix courant. Cette personne approuve les nouveaux cas d’utilisation et révise la politique chaque trimestre.
Comment Mistral AI s’intègre-t-il avec le RGPD et l’IA Act de l’UE ?
Un fournisseur européen ne supprime pas vos obligations. En vertu du RGPD, vous avez toujours besoin d’une base légale pour traiter les données personnelles, d’un accord de traitement des données avec le fournisseur et d’une réponse sur l’endroit où les données sont stockées. Lisez les conditions actuelles de Mistral sur la conservation des données et l’utilisation pour l’entraînement plutôt que de vous fier à sa réputation.
L’IA Act de l’UE impose les obligations les plus directes aux fournisseurs de modèles à usage général et aux utilisations à haut risque. Les tâches marketing typiques, comme la rédaction de textes ou le résumé de rapports, ne sont pas à haut risque. Les obligations de transparence peuvent toujours s’appliquer, par exemple lorsque des personnes interagissent avec un chatbot et doivent savoir qu’il est automatisé. Demandez à un conseiller juridique de cartographier vos utilisations spécifiques.
Comment testez-vous la sortie avant de lui faire confiance ?
Construisez un petit jeu de test de tâches réelles : dix descriptions de produits, dix titres de publicités, cinq résumés de rapports. Écrivez à quoi ressemble une bonne réponse. Exécutez chaque modèle candidat sur le jeu et notez les résultats avec une grille simple. Répétez le test chaque fois que vous changez de version de modèle ou de prompt.
Surveillez particulièrement les erreurs confiantes. Un modèle qui dit “Je ne suis pas sûr” est plus facile à gérer qu’un modèle qui invente une fonctionnalité. Comptez les faits inventés séparément des problèmes de style, car ils comportent un risque différent.
Un court processus de gestion des incidents complète la politique. Si quelqu’un remarque une erreur publiée ou une fuite de données, il doit savoir à qui le dire, dans quel délai et comment le contenu est corrigé ou retiré.
Comment Alien Road applique Mistral AI
Pour un client typique, nous commençons par un audit de l’utilisation actuelle de l’IA : quels outils les employés ouvrent déjà, quelles données y entrent et ce qui en sort. Cette découverte révèle souvent des comptes personnels et une utilisation non journalisée, que les règles de gouvernance traitent ensuite.
Ensuite, nous mettons en place une voie d’accès approuvée, généralement l’API hébergée ou une connexion à une place de marché cloud, et rédigeons la politique d’une page avec les responsables marketing et juridiques du client. Nous construisons un jeu de test à partir du propre contenu du client et comparons les modèles Mistral avec au moins une alternative sur la précision, le ton et la qualité de la langue.
La mesure est continue. Nous journalisons les prompts et les sorties pour les flux de travail approuvés, nous les échantillonnons chaque mois et nous rapportons les types d’erreurs, le temps de révision et toute violation de la politique. Lorsqu’une nouvelle version de modèle apparaît, nous relançons le jeu de test avant de changer, et le rapport enregistre ce qui a changé.
Par où commencer cette semaine
Listez chaque outil d’IA que votre équipe a utilisé le mois dernier et ce qui y a été collé. Rédigez ensuite les cinq règles ci-dessus sur une seule page et diffusez-la pour commentaires. Choisir un modèle est plus facile une fois que vous savez ce que vous protégez.
Continuez à lire : Optimisation par IA · Optimisation par IA