Risques, limites et règles de gouvernance pour l'ingénierie de prompts à définir en priorité

L’ingénierie de prompts est la pratique consistant à rédiger des instructions, du contexte et des exemples afin qu’un modèle d’AI produise un résultat utile. En marketing, cela couvre tout, d’une demande d’une ligne pour des objets d’e-mail à un long prompt système qui alimente un outil de contenu interne.

Les règles sont importantes car les prompts se propagent. Un prompt intelligent écrit par une personne finit dans un document partagé, puis dans un Gem ou un GPT personnalisé, puis dans une automatisation qui tourne tous les jours. À ce stade, personne ne se souvient de ses hypothèses, des données qu’il touche ou de qui vérifie son résultat. La gouvernance consiste simplement à décider de ces choses à l’avance.

Exposition des données

L’incident le plus courant n’est pas un piratage. C’est un employé qui colle une liste de clients, un contrat ou une campagne non publiée dans un compte d’AI grand public dont les conditions permettent au fournisseur d’utiliser les entrées pour l’entraînement ou la révision. Les plans d’affaires des principaux fournisseurs offrent généralement des conditions de données plus solides, mais seulement si le personnel les utilise.

Erreurs confiantes

Les modèles produisent du texte qui semble correct. Un prompt bien structuré peut toujours renvoyer une statistique inventée, une réglementation mal citée ou une fonctionnalité de produit qui n’existe pas. Des prompts plus longs et plus détaillés aggravent parfois cela, car le modèle essaie de satisfaire chaque instruction même lorsqu’il manque de faits.

Injection de prompts

Lorsqu’un modèle lit du contenu externe, comme une page web, un PDF d’un fournisseur ou un e-mail client, ce contenu peut contenir des instructions cachées. Un assistant de navigation pourrait être invité par une page à ignorer son brief ou à inclure un lien. C’est le plus important pour les flux de travail automatisés où personne ne lit l’entrée.

Dérive de la marque et juridique

Au fil de nombreuses sorties, le ton s’aplatit et les affirmations augmentent. ‘Aide à réduire’ devient ‘élimine’. Les affirmations comparatives sur les concurrents, les allégations de santé et les promesses de prix peuvent créer une exposition juridique en vertu des règles de publicité dans l’UE, en Turquie et ailleurs.

Dépendance excessive

Un risque plus silencieux est la perte de compétences. Lorsque les marketeurs juniors rédigent chaque brief via un modèle, ils peuvent cesser d’apprendre à construire un argument ou à lire une interview client. Les équipes devraient garder certains travaux entièrement humains, comme les déclarations de positionnement et la synthèse de recherche, afin que le jugement continue de se développer. Le prompt n’est aussi bon que la personne qui sait à quoi ressemble une bonne réponse.

Les prompts ne peuvent pas ajouter de connaissances que le modèle n’a pas, et ils ne peuvent pas garantir un format à chaque fois. Des instructions comme ‘ne mentionnez jamais les concurrents’ fonctionnent la plupart du temps, pas tout le temps. Pour tout ce qui doit être garanti, utilisez une vérification après le modèle, pas une phrase dans le prompt.

Les prompts se cassent également lorsque les modèles changent. Les fournisseurs mettent à jour les modèles régulièrement, et un prompt ajusté pour une version peut se comporter différemment sur la suivante. Une bibliothèque de prompts sans tests se dégradera sans que personne ne s’en aperçoive.

Commencez petit. Cinq règles, écrites sur une page, couvrent la majeure partie du risque pour un département marketing typique.

• Outils approuvés : nommez les outils d’AI et les types de comptes que le personnel peut utiliser pour le travail, et ceux qu’il ne peut pas utiliser.
• Classes de données : listez ce qui peut entrer dans les prompts (contenu public, statistiques anonymisées) et ce qui ne peut pas (données personnelles, contrats, mots de passe, finances non publiées).
• Révision humaine : chaque sortie externe est lue par une personne nommée avant publication ; les affirmations réglementées vont au service juridique ou à la conformité.
• Propriété : chaque prompt partagé ou automatisation a un propriétaire qui le met à jour et répond de son résultat.
• Journalisation : les flux de travail automatisés conservent un enregistrement des entrées, des sorties et de la version du modèle utilisée.

Traitez les prompts comme des modèles dans un système de conception. Chaque entrée doit porter son objectif, son propriétaire, la date du dernier test, le modèle sur lequel il a été testé et un exemple de bon résultat.

• Stockez les prompts dans un seul endroit, comme un dossier Drive partagé, une page Notion ou un outil interne.
• Versionnez-les : lorsqu’un prompt change, gardez l’ancien et notez pourquoi.
• Testez après chaque mise à jour du modèle avec trois à cinq entrées standard.
• Retirez les prompts que personne n’a utilisés en trois mois.
• Marquez les prompts qui touchent aux données clients afin qu’ils reçoivent une révision plus stricte.

Pour les pipelines automatisés, ajoutez des validateurs simples après le modèle : vérifiez la longueur, les mots interdits, les avertissements requis et que les liens pointent vers votre propre domaine. Ces vérifications sont bon marché et attrapent la plupart des surprises. Elles donnent également aux réviseurs une liste plus courte de choses à surveiller, ce qui accélère l’approbation.