Les workflows de génération augmentée par récupération (RAG) font gagner du temps en permettant à un modèle de langage de répondre à partir de vos propres documents plutôt que de mémoire. Un système RAG recherche des passages pertinents dans une base de connaissances, les transmet au modèle avec la question et demande une réponse basée sur ces passages, idéalement avec des citations. Pour les équipes marketing, cela transforme les directives de marque, les spécifications de produits, les campagnes passées et les recherches en quelque chose que les gens peuvent interroger en quelques secondes.
Quel problème le RAG résout-il ?
Les modèles de langage en savent beaucoup sur le monde et rien sur la dernière liste de prix de votre entreprise. Le réglage fin (fine-tuning) d’un modèle sur des documents internes est lent et ne gère pas bien les mises à jour fréquentes. Le RAG garde les connaissances en dehors du modèle, dans un magasin interrogeable, de sorte que la mise à jour d’un document met à jour les réponses.
Il réduit également les réponses inventées. Lorsque le modèle est invité à répondre uniquement à partir des passages récupérés et à dire quand rien de pertinent n’a été trouvé, il invente moins. Pas jamais, c’est pourquoi l’évaluation est importante.
Quelles sont les parties d’un workflow RAG ?
- Collecte de documents : les fichiers et pages que le système doit connaître.
- Préparation : nettoyage, conversion en texte, suppression des doublons et des versions obsolètes.
- Découpage (Chunking) : division des documents en passages suffisamment petits pour être récupérés avec précision.
- Embedding : conversion de chaque passage en vecteur avec un modèle d’embedding.
- Stockage : une base de données vectorielle ou un index de recherche, tel que pgvector, Pinecone, Weaviate, Elasticsearch ou Azure AI Search.
- Récupération : recherche des passages les plus pertinents pour une question, mélangeant souvent la recherche par mots-clés et la recherche vectorielle.
- Génération : le modèle rédige la réponse à partir de ces passages, avec des références.
Les services gérés regroupent bon nombre de ces étapes. La recherche de fichiers dans les API Assistants et Responses d’OpenAI, Google Vertex AI Search, Amazon Bedrock Knowledge Bases et Azure AI Search avec Azure OpenAI gèrent le découpage et la récupération pour vous. Pour un premier projet, une option gérée est généralement plus rapide.
Un workflow étape par étape pour une base de connaissances marketing
Étape 1 : Choisissez un périmètre restreint
Commencez par un type de question, comme « que pouvons-nous dire sur le produit X dans les publicités ? ». Collectez uniquement les documents qui y répondent : spécifications de produits, affirmations approuvées, directives de marque et notes juridiques. Une petite collection propre vaut mieux qu’une énorme collection désordonnée.
Étape 2 : Nettoyez les documents
Supprimez les anciennes versions ou étiquetez-les au moins avec des dates. Convertissez les PDF en texte et vérifiez que les tableaux ont été correctement transférés. Les documents numérisés nécessitent une OCR. Cette étape est fastidieuse et détermine la majeure partie de la qualité.
Étape 3 : Découpez par signification
Divisez par titres ou sections plutôt que par un nombre fixe de caractères si possible. Gardez chaque morceau concentré sur une idée et joignez des métadonnées : titre du document, section, date, produit et langue. Les métadonnées vous permettent de filtrer la récupération, par exemple uniquement pour les documents actuels.
Étape 4 : Récupérez avec une recherche hybride
La recherche vectorielle pure manque les termes exacts comme les codes produits. La recherche par mots-clés pure manque les paraphrases. La plupart des systèmes de production combinent les deux, puis reclassent les meilleurs résultats avec un modèle de re-ranking. Récupérez plus que nécessaire, puis gardez les meilleurs.
Étape 5 : Prompt pour des réponses fondées
Donnez au modèle des règles claires : répondez uniquement à partir des passages fournis, citez le titre du passage pour chaque affirmation, dites « non trouvé dans les documents » lorsque la réponse est manquante, et ne devinez jamais les prix ou les dates. Mettez les règles dans le prompt système afin que les utilisateurs ne puissent pas les supprimer par accident.
Étape 6 : Montrez les sources à l’utilisateur
Affichez les passages cités à côté de la réponse avec des liens vers le fichier original. Les gens font plus confiance à la réponse et détectent les erreurs plus rapidement lorsque la source est à un clic.
Comment savoir si le système RAG fonctionne ?
Construisez un jeu de test de 50 à 100 questions réelles avec des réponses correctes connues et le document dont provient chaque réponse. Mesurez deux choses séparément. Qualité de récupération : le bon passage est-il apparu dans les meilleurs résultats ? Qualité de réponse : la réponse finale était-elle correcte et étayée par le passage ?
Séparer les deux montre où résoudre les problèmes. Si la récupération échoue, ajustez le découpage, les métadonnées ou les paramètres de recherche. Si la récupération fonctionne mais que les réponses sont fausses, ajustez le prompt ou le modèle. Des outils comme Ragas et des évaluateurs open source similaires peuvent automatiser certaines parties de cela, mais faites vérifier un échantillon par des humains.
Comment Alien Road applique le RAG dans le travail avec les clients
Dans une mission typique, notre équipe d’optimisation AI commence par interviewer les personnes qui répondent le plus souvent aux questions internes, par exemple le responsable de la marque ou le responsable marketing produit, et par collecter les questions qu’ils reçoivent chaque semaine. Ces questions deviennent le jeu de test.
Nous rassemblons et nettoyons ensuite les documents sources, choisissons un service de récupération géré ou un pipeline personnalisé en fonction des règles de données, et construisons une interface simple dans un outil que le client utilise déjà, comme Teams, Slack ou l’intranet. Les réponses montrent toujours les sources.
La mesure couvre le taux de réussite de la récupération et la précision des réponses sur le jeu de test, l’utilisation hebdomadaire et les questions qui ont renvoyé « non trouvé », ce qui indique des documents manquants. Les rapports mensuels répertorient les mises à jour de documents effectuées et l’évolution des scores.
Quelles erreurs ralentissent les projets RAG ?
La plupart des retards proviennent des mêmes quelques habitudes. Les équipes chargent tous les documents qu’elles possèdent le premier jour et ne peuvent ensuite pas dire pourquoi les réponses sont médiocres. Elles sautent le jeu de test et se disputent sur les impressions. Elles choisissent une base de données vectorielle avant de savoir combien de documents elles ont, alors qu’un service géré suffirait. Et elles oublient les autorisations : si une présentation commerciale est restreinte dans SharePoint, le système RAG doit respecter cette restriction, sinon des prix confidentiels finissent dans une réponse pour la mauvaise personne.
- Commencez par une collection, pas par toutes.
- Rédigez le jeu de test avant de choisir les outils.
- Intégrez les autorisations de documents dans les filtres de récupération.
- Enregistrez chaque question et réponse pour examen.
Comment le maintenir à jour ?
Les systèmes RAG se dégradent lorsque les documents changent et que personne ne les réindexe. Configurez une synchronisation automatique à partir du dossier source, comme SharePoint ou Google Drive, et donnez à chaque collection un propriétaire qui la révise trimestriellement. Supprimez les campagnes expirées et les anciennes listes de prix plutôt que de les laisser pour que le récupérateur les trouve.
Par où commencer cette semaine
Listez les dix questions auxquelles votre équipe répond de manière répétée à partir de documents. Rassemblez les fichiers contenant les réponses dans un dossier, supprimez les versions obsolètes et essayez une option de recherche de fichiers gérée avec ces dix questions. Si au moins sept réponses reviennent correctes avec la bonne source, vous avez un périmètre sur lequel il vaut la peine de construire.
Continuer la lecture : Optimisation par IA · Optimisation par IA