La génération augmentée par récupération (RAG) est une méthode où un modèle d’IA recherche d’abord dans un ensemble défini de documents, puis rédige sa réponse en utilisant ce qu’il a trouvé. Dans les campagnes clients, Alien Road utilise le RAG afin que les chatbots, les brouillons de contenu et les rapports soient basés sur les propres documents approuvés du client plutôt que sur la mémoire générale du modèle, ce qui réduit les faits inventés et assure la cohérence des affirmations.
Cet article explique comment fonctionne le RAG, quelles tâches de campagne il prend en charge et le processus que nous suivons, de la découverte au reporting.
Comment fonctionne le RAG ?
Un système RAG comporte trois parties. Un magasin de documents contient le matériel source, divisé en morceaux. Un récupérateur trouve les morceaux les plus pertinents pour une question, généralement en comparant des plongements vectoriels et souvent combiné avec une recherche par mots-clés. Un modèle de langage reçoit ensuite la question ainsi que ces morceaux et rédige une réponse, en citant idéalement les morceaux qu’il a utilisés.
Les connaissances générales du modèle façonnent toujours le langage, mais les faits proviennent du texte récupéré. Si le récupérateur ne trouve rien de pertinent, un système bien conçu le dit au lieu de deviner.
Pourquoi ne pas simplement coller des documents dans un chat ?
Pour une seule question, coller un document fonctionne. Pour une campagne avec des centaines de fiches produits, de pages de politiques, d’anciennes publicités et de rapports de recherche, cela ne fonctionne pas. Les fenêtres de contexte ont des limites, les coûts augmentent avec chaque jeton, et le collage manuel signifie que différents membres de l’équipe obtiennent des réponses différentes.
Le RAG rend l’ensemble des sources fixe et partagé. Tout le monde et chaque outil interroge le même magasin, et lorsqu’un document change, vous le mettez à jour une seule fois.
Quelles tâches de campagne utilisent le RAG ?
- Chatbots de site web et WhatsApp qui répondent à partir de documents de produits et de politiques
- Brouillons de contenu qui doivent rester conformes aux spécifications techniques
- Génération de textes publicitaires contrainte par des affirmations approuvées et un langage de conformité
- Assistants d’aide à la vente qui trouvent la bonne étude de cas ou la bonne réponse pour un représentant
- Commentaires de rapports qui expliquent les performances à l’aide de notes de campagne et de journaux de modifications
Le point commun est que le résultat doit correspondre à quelque chose que le client a approuvé. Le RAG est moins utile pour les travaux créatifs ouverts où vous voulez que le modèle s’exprime librement.
Comment Alien Road applique la génération augmentée par récupération
Découverte
Un engagement typique commence par un audit des sources. Nous listons les documents qui détiennent la vérité sur les produits et les affirmations du client : fiches techniques, règles de tarification, FAQ, mentions légales, directives de marque. Nous marquons également les documents obsolètes ou qui se contredisent, car le RAG répétera fidèlement tout ce qui se trouve dans le magasin, y compris les anciens prix.
Configuration
Les documents sont nettoyés, divisés en morceaux le long de sections naturelles telles que les titres, et étiquetés avec des métadonnées telles que le produit, la langue, la région et la date. Nous les indexons dans une base de données vectorielle, généralement des options comme pgvector, Pinecone ou un service de recherche géré, et nous l’associons à une recherche par mots-clés afin que les codes produits exacts soient trouvés de manière fiable.
L’invite demande au modèle de répondre uniquement à partir du texte récupéré, de citer le document source et d’indiquer quand des informations manquent. Pour les clients multilingues, nous indexons chaque version linguistique plutôt que de compter sur la traduction au moment de la réponse.
Évaluation
Avant le lancement, nous construisons un ensemble de test de questions réelles avec des réponses correctes connues, tirées de tickets de support, d’e-mails de vente et de l’équipe du client. Chaque réponse est vérifiée pour son exactitude, la précision des citations et le refus lorsqu’elle devrait refuser. Nous ajustons la taille des morceaux, les paramètres de récupération et les invites jusqu’à ce que les résultats soient stables.
Mesure et reporting
Après le lancement, le reporting couvre l’exactitude des réponses sur un échantillon révisé, les questions sans bonne récupération (un signe qu’un document manque) et les métriques de campagne que le système prend en charge, telles que les prospects issus du chatbot ou le temps d’édition sur les brouillons de contenu. La liste des questions sans réponse devient souvent le prochain plan de contenu.
Qu’est-ce qui ne va pas avec le RAG ?
- Documents obsolètes : le magasin contient les prix de l’année dernière, donc le bot les cite
- Mauvais découpage : un tableau divisé en plusieurs morceaux perd son sens
- Échecs de récupération : la formulation de l’utilisateur diffère de celle du document, et la recherche vectorielle pure ne la trouve pas
- Excès de confiance : les équipes supposent que le résultat du RAG est toujours correct et sautent la révision
- Lacunes dans le contrôle d’accès : des documents internes se retrouvent dans le magasin d’un bot public
Chacun de ces problèmes est davantage un problème de processus qu’un problème de modèle, c’est pourquoi les étapes d’audit et d’évaluation prennent plus de temps que la configuration technique.
Le RAG est-il important pour le SEO et la recherche par IA ?
Les produits de recherche par IA tels que AI Overviews de Google, Perplexity et la recherche ChatGPT fonctionnent sur un principe similaire : récupérer des pages web, puis générer une réponse. Les pages faciles à récupérer et à citer, avec des titres clairs, des réponses directes et des faits précis, sont plus susceptibles d’être utilisées. La construction de systèmes RAG pour les clients a façonné la façon dont nous structurons leur contenu public, car nous voyons quels types de passages sont bien récupérés.
RAG comparé au fine-tuning
Le fine-tuning modifie les poids d’un modèle en l’entraînant sur des exemples. Il est utile pour enseigner un style, un format ou une tâche de classification étroite. C’est un mauvais moyen d’enseigner des faits qui changent, car chaque mise à jour de prix nécessiterait un réentraînement, et le modèle pourrait toujours mélanger de nouveaux faits avec d’anciens.
Le RAG garde les faits en dehors du modèle, dans des documents que vous pouvez mettre à jour en quelques minutes. Pour le travail de campagne, où les produits, les offres et les politiques changent mensuellement, le RAG est presque toujours le meilleur choix. Les deux peuvent être combinés : un modèle ajusté au ton de la marque, répondant à partir d’un magasin RAG de faits actuels.
- Utilisez le RAG pour les faits qui changent : prix, stock, politiques, spécifications
- Utilisez le fine-tuning pour les modèles stables : ton, format de sortie, étiquettes de classification
- N’utilisez ni l’un ni l’autre lorsqu’une invite bien rédigée avec quelques exemples fonctionne déjà
Qui maintient le magasin de documents ?
Chaque système RAG a besoin d’un propriétaire côté client qui sait quand un document change. Dans une configuration typique, les chefs de produit mettent à jour les spécifications, le service juridique met à jour les mentions légales et le marketing met à jour les offres, chacun dans son propre dossier. Une vérification hebdomadaire signale les documents plus anciens qu’un âge défini pour révision.
Par où commencer cette semaine
Collectez les dix documents sur lesquels vos équipes de vente et de support comptent le plus et vérifiez chacun pour la date et le propriétaire. Supprimez ou marquez tout ce qui est obsolète. Ensuite, écrivez vingt questions réelles de clients avec les bonnes réponses à côté. Ces deux listes, des sources propres et un ensemble de test, sont la base de tout projet RAG, quel que soit l’outil que vous choisirez plus tard.
Continuer la lecture : Optimisation par IA · Optimisation par IA