La génération augmentée par récupération (RAG) est une méthode où un modèle d’IA recherche d’abord dans vos propres documents des passages pertinents, puis rédige une réponse en utilisant ces passages comme contexte. Passer un pilote RAG en production nécessite un inventaire de sources propre, un découpage sensé, une couche de récupération testée, un ensemble d’évaluation avec des réponses connues, des contrôles d’accès et une surveillance. Sauter l’évaluation est la raison la plus courante pour laquelle les pilotes semblent bons dans les démos et échouent avec de vrais utilisateurs.
RAG est devenu le moyen par défaut de faire répondre les modèles de langage à partir des connaissances de l’entreprise sans avoir à les réentraîner. Un assistant de support qui lit le centre d’aide, un outil de vente qui cite la liste de prix actuelle, une recherche interne sur des documents de politique : tous ces systèmes sont des systèmes RAG. Le modèle reste général ; la connaissance provient de la récupération au moment de la requête, donc la mise à jour d’un document met à jour la réponse.
En quoi consiste un système RAG ?
Chaque configuration RAG a les mêmes parties de base, quel que soit le framework que vous utilisez.
- Sources : les documents, pages, flux de produits ou tables de base de données à partir desquels vous souhaitez que le système réponde.
- Ingestion : chargement, nettoyage et découpage de ces sources en morceaux.
- Embeddings : conversion des morceaux en vecteurs avec un modèle d’embedding, afin que des significations similaires soient proches les unes des autres.
- Index : une base de données vectorielle ou un moteur de recherche, tel que pgvector, Pinecone, Weaviate, Elasticsearch ou OpenSearch, souvent combiné avec une recherche par mots-clés.
- Récupérateur (Retriever) : la logique qui trouve les meilleurs morceaux pour une question, parfois suivie d’un reranker.
- Générateur : le modèle de langage qui rédige la réponse à partir des morceaux récupérés.
- Couche d’application : l’interface, la journalisation, les autorisations et les commentaires.
Des frameworks comme LangChain et LlamaIndex, et des options gérées dans Azure AI Search, Google Vertex AI et Amazon Bedrock, regroupent bon nombre de ces éléments.
Phase 1 : check-list pilote
Le pilote doit répondre à une question : la récupération peut-elle trouver les bonnes informations pour de vraies questions ?
- Choisissez un cas d’utilisation étroit avec un propriétaire clair, comme répondre aux questions sur l’expédition et les retours.
- Collectez 50 à 100 questions réelles à partir de tickets, de chats ou de journaux de recherche.
- Rédigez la réponse correcte et le document source pour chacune. Cela devient votre ensemble d’évaluation.
- Inventaire des sources : listez chaque document, son propriétaire, la fréquence de mise à jour et s’il est toujours exact.
- Supprimez les documents obsolètes, en double et contradictoires avant l’ingestion.
- Commencez par un découpage simple, par exemple par titre ou par quelques centaines de mots avec un certain chevauchement.
- Testez la récupération seule : pour chaque question, la bonne source est-elle dans les meilleurs résultats ?
- Ce n’est qu’ensuite que vous connectez le générateur et testez les réponses complètes.
Comment devez-vous découper et indexer le contenu ?
Le découpage décide de ce que le modèle peut voir. Les morceaux trop petits perdent le contexte ; les morceaux trop grands diluent la pertinence et gaspillent des jetons.
Règles pratiques de découpage
- Divisez d’abord selon la structure du document : titres, sections, paires de FAQ, lignes de tableau.
- Gardez le titre du document et le titre de la section attachés à chaque morceau en tant que métadonnées.
- Stockez l’URL source, la date de dernière mise à jour et le niveau d’accès avec chaque morceau.
- Traitez les tableaux et les spécifications de produits avec soin ; aplatir un tableau en prose le casse souvent.
La recherche hybride, combinant la correspondance par mots-clés avec la similarité vectorielle, fonctionne généralement mieux que l’une ou l’autre seule, en particulier pour les codes produits, les noms et les expressions exactes que les embeddings gèrent mal.
Phase 2 : durcissement pour la production
Une fois que la récupération fonctionne, la check-list passe à la fiabilité et à la sécurité.
- Instructions de mise à la terre (Grounding) : dites au modèle de répondre uniquement à partir du contexte fourni et de dire quand la réponse n’est pas là.
- Citations : affichez le lien source pour chaque réponse afin que les utilisateurs et les réviseurs puissent vérifier.
- Contrôle d’accès : filtrez la récupération selon les autorisations de l’utilisateur, afin qu’un client ne voie jamais de documents internes uniquement.
- Défense contre l’injection de prompts : traitez le texte récupéré comme des données. Un document contenant “ignorez les instructions précédentes” ne doit pas modifier le comportement.
- Données personnelles : excluez ou masquez les champs sensibles lors de l’ingestion.
- Fraîcheur : planifiez la réingestion lorsque les sources changent et supprimez les morceaux des documents supprimés.
- Fallbacks : dirigez les questions sans réponse vers un humain ou un formulaire de contact.
Comment savoir si le système est assez bon ?
Mesurez la récupération et la génération séparément. Si une réponse est fausse, vous devez savoir quelle partie a échoué.
- Taux de réussite de la récupération : part des questions d’évaluation où la bonne source apparaît dans les meilleurs résultats.
- Fidélité : part des réponses entièrement soutenues par le contexte récupéré.
- Exactitude de la réponse : part des réponses correspondant à la réponse de référence.
- Précision du refus : lorsque la réponse n’est pas dans les sources, le système le dit-il ?
- Latence et coût par réponse.
Des outils comme Ragas, TruLens et les fonctionnalités d’évaluation des principales plateformes cloud peuvent automatiser une partie de cela, mais faites examiner un échantillon par des humains à chaque version. Fixez un objectif pour chaque métrique avant le lancement et ne passez pas en production tant que vous ne l’avez pas atteint.
Phase 3 : surveillance après le lancement
- Enregistrez chaque question, les ID des morceaux récupérés et la réponse.
- Collectez les commentaires avec pouce levé et pouce baissé avec un commentaire facultatif.
- Examinez chaque semaine les questions sans réponse et mal notées ; elles révèlent le contenu manquant.
- Relancez l’ensemble d’évaluation après toute modification du découpage, du modèle d’embedding, du prompt ou du modèle générateur.
- Suivez quelles sources sont le plus récupérées ; assurez-vous que leurs propriétaires savent qu’elles sont critiques pour l’entreprise.
Comment Alien Road applique la génération augmentée par récupération
Dans un engagement typique, la découverte est principalement un travail de contenu. Nous collectons de vraies questions à partir de la boîte de réception du support, de la recherche sur le site et de l’équipe de vente du client, puis nous les mappons aux pages et documents existants. Cela montre généralement des lacunes et des contradictions qui doivent être corrigées avant toute implication de l’IA.
La configuration suit la check-list ci-dessus : sources nettoyées, découpage basé sur la structure avec métadonnées, recherche hybride et un prompt ancré avec citations. Les autorisations sont conçues avec le contact informatique du client, et l’ensemble d’évaluation est convenu avec le propriétaire de l’entreprise afin que tout le monde utilise la même définition d’une réponse correcte.
La mesure utilise l’ensemble d’évaluation à chaque version ainsi que les commentaires en direct une fois que le système est utilisé. Les rapports mensuels listent le taux de réussite de la récupération, la fidélité, les thèmes des questions sans réponse et les mises à jour de contenu qu’ils ont déclenchées. Les mêmes améliorations de contenu aident souvent aussi la recherche organique, car des pages plus claires répondent mieux aux questions pour les personnes comme pour les moteurs de recherche.
Par où commencer cette semaine
Exportez les 100 dernières questions des clients ou des employés d’un canal. Pour chacune, trouvez la page ou le document qui contient la réponse, et marquez celles pour lesquelles aucune bonne source n’existe. Cette feuille de calcul est à la fois votre ensemble d’évaluation et votre liste de lacunes de contenu, et c’est la base de tout pilote RAG qui vaut la peine d’être exécuté.
Continuez à lire : Optimisation par IA · Optimisation par IA