La génération augmentée par récupération, ou RAG, est une méthode où un modèle d’IA recherche d’abord des passages pertinents dans vos propres documents, puis rédige sa réponse en les utilisant. Pour une petite entreprise, cela signifie un assistant capable de répondre aux questions sur vos services, politiques ou produits à partir de votre contenu réel plutôt que de deviner. Vous pouvez commencer avec des outils prêts à l’emploi avant de construire quelque chose de personnalisé.
Comment fonctionne le RAG ?
Il y a deux étapes. La récupération trouve les parties les plus pertinentes de votre contenu, généralement en convertissant le texte en embeddings et en effectuant une recherche dans un index vectoriel. La génération transmet ces parties à un modèle de langage avec des instructions de ne répondre qu’à partir de celles-ci.
L’approche a été décrite dans une recherche de Meta AI en 2020 et est désormais la méthode standard pour fonder les chatbots sur les données de l’entreprise. C’est moins cher et plus facile à mettre à jour que d’entraîner un modèle sur vos documents, car changer une réponse nécessite uniquement de modifier le texte source.
Une petite entreprise a-t-elle vraiment besoin du RAG ?
Pas toujours. Si les clients posent les quinze mêmes questions, une FAQ bien rédigée et un chatbot basé sur des règles peuvent suffire. Le RAG devient utile lorsque les connaissances sont plus vastes que ce qu’une FAQ peut contenir.
- Un cabinet d’avocats ou de comptabilité avec des centaines de notes d’orientation.
- Un magasin avec un grand catalogue et des spécifications détaillées.
- Une clinique ou une école avec des politiques qui changent à chaque trimestre.
- Une entreprise de logiciels avec une longue documentation et un historique de support.
- Usage interne : personnel recherchant des contrats, des propositions et des procédures.
Quels sont les moyens peu coûteux pour commencer ?
Vous n’avez pas besoin d’embaucher des ingénieurs pour un premier test.
Outils intégrés
Les GPTs et Projects personnalisés d’OpenAI, les Claude Projects d’Anthropic et NotebookLM de Google vous permettent de télécharger des documents et de poser des questions basées sur ceux-ci. Ils sont parfaits pour les tests internes et pour vérifier si vos documents sont suffisamment clairs pour y répondre.
Produits de chat pour sites web
Des outils comme Intercom Fin, les agents d’IA de Zendesk, Chatbase ou les fonctionnalités d’IA de Tidio parcourent vos pages d’aide et répondent aux visiteurs avec le RAG en arrière-plan. La tarification se fait généralement par résolution ou par message, vous payez donc à mesure que le volume augmente.
Constructions personnalisées simples
Si vous avez un développeur, des frameworks comme LlamaIndex ou LangChain avec un magasin vectoriel comme pgvector ou Chroma peuvent produire un prototype fonctionnel en quelques jours.
Qu’est-ce qui rend les réponses RAG précises ?
La plupart des échecs proviennent du contenu, pas du modèle. Si deux documents donnent des prix différents, l’assistant peut citer l’un ou l’autre.
- Supprimez ou archivez les documents obsolètes avant l’indexation.
- Divisez les longs fichiers en sections avec des titres clairs.
- Écrivez un fait à un endroit, puis créez un lien vers celui-ci.
- Donnez pour instruction au modèle de dire “Je ne sais pas” et de proposer un humain lorsque la réponse n’est pas dans les sources.
- Affichez le lien de la source avec chaque réponse afin que les utilisateurs puissent vérifier.
Comment Alien Road applique le RAG pour les petites entreprises
Dans un engagement typique, la découverte signifie collecter les questions posées par les clients ou le personnel, généralement à partir d’e-mails, de journaux de chat et d’appels, et les mapper aux documents existants. Les lacunes deviennent des tâches de rédaction avant que toute technologie ne soit choisie.
La configuration dépend de la taille du client. Pour de nombreuses petites entreprises, nous configurons un produit de chat existant sur le contenu nettoyé. Pour les clients qui ont besoin de contrôle sur les données ou d’un comportement personnalisé, nous construisons un petit service RAG avec un index vectoriel, une API de modèle et une journalisation.
La mesure utilise un ensemble de test de questions réelles avec des réponses correctes connues. Nous évaluons l’assistant avant le lancement, puis mensuellement. Les rapports montrent la précision sur l’ensemble de test, la part des conversations transmises à un humain et les principales questions sans réponse, qui alimentent les mises à jour de contenu.
Quels risques devez-vous gérer ?
Le RAG réduit les réponses inventées mais ne les élimine pas. Le modèle peut toujours mal lire un passage ou combiner deux sources de manière erronée. Gardez les sujets à enjeux élevés, tels que les prix, les conseils juridiques ou les conseils médicaux, soit dans des réponses fixes, soit sous révision humaine.
La confidentialité compte aussi. N’indexez pas de documents contenant des données personnelles à moins d’avoir une base légale et que le traitement des données de l’outil respecte vos obligations en vertu du RGPD ou de la KVKK. Vérifiez si le fournisseur utilise vos données pour l’entraînement et combien de temps il stocke les conversations.
Comment construire un ensemble de test ?
Un ensemble de test est une liste de questions réelles avec la réponse correcte et le document source pour chacune. Commencez avec 30 à 50 questions tirées de messages clients réels, pas inventées. Incluez quelques questions auxquelles votre contenu ne répond pas, afin de pouvoir vérifier que l’assistant admet qu’il ne sait pas.
Notez chaque réponse sur trois points : correcte, fondée sur la source citée et suffisamment complète pour être utile. Gardez la notation simple pour que n’importe qui dans l’équipe puisse la répéter. Exécutez le même ensemble après chaque changement de contenu ou de configuration ; une correction dans une zone casse parfois une autre.
Signes que votre contenu a besoin de travail
- L’assistant cite deux réponses différentes à la même question.
- Les réponses citent d’anciens documents que vous pensiez avoir supprimés.
- Les questions courantes renvoient “Je ne sais pas” même si le personnel y répond quotidiennement.
Chacun de ces points renvoie aux documents sources, d’où provient la majeure partie de l’amélioration.
Prévoyez également une heure mensuelle pour examiner les conversations réelles. Les ensembles de test montrent des questions connues ; les journaux en direct montrent les nouvelles que les clients commencent à poser après un changement de produit ou une période de pointe.
Il est également utile de suivre quels documents sont cités le plus souvent. Ce sont les pages dont dépendent les clients, et elles méritent un propriétaire et une date de révision régulière. Les documents qui ne sont jamais récupérés peuvent être peu clairs, mal intitulés ou simplement inutiles, et les élaguer rend l’index plus facile à maintenir précis.
Par où commencer cette semaine
Rassemblez les vingt documents qui répondent à la plupart des questions des clients, supprimez les versions obsolètes et téléchargez-les dans NotebookLM ou un Claude Project. Posez-lui les dix questions que vous entendez le plus et vérifiez chaque réponse par rapport à la source. Là où il échoue, corrigez le document, pas le prompt. Une fois que les réponses tiennent la route, vous saurez que votre contenu est prêt pour un assistant orienté client.
Continuer la lecture : Optimisation par IA · Optimisation par IA