Une base de données vectorielle stocke des embeddings, les représentations numériques du sens qui permettent aux logiciels de trouver des textes, des images ou des produits similaires. Les coûts proviennent de trois sources : la création des embeddings, leur stockage et leur interrogation, et le temps d’ingénierie pour maintenir la précision du système. Le retour provient d’une meilleure recherche, de recommandations et d’assistants IA, et doit être mesuré par rapport à une base de référence claire, comme la conversion actuelle de la recherche sur le site ou le volume de tickets de support.
Que sont les embeddings et les bases de données vectorielles ?
Un modèle d’embedding, comme les modèles d’embedding de texte d’OpenAI, les embeddings Gemini de Google, Cohere Embed ou des modèles ouverts comme ceux sur Hugging Face, transforme un contenu en une liste de nombres. Un contenu ayant un sens similaire obtient des nombres similaires. « Bottes de randonnée imperméables » et « bottes pour marcher sous la pluie » finissent proches, même avec peu de mots communs.
Une base de données vectorielle stocke ces listes et trouve rapidement les plus proches. Les options incluent des services gérés comme Pinecone, Weaviate Cloud et Qdrant Cloud, des extensions comme pgvector pour PostgreSQL, et la recherche vectorielle intégrée dans des plateformes existantes comme Elasticsearch, OpenSearch, MongoDB Atlas ou Vertex AI.
Où va l’argent ?
Budgétisez chacun de ces postes séparément, car ils évoluent différemment.
- Génération d’embeddings : un coût unique pour intégrer votre contenu existant, plus un coût continu pour les nouveaux éléments et les éléments modifiés. Généralement facturé par jeton par les fournisseurs d’API.
- Stockage : dépend du nombre de vecteurs et de leurs dimensions. Des tailles d’embedding plus grandes coûtent plus cher à stocker et à rechercher.
- Requêtes : les services gérés facturent par unités de lecture, capacité de calcul ou palier mensuel.
- Appels aux modèles de langage : si les vecteurs alimentent un assistant RAG, chaque réponse appelle également un modèle génératif, souvent le coût le plus important.
- Ingénierie et maintenance : construction du pipeline, réindexation, surveillance de la qualité et mise à jour lors des changements de modèles.
Les prix changent fréquemment, donc basez votre estimation sur les pages de prix actuelles plutôt que sur un chiffre dans un article, y compris celui-ci.
Quel est le coût typique ?
Pour de nombreux cas d’utilisation marketing, les coûts d’embedding et de stockage sont inférieurs à ce que les équipes attendent. Un site avec des dizaines de milliers de pages ou de produits produit un volume de vecteurs qui tient dans les paliers d’entrée de plusieurs services gérés. Intégrer ce contenu une fois avec une API commerciale est généralement une dépense modeste.
Les coûts les plus importants sont le volume de requêtes à grande échelle, les appels aux modèles génératifs et le temps des personnes. Un chatbot RAG répondant à des milliers de questions par jour peut coûter plus cher en appels de modèles qu’en stockage vectoriel. Et les heures d’ingénierie pour nettoyer le contenu, tester la pertinence et gérer les cas limites dépassent souvent tous les coûts d’infrastructure la première année.
Comment réduire les coûts sans nuire à la qualité ?
Plusieurs choix font une différence significative.
Choisissez la bonne taille d’embedding
Certains modèles permettent de raccourcir les embeddings avec une perte de qualité limitée. Testez si une dimension plus petite répond à vos besoins de pertinence avant de payer pour la plus grande.
Utilisez ce que vous utilisez déjà
Si votre pile inclut déjà PostgreSQL, Elasticsearch ou MongoDB, leurs fonctionnalités vectorielles peuvent couvrir vos besoins sans autre fournisseur.
Intégrez uniquement ce qui compte
Ignorez le texte standard comme le texte de navigation, les pieds de page et les pages en double. Une entrée plus propre offre un stockage moins cher et de meilleurs résultats.
Mettez en cache les réponses courantes
Pour les assistants, mettez en cache les réponses aux questions fréquentes afin que le modèle génératif ne soit pas appelé à chaque fois.
Comment mesurer le ROI ?
Le retour dépend du cas d’utilisation, définissez donc la métrique avant de construire.
- Recherche sur le site : taux de conversion des sessions utilisant la recherche, part des recherches sans résultat et revenus par session de recherche.
- Recommandations de produits : taux de clics et d’ajout au panier sur les emplacements de recommandation par rapport à la logique basée sur des règles précédente.
- Assistant de support : part des questions résolues sans ticket et changement du volume de tickets pour les sujets couverts.
- Recherche de connaissances internes : temps pour trouver des documents, mesuré lors d’un court test avant/après avec le personnel.
- Opérations de contenu : temps gagné pour trouver des articles connexes pour les liens internes ou la détection de doublons.
Exécutez les anciens et nouveaux systèmes côte à côte si possible, par exemple via un test A/B sur la recherche du site, afin que la différence soit attribuable.
Quelles erreurs gonflent les coûts ?
La plus courante est de construire avant de mesurer le problème. Les équipes mettent en place une base de données vectorielle parce que c’est à la mode, puis découvrent que leur problème de recherche était une liste de synonymes manquante.
Une autre est de tout réintégrer à chaque fois que le contenu change. Un pipeline qui n’intègre que les éléments nouveaux ou modifiés économise de l’argent et du temps. Une troisième est d’ignorer l’évaluation ; sans un ensemble de tests de requêtes et de résultats attendus, personne ne sait si un modèle moins cher ou une dimension plus petite est assez bon, donc les équipes dépensent trop par sécurité.
À quoi ressemble une structure de budget type ?
Une structure claire aide lors de la présentation du dossier aux finances. Divisez l’estimation en coûts de configuration et de fonctionnement. La configuration couvre le nettoyage du contenu, la première exécution d’embedding, la construction du pipeline et l’ensemble d’évaluation. Les coûts de fonctionnement couvrent les nouveaux embeddings, le stockage vectoriel et les requêtes, les appels aux modèles si un assistant est impliqué, la surveillance et une allocation mensuelle pour les contrôles de qualité.
Fixez une date de révision trois mois après le lancement. D’ici là, vous aurez des volumes de requêtes réels et des données de résultats, et l’estimation de fonctionnement pourra être remplacée par des chiffres réels.
Comment Alien Road applique les bases de données vectorielles et les embeddings
Dans un engagement typique, nous commençons par mesurer la base de référence actuelle : journaux de recherche du site, taux de zéro résultat, performance des recommandations ou thèmes des tickets de support. Nous estimons ensuite les coûts ligne par ligne en utilisant le volume de contenu du client et le trafic de requêtes attendu. Si le cas tient la route, nous construisons un petit test avec un échantillon de contenu, comparons deux options d’embedding et choisissons le stockage qui correspond à la pile existante du client.
Un ensemble de tests de requêtes réelles avec des résultats attendus est utilisé avant le lancement et après chaque changement. Les rapports mensuels montrent les dépenses d’infrastructure et de modèle à côté de la métrique de résultat convenue. Par exemple, un détaillant en ligne pourrait remplacer la recherche par mots-clés par une recherche hybride par mots-clés et vecteurs, puis comparer la conversion de recherche avec le trimestre précédent.
Par où commencer cette semaine
Exportez vos requêtes de recherche sur le site du mois dernier et calculez la part qui n’a renvoyé aucun résultat ou a conduit à une sortie. Comptez ensuite combien d’éléments vous auriez besoin d’intégrer. Avec ces deux chiffres, vous pouvez calculer un pilote à partir des pages des fournisseurs actuels en un après-midi et juger si le gain potentiel vaut la construction.
Continuer la lecture : Optimisation par IA · Optimisation par IA