Meta AI et les modèles Llama coûtent de l’argent à trois endroits, même si les poids sont gratuits à télécharger : la puissance de calcul pour les exécuter, le temps d’ingénierie pour les déployer et les maintenir, et le travail de révision nécessaire pour maintenir une qualité de sortie acceptable. Le ROI provient du remplacement des appels API payants ou du travail manuel en volume, donc le budget n’a de sens qu’une fois que vous savez combien de tâches par mois le modèle traitera.
Meta publie Llama sous sa propre licence communautaire plutôt que sous une licence open source standard. Les poids peuvent être téléchargés et exécutés sur votre propre matériel ou via des fournisseurs cloud tels qu’AWS Bedrock, Azure, Google Vertex AI, Groq, Together AI et d’autres. Meta AI, l’assistant intégré à WhatsApp, Instagram, Messenger et Facebook, est un produit grand public basé sur ces modèles ; ce n’est pas quelque chose pour lequel vous budgétisez directement, mais c’est important car votre public l’utilise pour poser des questions sur les marques.
Cet article se concentre sur la décision commerciale : quand exécuter Llama vous-même, ou via un hôte, est moins cher et meilleur qu’une API fermée, et comment le prouver.
Combien coûte réellement l’exécution de Llama ?
Il existe deux grandes façons de l’utiliser, et la structure des coûts diffère complètement.
Inférence hébergée
Des fournisseurs tels que Bedrock, Together AI, Fireworks ou Groq exécutent le modèle et facturent par million de jetons d’entrée et de sortie, comme n’importe quelle API. Les prix varient selon la taille du modèle et le fournisseur et changent souvent, alors vérifiez les tarifs actuels au moment de la planification. Les variantes plus petites de Llama sont généralement beaucoup moins chères par jeton que les grands modèles de pointe, ce qui est la raison principale pour laquelle les spécialistes du marketing les envisagent.
Auto-hébergement
Ici, vous payez pour des GPU au lieu de jetons. Un petit modèle peut fonctionner sur un seul GPU moderne ; les variantes plus grandes nécessitent plusieurs GPU à haute mémoire ou des versions quantifiées. La facture est horaire, que le modèle soit occupé ou inactif, donc l’utilisation décide si l’auto-hébergement est bon marché ou coûteux. Un serveur qui répond à quarante requêtes par jour est presque toujours moins rentable qu’une API hébergée.
L’auto-hébergement ajoute également des lignes cachées : un ingénieur pour configurer les logiciels de service tels que vLLM ou Ollama, la surveillance, les correctifs de sécurité et quelqu’un d’astreinte lorsqu’il cesse de répondre.
Quels coûts les équipes oublient-elles ?
- Travail de prompt et d’évaluation : la construction de jeux de tests et la comparaison des résultats prennent des jours, pas des heures.
- Révision humaine : si chaque description de produit est lue par un éditeur, le temps de l’éditeur est souvent supérieur à celui du calcul.
- Fine-tuning : entraîner un adaptateur LoRA sur des textes de marque est abordable, mais préparer des données d’entraînement propres est la partie coûteuse.
- Vérifications de licence : la licence de Meta a une politique d’utilisation acceptable et un seuil pour les très grandes entreprises. Le service juridique devrait la lire une fois.
- Coût de changement : les prompts ajustés pour un modèle sont rarement transférés parfaitement à un autre.
Comment calculez-vous le ROI pour un cas d’utilisation marketing ?
Le ROI est plus facile à mesurer sur des tâches répétables à haut volume. Écrire du texte alternatif pour cinq mille images de produits, classer les messages de support, rédiger des méta-descriptions, traduire des variantes publicitaires ou étiqueter les avis par thème ont tous une unité claire et un coût actuel clair.
Le calcul comporte quatre parties.
- Coût de base par unité : combien la tâche coûte aujourd’hui, en honoraires de freelance, heures de personnel ou dépenses API.
- Nouveau coût par unité : jetons ou temps GPU par unité, plus temps de révision par unité.
- Taux de qualité : la part des résultats acceptés sans modification, mesurée sur un échantillon.
- Volume : unités par mois, ce qui vous indique si les coûts fixes comme l’installation sont récupérés.
Par exemple, supposons qu’un magasin paie un freelance par description de produit et a deux mille nouveaux produits par trimestre. Si un modèle Llama hébergé rédige chaque description pour une fraction de centime et qu’un éditeur passe deux minutes par article pour le corriger, l’économie est l’honoraire du freelance moins le coût du jeton moins le temps de l’éditeur. Si le taux d’acceptation est faible et que les éditeurs passent dix minutes par article, l’économie peut disparaître. C’est pourquoi le taux de qualité appartient à la formule.
Quand un modèle fermé est-il la meilleure affaire ?
Llama n’est pas automatiquement l’option la moins chère. Pour les faibles volumes, une API fermée sans travail de configuration est généralement moins chère au total. Pour un raisonnement complexe, de longs documents ou des tâches où les différences de qualité sont visibles pour les clients, un modèle fermé plus grand peut produire moins de réécritures, et moins de réécritures peuvent compenser un prix de jeton plus élevé.
Llama a tendance à gagner lorsque le volume est élevé, la tâche est étroite, les données doivent rester dans votre propre compte cloud, ou vous souhaitez affiner et conserver le modèle résultant. Une approche mixte est courante : un petit modèle Llama pour la classification et la rédaction, et un modèle plus grand uniquement pour les tâches qui en ont besoin.
Comment Alien Road applique Meta AI et les modèles Llama
Dans un engagement typique, le premier livrable est une liste de tâches avec des volumes, pas un choix de modèle. Nous listons les tâches répétables de contenu et de données, comptons à quelle fréquence chacune se produit et estimons ce que chacune coûte aujourd’hui. Les tâches à faible volume ou à haut risque sont supprimées de la liste tôt.
Pour les tâches restantes, nous effectuons un court test comparatif. Les cinquante mêmes entrées vont à un modèle Llama hébergé et à un ou deux modèles fermés, en utilisant le même prompt. Un éditeur note les résultats à l’aveugle sur la précision, le ton et les modifications nécessaires. Cela donne le taux de qualité dont la formule de ROI a besoin, mesuré sur le propre matériel du client.
Si Llama gagne, le déploiement commence généralement avec un fournisseur hébergé dans le cloud existant du client, car cela évite la gestion des GPU. L’auto-hébergement n’est envisagé que lorsque les volumes sont stables et élevés. Les rapports mensuels montrent les unités traitées, le coût par unité, le taux d’acceptation et les minutes d’éditeur économisées, ainsi qu’un échantillon de résultats afin que le client puisse juger directement la qualité.
Nous suivons également comment la marque apparaît lorsque les gens interrogent Meta AI à son sujet dans WhatsApp ou Instagram. C’est une question de visibilité plutôt que de coût, mais cela fait partie de la même conversation.
Par où commencer cette semaine
Choisissez une tâche pour laquelle vous payez déjà, avec au moins quelques centaines d’unités par mois. Notez son coût actuel par unité. Ensuite, exécutez cinquante exemples réels via un modèle Llama hébergé sur les crédits gratuits ou d’essai d’un fournisseur et demandez à un éditeur de les noter.
Avec un taux d’acceptation mesuré et un coût réel par unité, vous pouvez remplir honnêtement la formule de ROI. Si les chiffres ne fonctionnent pas pour cette tâche, vous avez passé quelques jours, pas un trimestre, à le découvrir.
Continuer la lecture : Agence de Marketing AI · Marketing AI