LLM vs NLP traditionnel : explications et différences

Les systèmes de NLP traditionnels sont construits sur une logique explicitement définie. Les ingénieurs créent des systèmes basés sur des règles où un ordinateur suit un ensemble strict de règles grammaticales ou de modèles de correspondance de mots-clés pour interpréter le texte. Si un client écrit un e-mail à votre service d’assistance, un système traditionnel recherche des chaînes de texte spécifiques. Si le texte correspond à une règle prédéfinie, le système déclenche une réponse.

En revanche, les LLM représentent une approche probabiliste du langage. Au lieu de suivre des règles rigides, ces modèles ont été entraînés sur de vastes ensembles de données pour reconnaître des modèles dans la communication humaine. Lorsqu’un LLM traite votre requête, il prédit le jeton suivant le plus probable dans une séquence en fonction du contexte fourni. Cela permet au modèle de gérer l’ambiguïté, le sarcasme et les structures de phrases complexes qui brisent souvent les anciens systèmes basés sur des règles.

Les modèles statistiques dans le NLP traditionnel, tels que les modèles de Markov cachés ou les machines à vecteurs de support, reposent sur des données étiquetées pour des tâches spécifiques. Par exemple, si vous souhaitez classer le sentiment des clients, vous devez fournir au système des milliers d’exemples pré-étiquetés d’avis positifs et négatifs. Le modèle apprend à identifier des modèles dans ce cadre étroit.

Le problème survient lorsque les données changent. Si votre marque pénètre soudainement sur un nouveau marché où les clients utilisent un argot différent ou un jargon spécifique à l’industrie, un modèle statistique peut échouer. Vous devrez réentraîner le modèle avec de nouvelles données étiquetées pour maintenir la précision. Ce processus prend du temps et nécessite souvent des ressources techniques importantes.

Caractéristiques clés du NLP traditionnel

• Très dépendant de jeux de données structurés et pré-étiquetés pour la précision.
• Repose sur l’ingénierie manuelle des fonctionnalités où les développeurs définissent ce qui est important.
• Capacité limitée à gérer un contexte qui sort du cadre de l’entraînement.
• Résultats prévisibles car les règles sont définies par des humains.
• Efficace pour des tâches simples comme le filtrage de mots-clés de base ou le routage.

L’architecture de transformateur est l’épine dorsale des LLM modernes. Contrairement aux architectures récurrentes précédentes qui traitaient le texte mot par mot de manière séquentielle, les transformateurs utilisent un mécanisme connu sous le nom d’attention. Cela permet au modèle de regarder toute la phrase à la fois et de peser l’importance des différents mots les uns par rapport aux autres, quelle que soit leur distance dans le texte.

Ce mécanisme d’attention permet au modèle de maintenir le contexte sur de longs documents. Dans une analyse de compte typique pour un client, un LLM peut analyser un PDF de cinquante pages de recherche sur la concurrence et le résumer. Une approche de NLP traditionnelle aurait du mal à maintenir la relation entre un terme utilisé à la page un et une conclusion tirée à la page cinquante.

Tous les problèmes de marketing ne nécessitent pas un LLM à haute puissance de calcul. Si votre tâche est simple et nécessite une sortie cohérente à 100 %, le NLP traditionnel est souvent le meilleur choix. Par exemple, si vous construisez un système automatisé pour étiqueter les lignes d’objet des e-mails comme ‘promotionnelles’ ou ‘transactionnelles’, un classificateur simple basé sur des règles est plus rapide, moins cher et plus facile à surveiller.

Les LLM peuvent être imprévisibles. Ils peuvent générer des réponses différentes pour la même invite, ce qui est inacceptable dans les environnements nécessitant une conformité stricte ou une saisie de données automatisée. Dans ces cas, la nature déterministe des systèmes traditionnels est une fonctionnalité, pas un bug.

Matrice de comparaison pour le déploiement

• Coût : Les systèmes traditionnels ont des coûts d’inférence plus faibles par requête.
• Flexibilité : Les LLM excellent dans les tâches créatives et ouvertes.
• Contrôle : Les systèmes traditionnels offrent une plus grande précision pour les tâches structurées.
• Vitesse : Les systèmes basés sur des règles sont généralement plus rapides à exécuter.
• Configuration : Les LLM nécessitent moins d’entraînement initial mais une ingénierie d’invite plus complexe.

La plupart des agences de marketing chez Alien Road utilisent une approche hybride. Vous pouvez utiliser un LLM pour générer les brouillons initiaux de textes publicitaires ou de publications sur les réseaux sociaux, mais utiliser un script traditionnel basé sur des règles pour vérifier ces sorties par rapport aux directives de la marque. Cela garantit que la créativité du modèle est limitée par vos exigences spécifiques.

Pour les campagnes de recherche, vous pouvez utiliser le NLP traditionnel pour identifier les mots-clés à fort volume à partir de données historiques. Ensuite, vous pouvez alimenter ces mots-clés dans un LLM pour générer des variations à longue traîne que vous auriez pu manquer. Cela combine la fiabilité des données statistiques historiques avec la puissance générative de l’AI moderne.

La mise à l’échelle des LLM dans un environnement de production implique plus que de simples appels API. Vous devez tenir compte de l’utilisation des jetons, de la latence et de la gestion des modèles. À mesure que votre volume de requêtes augmente, vous pourriez constater que le coût par sortie devient une partie importante de votre budget marketing. La surveillance de ces coûts dans le tableau de bord de votre fournisseur cloud est essentielle pour la durabilité à long terme.

De plus, la latence peut affecter l’expérience utilisateur. Si vous utilisez un LLM pour alimenter un chatbot orienté client sur votre site Web, un temps de réponse lent de cinq secondes amènera probablement les utilisateurs à abandonner le chat. Dans ces scénarios, de nombreux développeurs utilisent des modèles plus petits et plus rapides ou mettent en cache les réponses aux requêtes courantes pour garder le système réactif.

Commencez par auditer vos flux de travail d’automatisation actuels. Identifiez un processus qui repose actuellement sur une saisie manuelle ou des règles de mots-clés de base. Évaluez si ce processus bénéficierait des capacités génératives d’un LLM ou s’il fonctionne déjà de manière optimale avec une approche traditionnelle.

Si vous décidez de tester un LLM, créez un petit projet sandbox. Ne remplacez pas tout votre système de support client du jour au lendemain. Au lieu de cela, alimentez un échantillon de données historiques dans un modèle et comparez ses performances avec vos règles existantes. Vérifiez la cohérence, la précision et le coût. En adoptant cette approche incrémentale, vous pouvez vérifier si le passage du NLP traditionnel à un LLM offre un retour tangible pour vos objectifs marketing spécifiques.

Gardez un journal de vos invites et des sorties correspondantes pendant une semaine. Si vous constatez que le modèle a du mal avec des nuances spécifiques de la voix de votre marque, ajustez vos instructions système ou fournissez quelques exemples de few-shot dans votre invite. Ce processus itératif de raffinement est le principal moyen d’améliorer la qualité de vos efforts marketing pilotés par l’AI.

Continuer la lecture : Optimisation par IA · Optimisation par IA