Los modelos de lenguaje pequeños son modelos de IA compactos, generalmente con unos pocos miles de millones de parámetros, que pueden ejecutarse en una computadora portátil, un solo servidor o una instancia de nube privada. Para los equipos de marketing B2B, son adecuados para tareas enfocadas y repetibles, como clasificar clientes potenciales, etiquetar contenido, redactar textos cortos y resumir llamadas, donde la privacidad, el costo y la velocidad importan más que el razonamiento amplio.
¿Qué cuenta como un modelo de lenguaje pequeño?
No existe un límite fijo, pero el término generalmente se refiere a modelos mucho más pequeños que los sistemas de frontera más grandes. Las familias bien conocidas incluyen Gemma de Google, Phi de Microsoft, los modelos más pequeños de Mistral y las versiones compactas de Llama de Meta. Muchos se lanzan con pesos abiertos, por lo que una empresa puede descargarlos y ejecutarlos en su propio hardware.
Su tamaño es el compromiso. Un modelo pequeño es más barato y rápido, y puede permanecer dentro de su red. También sabe menos, razona de manera menos confiable sobre problemas largos y comete más errores en preguntas abiertas. El manual trata sobre cómo hacer coincidir ese perfil con los trabajos correctos.
¿Por qué un equipo B2B elegiría un modelo pequeño en lugar de uno grande?
Los modelos alojados grandes son excelentes herramientas generales. Los modelos pequeños ganan en situaciones más estrechas, y el marketing B2B tiene muchas de ellas.
- Privacidad: los registros de CRM, las transcripciones de llamadas y las notas de precios se pueden procesar sin salir de su entorno.
- Costo por volumen: etiquetar decenas de miles de registros cuesta mucho menos en un modelo que usted aloja que a través de una API por token.
- Velocidad: las tareas cortas regresan rápidamente, lo que se adapta a las herramientas que se ejecutan dentro de un CRM o sitio web.
- Control: usted elige la versión y no cambia debajo de usted, por lo que los resultados se mantienen estables.
- Ajuste fino: un modelo pequeño puede entrenarse con sus propios ejemplos etiquetados para seguir sus categorías de cerca.
¿Qué tareas de marketing se ajustan mejor a los modelos pequeños?
Las mejores tareas tienen una entrada clara, una salida clara y una forma de verificar la respuesta. La clasificación y la extracción son las que mejor encajan. El liderazgo intelectual de formato largo es el más débil.
Buenas opciones
- Clasificación de clientes potenciales y cuentas: industria, banda de tamaño de empresa, etapa de compra a partir de campos de formulario y notas.
- Etiquetado de contenido: asignación de temas, personas y etapas del embudo a un blog o biblioteca de recursos.
- Resúmenes de llamadas y reuniones: extracción de objeciones, competidores mencionados y próximos pasos de las transcripciones.
- Variantes de copia corta: líneas de asunto, titulares de anuncios y meta descripciones dentro de una plantilla estricta.
- Búsqueda y enrutamiento: hacer coincidir las preguntas entrantes con el artículo de ayuda correcto o el propietario de ventas.
Malas opciones
- Documentos de estrategia y artículos de investigación originales.
- Tareas que necesitan hechos actuales de la web.
- Análisis complejo de varios pasos en muchos documentos.
¿Cómo se elige un modelo?
Comience por la tarea, no por la tabla de clasificación. Escriba la entrada, la salida esperada y el idioma. Luego, preseleccione dos o tres modelos con licencias que permitan el uso comercial y verifique que admitan los idiomas que necesitan sus mercados.
Pruébelos con sus propios datos. Cree un conjunto de 100 a 200 ejemplos reales con respuestas correctas, etiquetados por alguien del equipo. Ejecute cada modelo y compare la precisión, la velocidad y las necesidades de hardware. Un modelo que es ligeramente menos preciso pero que se ejecuta en el hardware que ya tiene puede ser la mejor opción comercial.
¿Cómo es un primer proyecto?
Un primer proyecto debe ser lo suficientemente pequeño como para terminar en semanas y lo suficientemente útil como para que la gente lo note. La clasificación de clientes potenciales es una opción común, porque los equipos de ventas sienten el beneficio directamente.
- Semana 1: definir categorías con ventas, exportar registros de muestra, etiquetar un conjunto de prueba.
- Semana 2: ejecute dos o tres modelos candidatos a través de una herramienta local como Ollama o un punto final alojado en su cuenta de nube.
- Semana 3: elija un modelo, refine el aviso y conéctelo al CRM a través de un script o herramienta de automatización.
- Semana 4: ejecútelo en modo sombra, donde el modelo sugiere una etiqueta y una persona la confirma, y realice un seguimiento de la concordancia.
Si la concordancia es alta, cambie a la etiquetado automático para casos claros y mantenga la revisión humana para los de baja confianza. Si es baja, intente ajustar el conjunto etiquetado o mueva la tarea a un modelo más grande.
Mantenga el conjunto de prueba después de que termine el piloto. Se convierte en su punto de referencia: cada vez que se lanza un modelo pequeño más nuevo, o sus categorías cambian, puede volver a ejecutar los mismos ejemplos y ver en una hora si vale la pena cambiar. Sin un punto de referencia fijo, las opciones de modelo se desvían hacia lo que es más nuevo en lugar de lo que funciona mejor con sus propios datos.
¿Qué riesgos debe planificar?
Los modelos pequeños pueden sonar seguros mientras están equivocados. Cada uso de producción necesita una verificación: una puntuación de confianza, una revisión de muestra o una regla que envíe casos inciertos a una persona. Las licencias difieren entre las familias de modelos, por lo que vale la pena dedicar tiempo a la revisión legal. Alguien también necesita ser dueño del modelo, actualizarlo y vigilar la deriva cuando sus categorías o productos cambien.
Cómo aplica Alien Road los modelos de lenguaje pequeños
En un compromiso típico, el descubrimiento comienza con un inventario de tareas de marketing repetitivas y los datos que cada una toca. Las tareas que involucran datos confidenciales de clientes o prospectos se marcan como candidatas para un modelo autoalojado; otras pueden permanecer con una API alojada.
La configuración sigue el patrón de cuatro semanas anterior. El equipo etiqueta un conjunto de prueba con el cliente, compara modelos de peso abierto en ese conjunto e implementa el elegido en la propia cuenta de nube del cliente o en un servidor local, conectado al CRM o sistema de contenido.
La medición utiliza el conjunto etiquetado y el muestreo en vivo. Se realiza un seguimiento de la precisión, la concordancia con los revisores humanos y el costo de procesamiento, y se revisa una muestra de los resultados cada mes.
El informe describe lo que hace el modelo, qué tan preciso es con los datos actuales, dónde se entrega a las personas y qué debería cambiar el próximo trimestre.
Por dónde empezar esta semana
Enumere cinco tareas que su equipo repite cada semana que implican clasificar, etiquetar o resumir texto. Elija la que tenga la respuesta correcta más clara.
Exporte 100 ejemplos reales para esa tarea, etiquételos y pruebe dos modelos pequeños con ellos con un aviso simple. Los resultados le dirán, en unas pocas horas, si un modelo pequeño vale la pena para un piloto adecuado. Comparta los resultados con las personas que realizan la tarea hoy, ya que detectarán errores más rápido que nadie.
Siga leyendo: Optimización con IA · Optimización con IA