El ajuste fino entrena aún más un modelo de IA existente con sus propios ejemplos para que aprenda un estilo o tarea específica, y LoRA (Low-Rank Adaptation) es un método que hace esto entrenando un pequeño conjunto de pesos adicionales en lugar de todo el modelo. En marketing, vale la pena utilizarlos cuando el prompting por sí solo no puede mantener la consistencia, por ejemplo, en la voz de marca, formatos de copia de producto o clasificación de anuncios, y cuando hay suficientes datos de ejemplo limpios.
¿Cuál es la diferencia entre el ajuste fino y LoRA?
El ajuste fino completo actualiza todos los parámetros de un modelo. Para los modelos de lenguaje grandes, eso requiere una potencia de cálculo significativa y produce una copia completa del modelo para cada versión. LoRA, descrito en un artículo de investigación de 2021 de Microsoft, congela el modelo original y entrena pequeñas matrices de bajo rango que se añaden a ciertas capas. El resultado es un archivo adaptador que es una pequeña fracción del tamaño del modelo.
Eso tiene beneficios prácticos. Los adaptadores se entrenan más rápido y más barato, se pueden mantener varios para diferentes marcas o tareas, y se pueden intercambiar sobre un modelo base. QLoRA va más allá al entrenar en una versión comprimida del modelo, lo que reduce las necesidades de memoria.
También existen opciones alojadas. OpenAI, Google Vertex AI y otras plataformas ofrecen el ajuste fino de algunos de sus modelos a través de una interfaz de carga y entrenamiento, por lo que usted no gestiona la infraestructura. Para modelos de pesos abiertos como Llama, Mistral o Qwen, herramientas como Hugging Face PEFT hacen que el entrenamiento LoRA sea accesible.
¿Cuándo supera el ajuste fino a un buen prompt?
La mayoría de las tareas de marketing no necesitan ajuste fino. Un prompt claro con ejemplos, además de la recuperación de los documentos correctos, resuelve muchos problemas a menor coste y con actualizaciones más fáciles. El ajuste fino se gana su lugar en situaciones más limitadas.
- La salida debe seguir un formato estricto cada vez, como títulos de productos con un orden de atributos fijo en miles de SKU.
- La voz de marca es distintiva y los prompts siguen derivando hacia frases genéricas.
- La tarea es la clasificación por volumen, como etiquetar términos de búsqueda por intención o clasificar reseñas por tipo de problema.
- El coste o la velocidad importan, y un modelo más pequeño ajustado podría reemplazar a uno general más grande.
- Los prompts largos con muchos ejemplos se vuelven costosos a escala.
Es una mala opción para enseñar hechos que cambian. Los precios, el stock y los detalles de la campaña pertenecen a la recuperación o al prompt, porque un modelo ajustado no se puede actualizar tan rápido y puede afirmar información desactualizada con confianza.
¿Qué datos necesita?
La calidad de los datos decide el resultado. Un modelo ajustado con copias mediocres aprende a escribir copias mediocres de forma fiable.
Construcción de un conjunto de entrenamiento
- Recopile ejemplos que representen la salida objetivo: copias de anuncios aprobadas, descripciones de productos de alto rendimiento, líneas de asunto de correo electrónico editadas.
- Empareje cada salida con la entrada que debería producirla, como atributos de producto que conducen a una descripción.
- Elimine duplicados, ofertas desactualizadas, reclamos legales que ya no se aplican y cualquier cosa que contenga datos personales.
- Mantenga un conjunto de reserva (held-out set), típicamente una porción de los ejemplos, que el modelo nunca ve durante el entrenamiento, para la evaluación.
La documentación de la plataforma a menudo sugiere comenzar con docenas a cientos de ejemplos de alta calidad para tareas de estilo. Más ayuda solo si los ejemplos adicionales son igual de buenos.
Cómo aplica Alien Road el ajuste fino y LoRA en las campañas de sus clientes
En un compromiso típico, Alien Road trata el ajuste fino como un paso posterior, no como un punto de partida. El descubrimiento comienza con la tarea en sí: qué se produce, con qué frecuencia, por quién y cómo se ve lo “bueno”. El equipo primero construye una versión de prompt-más-ejemplos y la mide. Solo cuando esa línea base se queda corta en consistencia, coste o velocidad, el ajuste fino entra en juego.
Si es así, el proceso tiene cuatro etapas.
- Preparación de datos: se recopilan y limpian los activos aprobados del cliente, y un editor humano etiqueta qué ejemplos están realmente en la marca.
- Entrenamiento: dependiendo de las reglas de datos del cliente, ya sea un servicio de ajuste fino alojado o un adaptador LoRA en un modelo de pesos abiertos, este último cuando los datos deben permanecer en una infraestructura controlada.
- Evaluación: las salidas del conjunto de reserva se revisan a ciegas frente a la versión de solo prompt, puntuadas por revisores de marca por tono, precisión y formato.
- Despliegue con revisión: el modelo alimenta borradores en el flujo de trabajo de aprobación existente. Nada sale en vivo sin que una persona lo firme.
Los informes cubren el tiempo de edición por activo, la tasa de rechazo en la revisión, el coste por salida y, donde las salidas se ejecutan como anuncios, el rendimiento frente a creatividades anteriores. Un ejemplo típico es la redacción de descripciones de productos para un catálogo grande, donde un formato consistente importa más que el rango creativo.
¿Cuáles son los riesgos y límites?
Los modelos ajustados pueden sobreajustarse: copian frases de los datos de entrenamiento demasiado de cerca o pierden habilidades generales. También pueden amplificar el sesgo en los ejemplos. Si la mayoría de las copias de entrenamiento se dirigen a una audiencia, el modelo puede tener dificultades con otras.
También está el mantenimiento. Cuando la voz de marca cambia, el modelo necesita nuevos datos y reentrenamiento. Cuando el modelo base se actualiza o es retirado por un proveedor, el ajuste fino puede tener que rehacerse. Las licencias también importan: los modelos de pesos abiertos vienen con términos que rigen el uso comercial, así que léalos antes de construir sobre uno.
¿Cómo mide si funcionó?
Compare contra la alternativa que usaría de otra manera, no contra nada. Las medidas útiles incluyen estas.
- Preferencia humana en revisiones ciegas entre salidas ajustadas y salidas de solo prompt.
- Tasa de cumplimiento de formato: con qué frecuencia la salida sigue la estructura requerida.
- Distancia de edición o tiempo de edición antes de la aprobación.
- Coste y tiempo de respuesta por solicitud.
- Para uso en vivo, la métrica descendente: tasa de clics para copias de anuncios, tasa de conversión para páginas de productos.
Si la versión ajustada no gana claramente en al menos uno de estos sin perder en otros, mantenga la configuración basada en prompts.
Mantenga la hoja de puntuación. Se convierte en el conjunto de evaluación para cualquier ajuste fino futuro y muestra si un modelo base más nuevo ya resuelve el problema.
Por dónde empezar esta semana
Elija una tarea de contenido repetida y reúna veinte ejemplos de salida que considere excelentes. Escriba un prompt que incluya cinco de ellos y pruébelo en las quince entradas restantes.
Puntúe los resultados honestamente. Si el prompt ya se acerca, refínelo. Si sigue fallando de la misma manera, tiene la primera evidencia de que un ajuste fino o un adaptador LoRA puede valer la inversión.
Siga leyendo: Optimización con IA · Optimización con IA