La generación aumentada por recuperación (RAG) es un método en el que un modelo de lenguaje primero busca en sus propios documentos y luego escribe una respuesta basada en lo que encontró. Supera a la búsqueda tradicional en el sitio, a las preguntas frecuentes estáticas y a los chatbots basados en reglas cuando las preguntas son variadas y su contenido es extenso. Pierde cuando las preguntas son pocas y predecibles, cuando las respuestas deben ser exactas o cuando su contenido de origen es confuso y está desactualizado.
¿Cómo funciona RAG en términos sencillos?
Un sistema RAG tiene tres partes. Primero, sus documentos se dividen en fragmentos y se convierten en incrustaciones (embeddings), que son representaciones numéricas del significado, almacenadas en una base de datos vectorial o índice de búsqueda. Segundo, cuando un usuario hace una pregunta, el sistema encuentra los fragmentos más similares a ella. Tercero, esos fragmentos se pasan a un modelo de lenguaje con instrucciones para responder utilizando solo ese material.
El atractivo es que el modelo puede responder a partir de información actual y privada sobre la que nunca fue entrenado, como sus manuales de producto, documentos de políticas o centro de ayuda. La respuesta también puede citar de qué documento provino, lo que facilita la verificación.
¿Qué herramientas tradicionales reemplaza?
Antes de comparar, es útil nombrar lo que la mayoría de las empresas ya utilizan.
- Búsqueda por palabras clave en el sitio, como la búsqueda de WordPress, Algolia o Elasticsearch, que devuelve una lista de páginas coincidentes.
- Páginas de preguntas frecuentes estáticas y centros de ayuda creados en Zendesk, Intercom o un CMS.
- Chatbots basados en reglas o árboles de decisión que siguen flujos programados con botones.
- Agentes de soporte humano que trabajan desde una base de conocimientos interna.
Cada una de estas es más barata de ejecutar y más fácil de predecir que RAG. La pregunta es si sus usuarios obtienen lo que necesitan de ellas.
¿Cuándo debería cambiar a RAG?
RAG vale la pena cuando la brecha entre lo que preguntan los usuarios y cómo está organizado su contenido es grande. Algunas señales:
Los usuarios preguntan con sus propias palabras
Si sus registros de búsqueda muestran muchas consultas que no devuelven nada o la página incorrecta, la búsqueda por palabras clave está fallando en el vocabulario. RAG coincide con el significado, por lo que “puedo devolver un sofá después de dos semanas” encuentra la política de devoluciones incluso si nunca usa la palabra sofá.
Las respuestas están dispersas en los documentos
Cuando una respuesta correcta necesita una oración de la garantía, otra de la página de envío y una cifra de una hoja de producto, una lista de resultados de búsqueda hace que el usuario tenga que ensamblarlas. RAG puede combinarlas.
Su contenido es extenso y cambia a menudo
Los bots basados en reglas necesitan que alguien actualice cada flujo manualmente. RAG lee la última versión de sus documentos una vez que se vuelven a indexar, por lo que el mantenimiento cambia de escribir scripts a mantener el contenido de origen correcto.
¿Cuándo no debería cambiar?
Hay casos claros en los que las herramientas tradicionales son la mejor opción.
Si sus 20 preguntas principales cubren la mayor parte de su tráfico, una página de preguntas frecuentes bien escrita y un bot programado las responderán más rápido, más barato y sin riesgo de una respuesta inventada. Mire sus tickets de soporte antes de construir nada.
Si las respuestas deben ser exactas y legalmente vinculantes, como tasas arancelarias, dosis de medicamentos o términos de contrato, una paráfrasis generada es una responsabilidad. En su lugar, enlace a la página autorizada o muestre el texto fuente literalmente.
Si sus documentos se contradicen entre sí, RAG reflejará la contradicción, a veces eligiendo la versión incorrecta. Limpiar el contenido es un requisito previo, no un extra opcional.
Y si nadie es dueño del contenido, el sistema decaerá. Los documentos desactualizados en el índice producen respuestas desactualizadas entregadas con confianza.
¿Cómo se comparan las opciones?
Una vista comparativa ayuda cuando presenta la decisión a otros.
- Esfuerzo de configuración: página de preguntas frecuentes bajo; búsqueda por palabras clave bajo a medio; bot programado medio; RAG medio a alto.
- Costo de funcionamiento: preguntas frecuentes casi cero; búsqueda bajo; bot programado bajo; RAG más alto, ya que cada respuesta llama a un modelo.
- Manejo de redacción variada: preguntas frecuentes pobre; búsqueda por palabras clave justo; bot programado pobre; RAG bueno.
- Riesgo de respuestas incorrectas: preguntas frecuentes bajo; búsqueda bajo; bot programado bajo; RAG moderado sin pruebas.
- Mantenimiento: las preguntas frecuentes y los bots necesitan actualizaciones manuales; RAG necesita contenido de origen limpio y reindexación.
¿Cómo es un proyecto RAG sólido?
Comience con la evaluación, no con la arquitectura. Recopile de 50 a 100 preguntas reales de registros de búsqueda, tickets de soporte y llamadas de ventas, y escriba la respuesta correcta para cada una. Este conjunto es cómo juzgará cada versión del sistema.
Luego, construya la tubería más simple que podría funcionar: una opción administrada como la búsqueda de archivos de OpenAI, Google Vertex AI Search, Azure AI Search o una base de datos vectorial alojada como Pinecone con un modelo convencional. Mida cuántas preguntas de prueba responde correctamente y cuántas rechaza cuando debería. Solo agregue complejidad, como re-ranking o búsqueda híbrida de palabras clave más vectoriales, cuando el conjunto de pruebas muestre una falla específica.
Mantenga una alternativa. Cuando el sistema no esté seguro, debería decirlo y ofrecer un enlace o un humano, no adivinar.
Cómo aplica Alien Road RAG
En un compromiso típico, comenzamos con una auditoría de contenido y preguntas: extraemos registros de búsqueda del sitio, temas de tickets de soporte y los documentos que deberían responderlos. Muchos proyectos se detienen aquí, porque la auditoría muestra que reescribir diez respuestas de preguntas frecuentes resuelve la mayor parte del problema. Cuando RAG está justificado, limpiamos y etiquetamos los documentos de origen, construimos el conjunto de preguntas de prueba con el equipo de soporte del cliente y configuramos una tubería de recuperación administrada conectada a un widget de chat o herramienta interna.
Antes del lanzamiento, el sistema debe pasar el umbral de precisión acordado en el conjunto de pruebas. Después del lanzamiento, los informes cubren las preguntas respondidas y no respondidas, las transferencias a humanos y las nuevas preguntas para agregar al plan de contenido. Por ejemplo, el asistente de un cliente de comercio electrónico podría responder preguntas de entrega y devoluciones de páginas de políticas actuales, con cada respuesta vinculada a su fuente.
Por dónde empezar esta semana
Exporte las consultas de búsqueda del sitio y los temas de tickets de soporte de los últimos tres meses. Agrúpelos por tema y marque cuáles sus páginas actuales ya responden bien. Si la mayoría están cubiertas, mejore esas páginas primero. Si muchas preguntas caen entre documentos o usan una redacción que su contenido no tiene, tiene un caso real para RAG y un conjunto de pruebas listo para construirlo.
Siga leyendo: Optimización con IA · Optimización con IA