Retrieval-augmented generation (RAG) — это метод, при котором модель ИИ сначала ищет соответствующие фрагменты в определенном наборе документов, а затем пишет ответ, используя эти фрагменты в качестве доказательства. Для маркетологов это означает чат-боты, помощники и инструменты для работы с контентом, которые отвечают на основе ваших собственных описаний продуктов, политик и исследований, а не на основе общих знаний модели. Это уменьшает количество выдуманных ответов, хотя и не устраняет их полностью.
Как работает RAG шаг за шагом?
Идея была описана в исследовательской работе Facebook AI Research 2020 года и с тех пор стала стандартным шаблоном для бизнес-помощников на базе ИИ. Она работает в две фазы.
Подготовка происходит один раз и обновляется по мере изменения документов. Документы разбиваются на части, каждая часть преобразуется в эмбеддинг — список чисел, представляющих ее смысл, — и сохраняется в векторной базе данных или поисковом индексе.
Ответ происходит каждый раз, когда кто-то задает вопрос:
- Вопрос преобразуется в эмбеддинг.
- Система извлекает фрагменты с наиболее близким смыслом, часто в сочетании с поиском по ключевым словам.
- Эти фрагменты вставляются в промпт с инструкцией отвечать только на их основе.
- Модель пишет ответ, в идеале со ссылками на использованные фрагменты.
Почему бы просто не использовать чат-бот как есть?
Общие модели знают многое, но не ваш прайс-лист, политику возврата или последний релиз продукта. Если спросить их об этом, они могут выдать правдоподобные, но неверные детали. Тонкая настройка модели на ваших документах стоит дорого и быстро устаревает.
RAG хранит знания вне модели. Обновите документ, и следующий ответ будет отражать это. Вы также можете показывать источники, что позволяет пользователям и рецензентам проверять утверждение.
Где RAG подходит для маркетинговой работы?
Лучшие варианты использования имеют две общие черты: определенный корпус доверенного контента и повторяющиеся вопросы о нем.
- Помощники на веб-сайтах, отвечающие на вопросы о продуктах, ценах и политиках с официальных страниц.
- Поддержка продаж: представители, запрашивающие информацию о кейсах, функциях или сравнениях с конкурентами из утвержденных документов.
- Создание контента: составление статей на основе собственных исследований компании, документации по продуктам и бренд-бука.
- Внутренний поиск по отчетам о кампаниях, брифам и заметкам со встреч.
- Отклонение запросов в службу поддержки клиентов, где ответы должны соответствовать справочному центру.
Это менее подходит для открытой творческой работы, такой как идеи для кампаний, где опора на существующие документы может ограничить оригинальность.
Какие инструменты могут использовать маркетологи, не создавая ничего с нуля?
Вам не нужны инженеры для каждого проекта RAG. Многие инструменты включают поиск «из коробки»:
- Пользовательские GPT и проекты ChatGPT с загруженными файлами.
- Проекты Claude с базой знаний.
- Google NotebookLM для ответов из загруженных источников с цитатами.
- Агенты Microsoft Copilot Studio, основанные на SharePoint или веб-сайтах.
- Платформы службы поддержки, такие как Intercom и Zendesk, с ИИ-агентами, использующими справочный центр.
Для более крупных или клиентских систем команды строят с использованием фреймворков, таких как LangChain или LlamaIndex, и векторных хранилищ, таких как Pinecone, Weaviate или pgvector, или используют управляемые сервисы от облачных провайдеров.
Что делает систему RAG хорошей или плохой?
Большинство проблем с качеством возникают из-за поиска, а не из-за модели. Если правильный фрагмент не найден, модель не может его использовать.
Качество контента
Устаревшие, дублированные или противоречивые документы создают противоречивые ответы. Очистите набор источников перед индексацией. Одна актуальная страница с ценами лучше, чем пять старых PDF-файлов с разными ценами.
Разбиение на части и метаданные
Слишком маленькие фрагменты теряют контекст; слишком большие размывают релевантность. Добавление метаданных, таких как продукт, регион и дата, позволяет системе фильтровать перед поиском.
Инструкции и отказ
Скажите модели, чтобы она говорила, что не знает, когда документы не охватывают вопрос. Помощник, который признает пробел, безопаснее того, который угадывает.
Как оценить помощника RAG?
Создайте тестовый набор из 50–100 реальных вопросов с правильным ответом и документом, который его содержит. Затем измерьте:
- Частота попаданий при поиске: появился ли правильный документ в извлеченных фрагментах?
- Точность ответа по сравнению с эталоном.
- Верность: остается ли ответ в рамках того, что говорят источники?
- Точность отказа: отклоняет ли он вопросы, на которые документы не отвечают?
Запускайте тест каждый раз, когда меняются документы, разбиение или промпты. Фреймворки, такие как Ragas, могут автоматизировать части этого, но проверка выборки человеком остается необходимой.
Как Alien Road применяет RAG в работе по оптимизации ИИ
Типичное взаимодействие начинается с аудита контента: какие документы являются авторитетными, какие устарели и кто отвечает за каждый из них. Этот шаг часто важнее выбора технологии, потому что помощник RAG наследует все, что есть в его источниках.
Настройка выбирает самый легкий инструмент, который подходит. Внутренним помощником по продажам может быть проект Claude или блокнот NotebookLM; помощнику для веб-сайта, ориентированному на клиентов, нужна правильная сборка с логированием поиска, правилами отказа и передачей человеку. Набор тестовых вопросов пишется вместе с командой продаж или поддержки клиента.
Измерение отслеживает частоту попаданий при поиске, точность ответов и точность отказов на тестовом наборе, а также живые метрики, такие как вопросы, на которые ответили без эскалации. Ежемесячные отчеты перечисляют наиболее распространенные вопросы без ответов, которые обычно указывают на отсутствующий или неясный контент на собственном сайте клиента.
Как RAG связан с видимостью в поиске?
Поисковые системы на базе ИИ, такие как Perplexity, Google AI Overviews и поиск ChatGPT, используют поиск аналогичным образом: они извлекают страницы, а затем пишут ответы на их основе. Контент, который является ясным, хорошо структурированным и легко цитируемым, чаще извлекается и цитируется. Создание собственной системы RAG — это практический способ узнать, насколько легко ваш контент использовать машинам.
Сколько обычно стоит проект RAG?
Расходы делятся на три категории. Работа с контентом на первом месте: очистка, обновление и дедупликация документов, что требует времени персонала. Инструменты на втором месте: вариант без кода, такой как NotebookLM или проект Claude, стоит немного больше существующих подписок, в то время как пользовательская сборка для клиентов добавляет разработку, хостинг и векторную базу данных.
Эксплуатационные расходы на последнем месте, в основном вызовы модели на вопрос и дополнительные токены из извлеченных фрагментов, вставленные в каждый промпт. Для большинства внутренних помощников они остаются небольшими. Для публичного помощника веб-сайта с большим трафиком оцените ежемесячные вопросы и умножьте на среднее количество токенов на ответ перед выбором модели.
С чего начать на этой неделе
Соберите 20 документов, которые ваша команда продаж или поддержки использует чаще всего, и удалите устаревшие версии. Загрузите их в NotebookLM или проект Claude и задайте 30 вопросов, которые клиенты задают чаще всего. Отметьте каждый ответ, который неверен или отсутствует. Эти пробелы показывают, нужен ли вам инструмент RAG, лучший контент или и то, и другое.
Продолжайте читать: ИИ-оптимизация · ИИ-оптимизация