AI-чат-боты в WhatsApp: риски и правила настройки

Компании подключаются через платформу WhatsApp Business, также называемую Cloud API, либо напрямую с Meta, либо через провайдера бизнес-решений, такого как Twilio, 360dialog, Infobip, или CRM, такую как HubSpot или Zendesk. Входящие сообщения поступают на вебхук. Бот, основанный на правилах или работающий на базе AI, принимает решение об ответе и отправляет его обратно через API.

Правила Meta формируют разговор. Компании могут свободно отвечать в течение 24-часового окна после последнего сообщения клиента. За пределами этого окна они могут отправлять только предварительно одобренные шаблонные сообщения, которые оплачиваются по категориям, таким как маркетинг, коммунальные услуги или аутентификация. Meta также изменила свою политику в отношении AI-помощников общего назначения на платформе, поэтому ознакомьтесь с текущей политикой WhatsApp Business, прежде чем разрабатывать бота, чья основная задача — свободный чат, а не обслуживание ваших собственных клиентов.

• Галлюцинированные ответы: модель выдумывает политику возврата, цену или дату доставки.
• Манипуляция промптами: пользователи пытаются заставить бота говорить неловкие или не относящиеся к теме вещи.
• Конфиденциальность: клиенты делятся номерами заказов, адресами, данными о здоровье или финансовыми деталями в чате.
• Нарушения политики: маркетинговые сообщения без согласия или ограниченные продукты.
• Тупиковые ситуации: нет четкого пути к человеку, когда бот не может помочь.
• Качество номера: если многие пользователи блокируют или жалуются на номер, Meta может ограничить обмен сообщениями.

У каждого риска есть практический контроль. Ни один из них не решается только выбором лучшей модели.

1. Область применения: на что бот может и не может отвечать

Напишите краткий список тем, которые обрабатывает бот, например: статус заказа, часы работы, наличие товара и запись на прием. Все остальное передается человеку или фиксированному ответу. Узкая область применения — самая эффективная защита от неверных ответов.

2. Только обоснованные ответы

Модель должна отвечать на основе одобренных источников: FAQ, каталог товаров, система заказов. Обычно это делается с помощью поиска (retrieval), когда бот ищет релевантный текст перед ответом. Если в источнике нет ответа, бот говорит, что не знает, и предлагает человека.

3. Передача человеку

Определите триггеры для передачи: клиент просит человека, бот не уверен, тема — жалоба, или разговор содержит слова, связанные с юридическими вопросами или вопросами безопасности. Сообщите клиенту, когда ответит человек, и обеспечьте работу этой очереди в обещанные часы.

4. Обработка данных

Согласно GDPR в Европе и KVKK в Турции, контент чата, содержащий персональные данные, требует законного основания, уведомления о конфиденциальности и срока хранения. Не отправляйте провайдеру AI больше данных, чем требуется для задачи, и проверяйте, где этот провайдер обрабатывает данные.

5. Согласие (Opt-in) и ограничения на рассылку

Маркетинговые шаблоны требуют четкого предварительного согласия. Ведите учет того, как и когда каждый контакт дал согласие. Нежелательные сообщения приводят к блокировкам, которые влияют на рейтинг качества номера.

Тестирование должно быть состязательным, а не вежливым. Задавайте боту вопросы, на которые он должен отказаться отвечать, давайте неполные номера заказов, пишите сленгом и на втором языке, и пытайтесь заставить его пообещать скидки. Записывайте каждый ответ.

• Подготовьте 100 реальных вопросов клиентов из прошлых чатов и проверьте каждый ответ.
• Добавьте 30 граничных случаев: жалобы, гневные сообщения, запросы не по теме, попытки манипуляции.
• Проверьте, как бот ведет себя за пределами 24-часового окна.
• Подтвердите, что каждая передача доходит до человека и клиенту сообщают, что будет дальше.
• Повторно запускайте набор тестов после каждого изменения промпта или базы знаний.

Боты хорошо справляются с рутинными вопросами и плохо — со сложными жалобами. Спор о возврате средств, поврежденный товар или задержанный свадебный заказ требуют участия человека. Качество языка также варьируется: модели сильны в английском и хороши в турецком, но местные диалекты и сообщения на смешанных языках все еще вызывают ошибки. Голосовые заметки распространены в WhatsApp и требуют транскрипции, прежде чем бот сможет ответить, что добавляет еще одну точку отказа.

Чат-бот — это не проект, который заканчивается после запуска. Продукты меняются, политики меняются, и клиенты находят новые способы задать один и тот же вопрос. Без назначенного владельца база знаний устаревает за несколько недель, и бот начинает давать ответы, которые были верны в прошлом сезоне.

Поручите одному человеку еженедельно просматривать выборку разговоров, обновлять одобренные источники и повторно запускать набор тестов после каждого изменения. Соедините этого человека с кем-то из службы поддержки, потому что сотрудники поддержки слышат жалобы, вызванные ботом, раньше всех.