KI-Chatbots auf WhatsApp: Risiken, Grenzen und Regeln für den Start

Unternehmen verbinden sich über die WhatsApp Business Platform, auch Cloud API genannt, entweder direkt mit Meta oder über einen Business Solution Provider wie Twilio, 360dialog, Infobip oder ein CRM wie HubSpot oder Zendesk. Eingehende Nachrichten kommen bei einem Webhook an. Ein Bot, ob regelbasiert oder KI-gestützt, entscheidet über eine Antwort und sendet sie über die API zurück.

Die Regeln von Meta prägen das Gespräch. Unternehmen können innerhalb eines 24-Stunden-Fensters nach der letzten Nachricht des Kunden frei antworten. Außerhalb dieses Fensters können sie nur vorab genehmigte Vorlagennachrichten senden, die nach Kategorien wie Marketing, Dienstprogramm oder Authentifizierung abgerechnet werden. Meta hat auch seine Richtlinien für KI-Assistenten für allgemeine Zwecke auf der Plattform geändert. Überprüfen Sie daher die aktuelle WhatsApp Business-Richtlinie, bevor Sie einen Bot entwerfen, dessen Hauptaufgabe offene Chats sind, anstatt Ihre eigenen Kunden zu bedienen.

• Halluzinierte Antworten: Das Modell erfindet eine Rückgaberichtlinie, einen Preis oder ein Lieferdatum.
• Prompt-Manipulation: Benutzer versuchen, den Bot dazu zu bringen, peinliche oder themenfremde Dinge zu sagen.
• Datenschutz: Kunden teilen Bestellnummern, Adressen, Gesundheits- oder Finanzdaten im Chat.
• Richtlinienverstöße: Marketingnachrichten ohne Opt-in oder eingeschränkte Produkte.
• Sackgassen: kein klarer Weg zu einem Menschen, wenn der Bot nicht helfen kann.
• Nummernqualität: Wenn viele Benutzer die Nummer blockieren oder melden, kann Meta das Messaging einschränken.

Jedes Risiko hat eine praktische Kontrolle. Keines davon wird allein durch die Wahl eines besseren Modells gelöst.

1. Umfang: Was der Bot beantworten darf und was nicht

Schreiben Sie eine kurze Liste der Themen, die der Bot bearbeitet, wie z. B. Bestellstatus, Öffnungszeiten, Produktverfügbarkeit und Terminbuchung. Alles andere geht an einen Menschen oder eine feste Antwort. Ein enger Umfang ist der effektivste Schutz gegen falsche Antworten.

2. Nur fundierte Antworten

Das Modell sollte aus genehmigten Quellen antworten: FAQ, Produktkatalog, Bestellsystem. Dies geschieht normalerweise durch Retrieval, bei dem der Bot relevante Texte nachschlägt, bevor er antwortet. Wenn die Quelle die Antwort nicht enthält, sagt der Bot, dass er es nicht weiß, und bietet eine Person an.

3. Menschliche Übergabe

Definieren Sie Auslöser für die Übergabe: Der Kunde fragt nach einer Person, der Bot ist unsicher, das Thema ist eine Beschwerde oder das Gespräch enthält Wörter, die mit rechtlichen oder sicherheitsrelevanten Themen verknüpft sind. Sagen Sie dem Kunden, wann eine Person antworten wird, und besetzen Sie diese Warteschlange während der versprochenen Zeiten.

4. Datenverarbeitung

Gemäß DSGVO in Europa und KVKK in der Türkei benötigt Chat-Inhalt, der personenbezogene Daten enthält, eine Rechtsgrundlage, einen Datenschutzhinweis und eine Aufbewahrungsfrist. Senden Sie nicht mehr Daten an den KI-Anbieter, als die Aufgabe erfordert, und prüfen Sie, wo dieser Anbieter Daten verarbeitet.

5. Opt-in und Messaging-Limits

Marketing-Vorlagen benötigen eine klare vorherige Zustimmung. Führen Sie ein Protokoll darüber, wie und wann jeder Kontakt zugestimmt hat. Unerwünschte Nachrichten führen zu Blockierungen, die das Qualitätsrating der Nummer beeinträchtigen.

Tests sollten kontradiktorisch sein, nicht höflich. Stellen Sie dem Bot Fragen, die er ablehnen sollte, geben Sie unvollständige Bestellnummern ein, schreiben Sie in Slang und in einer zweiten Sprache und versuchen Sie, ihn dazu zu bringen, Rabatte zu versprechen. Protokollieren Sie jede Antwort.

• Bereiten Sie 100 echte Kundenfragen aus vergangenen Chats vor und überprüfen Sie jede Antwort.
• Fügen Sie 30 Grenzfälle hinzu: Beschwerden, wütende Nachrichten, themenfremde Anfragen, Manipulationsversuche.
• Überprüfen Sie, wie sich der Bot außerhalb des 24-Stunden-Fensters verhält.
• Bestätigen Sie, dass jede Übergabe eine Person erreicht und dem Kunden mitgeteilt wird, was als Nächstes passiert.
• Führen Sie den Testsatz nach jeder Änderung des Prompts oder der Wissensdatenbank erneut aus.

Bots bearbeiten Routinefragen gut und komplizierte Beschwerden schlecht. Ein Rückerstattungsstreit, ein beschädigtes Produkt oder eine verspätete Hochzeitsbestellung erfordern eine Person. Die Sprachqualität variiert ebenfalls: Modelle sind stark in Englisch und gut in Türkisch, aber lokale Dialekte und Nachrichten in gemischten Sprachen führen immer noch zu Fehlern. Sprachnotizen sind auf WhatsApp üblich und müssen transkribiert werden, bevor der Bot antworten kann, was einen weiteren Fehlerpunkt hinzufügt.

Ein Chatbot ist kein Projekt, das mit dem Go-Live endet. Produkte ändern sich, Richtlinien ändern sich und Kunden finden neue Wege, dieselbe Frage zu stellen. Ohne einen benannten Eigentümer veraltet die Wissensdatenbank innerhalb weniger Wochen und der Bot beginnt, Antworten zu geben, die in der letzten Saison korrekt waren.

Geben Sie einer Person die Aufgabe, jede Woche eine Stichprobe von Gesprächen zu überprüfen, genehmigte Quellen zu aktualisieren und den Testsatz nach jeder Änderung erneut auszuführen. Paaren Sie diese Person mit jemandem aus dem Support, da Support-Mitarbeiter die Beschwerden, die der Bot verursacht, vor allen anderen hören.