Retrieval-Augmented Generation (RAG) ist eine Methode, bei der ein Sprachmodell zunächst Ihre eigenen Dokumente durchsucht und dann basierend auf den gefundenen Informationen eine Antwort schreibt. Sie übertrifft herkömmliche Website-Suche, statische FAQs und regelbasierte Chatbots, wenn die Fragen vielfältig und Ihre Inhalte umfangreich sind. Sie verliert, wenn die Fragen selten und vorhersehbar sind, wenn Antworten exakt sein müssen oder wenn Ihre Quellinhalte unordentlich und veraltet sind.
Wie funktioniert RAG in einfachen Worten?
Ein RAG-System besteht aus drei Teilen. Erstens werden Ihre Dokumente in Abschnitte unterteilt und in Embeddings umgewandelt – numerische Darstellungen von Bedeutung –, die in einer Vektordatenbank oder einem Suchindex gespeichert werden. Zweitens findet das System bei einer Benutzeranfrage die Abschnitte, die dieser am ähnlichsten sind. Drittens werden diese Abschnitte an ein Sprachmodell weitergeleitet, mit der Anweisung, nur unter Verwendung dieses Materials zu antworten.
Der Reiz liegt darin, dass das Modell auf aktuelle, private Informationen antworten kann, auf denen es nie trainiert wurde, wie z. B. Ihre Produkthandbücher, Richtliniendokumente oder Ihr Helpcenter. Die Antwort kann auch zitieren, aus welchem Dokument sie stammt, was die Überprüfung erleichtert.
Welche traditionellen Tools werden dadurch ersetzt?
Vor einem Vergleich ist es hilfreich zu benennen, was die meisten Unternehmen bereits verwenden.
- Keyword-Website-Suche, wie WordPress-Suche, Algolia oder Elasticsearch, die eine Liste passender Seiten zurückgibt.
- Statische FAQ-Seiten und Helpcenter, die in Zendesk, Intercom oder einem CMS erstellt wurden.
- Regelbasierte oder Entscheidungsbaum-Chatbots, die skriptbasierten Abläufen mit Schaltflächen folgen.
- Menschliche Support-Mitarbeiter, die mit einer internen Wissensdatenbank arbeiten.
Jedes dieser Tools ist kostengünstiger im Betrieb und einfacher vorhersehbar als RAG. Die Frage ist, ob Ihre Benutzer damit bekommen, was sie brauchen.
Wann sollten Sie zu RAG wechseln?
RAG zahlt sich aus, wenn die Lücke zwischen dem, was Benutzer fragen, und der Art und Weise, wie Ihre Inhalte organisiert sind, groß ist. Ein paar Anzeichen:
Benutzer fragen in ihren eigenen Worten
Wenn Ihre Suchprotokolle viele Abfragen zeigen, die keine Ergebnisse oder die falsche Seite liefern, scheitert die Keyword-Suche am Vokabular. RAG gleicht die Bedeutung ab, sodass “kann ich ein Sofa nach zwei Wochen zurückgeben” die Rückgaberichtlinie findet, selbst wenn das Wort Sofa nie verwendet wird.
Antworten sind über Dokumente verteilt
Wenn eine korrekte Antwort einen Satz aus der Garantie, einen weiteren von der Versandseite und eine Zahl aus einem Produktdatenblatt erfordert, zwingt eine Suchergebnisliste den Benutzer zum Zusammenfügen. RAG kann diese kombinieren.
Ihre Inhalte sind umfangreich und ändern sich häufig
Regelbasierte Bots benötigen jemanden, der jeden Ablauf manuell aktualisiert. RAG liest die neueste Version Ihrer Dokumente, sobald sie neu indiziert wurden, sodass sich die Wartung vom Schreiben von Skripten hin zur korrekten Pflege der Quellinhalte verlagert.
Wann sollten Sie nicht wechseln?
Es gibt klare Fälle, in denen traditionelle Tools die bessere Wahl sind.
Wenn Ihre Top-20-Fragen den Großteil Ihres Traffics abdecken, werden eine gut geschriebene FAQ-Seite und ein skriptbasierter Bot diese schneller, günstiger und ohne das Risiko einer erfundenen Antwort beantworten. Schauen Sie sich Ihre Support-Tickets an, bevor Sie etwas aufbauen.
Wenn Antworten exakt und rechtlich bindend sein müssen, wie z. B. bei Tarifsätzen, Medikamentendosierungen oder Vertragsbedingungen, ist eine generierte Paraphrase ein Haftungsrisiko. Verlinken Sie stattdessen auf die maßgebliche Seite oder zeigen Sie den Quelltext wörtlich an.
Wenn Ihre Dokumente einander widersprechen, wird RAG den Widerspruch widerspiegeln und manchmal die falsche Version wählen. Das Bereinigen der Inhalte ist eine Voraussetzung, kein optionales Extra.
Und wenn niemand für die Inhalte verantwortlich ist, wird das System verfallen. Veraltete Dokumente im Index führen zu veralteten Antworten, die mit Überzeugung geliefert werden.
Wie schneiden die Optionen im Vergleich ab?
Eine Gegenüberstellung hilft, wenn Sie die Entscheidung anderen präsentieren.
- Einrichtungsaufwand: FAQ-Seite niedrig; Keyword-Suche niedrig bis mittel; skriptbasierter Bot mittel; RAG mittel bis hoch.
- Betriebskosten: FAQ nahezu null; Suche niedrig; skriptbasierter Bot niedrig; RAG höher, da jede Antwort ein Modell aufruft.
- Umgang mit unterschiedlichen Formulierungen: FAQ schlecht; Keyword-Suche mittelmäßig; skriptbasierter Bot schlecht; RAG gut.
- Risiko falscher Antworten: FAQ niedrig; Suche niedrig; skriptbasierter Bot niedrig; RAG mäßig ohne Tests.
- Wartung: FAQ und Bots benötigen manuelle Updates; RAG benötigt saubere Quellinhalte und Neuindizierung.
Wie sieht ein fundiertes RAG-Projekt aus?
Beginnen Sie mit der Evaluierung, nicht mit der Architektur. Sammeln Sie 50 bis 100 echte Fragen aus Suchprotokollen, Support-Tickets und Verkaufsgesprächen und schreiben Sie für jede die korrekte Antwort. Anhand dieses Sets werden Sie jede Version des Systems beurteilen.
Bauen Sie dann die einfachste Pipeline, die funktionieren könnte: eine verwaltete Option wie OpenAI File Search, Google Vertex AI Search, Azure AI Search oder eine gehostete Vektordatenbank wie Pinecone mit einem gängigen Modell. Messen Sie, wie viele Testfragen es korrekt beantwortet und wie viele es ablehnt, wenn es das sollte. Fügen Sie Komplexität, wie Re-Ranking oder hybride Keyword-plus-Vektor-Suche, nur hinzu, wenn das Testset ein spezifisches Versagen zeigt.
Behalten Sie einen Fallback bei. Wenn das System nicht sicher ist, sollte es dies sagen und einen Link oder einen Menschen anbieten, anstatt zu raten.
Wie Alien Road RAG anwendet
Bei einem typischen Engagement beginnen wir mit einem Inhalts- und Fragen-Audit: Wir ziehen Suchprotokolle, Support-Ticket-Themen und die Dokumente, die diese beantworten sollten. Viele Projekte enden hier, weil das Audit zeigt, dass das Umschreiben von zehn FAQ-Antworten den Großteil des Problems löst. Wenn RAG gerechtfertigt ist, bereinigen und taggen wir die Quelldokumente, erstellen das Testfragen-Set mit dem Support-Team des Kunden und richten eine verwaltete Retrieval-Pipeline ein, die mit einem Chat-Widget oder einem internen Tool verbunden ist.
Vor dem Start muss das System den vereinbarten Genauigkeitsschwellenwert im Testset bestehen. Nach dem Start umfasst das Reporting beantwortete und unbeantwortete Fragen, Übergaben an Menschen und neue Fragen, die dem Inhaltsplan hinzugefügt werden sollen. Zum Beispiel könnte der Assistent eines E-Commerce-Kunden Liefer- und Rückgabefragen aus aktuellen Richtlinienseiten beantworten, wobei jede Antwort auf ihre Quelle verlinkt.
Wo man diese Woche anfangen sollte
Exportieren Sie die Suchanfragen und Support-Ticket-Themen der letzten drei Monate. Gruppieren Sie sie nach Themen und markieren Sie, welche Ihre aktuellen Seiten bereits gut beantworten. Wenn die meisten abgedeckt sind, verbessern Sie zuerst diese Seiten. Wenn viele Fragen zwischen Dokumenten liegen oder Formulierungen verwenden, die Ihre Inhalte nicht enthalten, haben Sie einen echten Fall für RAG und ein fertiges Testset, gegen das Sie es aufbauen können.
Weiterlesen: KI-Optimierung · KI-Optimierung