Retrieval-Augmented Generation (RAG) ist eine Methode, bei der ein KI-Modell zunächst eine definierte Menge von Dokumenten durchsucht und dann seine Antwort auf Basis der gefundenen Informationen schreibt. Bei Kundenkampagnen nutzt Alien Road RAG, damit Chatbots, Content-Entwürfe und Berichte auf den eigenen, freigegebenen Materialien des Kunden basieren und nicht auf dem allgemeinen Gedächtnis des Modells. Dies reduziert erfundene Fakten und sorgt für konsistente Aussagen.
Dieser Artikel erklärt, wie RAG funktioniert, welche Kampagnenaufgaben es unterstützt und welchen Prozess wir von der Discovery bis zum Reporting verfolgen.
Wie funktioniert RAG?
Ein RAG-System besteht aus drei Teilen. Ein Dokumentenspeicher enthält das Quellenmaterial, aufgeteilt in Abschnitte. Ein Retriever findet die für eine Frage relevantesten Abschnitte, meist durch den Vergleich von Vektor-Embeddings, oft kombiniert mit einer Stichwortsuche. Ein Sprachmodell erhält dann die Frage sowie diese Abschnitte und schreibt eine Antwort, wobei es idealerweise zitiert, welche Abschnitte es verwendet hat.
Das allgemeine Wissen des Modells prägt weiterhin die Sprache, aber die Fakten stammen aus dem abgerufenen Text. Wenn der Retriever nichts Relevantes findet, sagt ein gut gebautes System dies, anstatt zu raten.
Warum Dokumente nicht einfach in einen Chat kopieren?
Für eine einzelne Frage funktioniert das Kopieren eines Dokuments. Für eine Kampagne mit Hunderten von Produktblättern, Richtlinienseiten, vergangenen Anzeigen und Forschungsberichten funktioniert es nicht. Kontextfenster haben Grenzen, die Kosten steigen mit jedem Token, und manuelles Kopieren führt dazu, dass verschiedene Teammitglieder unterschiedliche Antworten erhalten.
RAG macht den Quellensatz fest und gemeinsam nutzbar. Jeder und jedes Tool fragt denselben Speicher ab, und wenn sich ein Dokument ändert, aktualisieren Sie es einmal.
Welche Kampagnenaufgaben nutzen RAG?
- Website- und WhatsApp-Chatbots, die auf Basis von Produkt- und Richtliniendokumenten antworten
- Content-Entwürfe, die technischen Spezifikationen genau entsprechen müssen
- Anzeigentexterstellung, die durch freigegebene Aussagen und Compliance-Vorgaben eingeschränkt ist
- Sales-Enablement-Assistenten, die die richtige Fallstudie oder Antwort für einen Vertriebsmitarbeiter finden
- Berichtskommentare, die die Leistung anhand von Kampagnennotizen und Änderungsprotokollen erklären
Der gemeinsame Nenner ist, dass der Output mit etwas übereinstimmen muss, das der Kunde freigegeben hat. RAG ist weniger nützlich für offene kreative Arbeiten, bei denen das Modell frei agieren soll.
Wie Alien Road Retrieval-Augmented Generation anwendet
Discovery
Ein typisches Engagement beginnt mit einem Quellen-Audit. Wir listen die Dokumente auf, die die Wahrheit über die Produkte und Aussagen des Kunden enthalten: Spezifikationsblätter, Preisregeln, FAQs, rechtliche Haftungsausschlüsse, Markenrichtlinien. Wir markieren auch Dokumente, die veraltet sind oder sich widersprechen, da RAG alles im Speicher treu wiederholen wird, einschließlich alter Preise.
Setup
Dokumente werden bereinigt, in Abschnitte entlang natürlicher Abschnitte wie Überschriften unterteilt und mit Metadaten wie Produkt, Sprache, Region und Datum versehen. Wir indizieren sie in einer Vektordatenbank, üblicherweise Optionen wie pgvector, Pinecone oder ein verwalteter Suchdienst, und kombinieren sie mit einer Stichwortsuche, damit exakte Produktcodes zuverlässig gefunden werden.
Der Prompt weist das Modell an, nur aus dem abgerufenen Text zu antworten, das Quelldokument zu zitieren und anzugeben, wenn Informationen fehlen. Für mehrsprachige Kunden indizieren wir jede Sprachversion, anstatt uns bei der Antwort auf eine Übersetzung zu verlassen.
Evaluation
Vor dem Start erstellen wir einen Testdatensatz mit echten Fragen und bekannten korrekten Antworten, die aus Support-Tickets, Verkaufs-E-Mails und dem Team des Kunden stammen. Jede Antwort wird auf Korrektheit, Zitatgenauigkeit und Verweigerung geprüft, wenn sie verweigert werden sollte. Wir passen Abschnittsgrößen, Retrieval-Einstellungen und Prompts an, bis die Ergebnisse stabil sind.
Messung und Reporting
Nach dem Start umfasst das Reporting die Antwortgenauigkeit anhand einer geprüften Stichprobe, Fragen ohne gute Retrieval-Ergebnisse (ein Zeichen dafür, dass ein Dokument fehlt) und die Kampagnenkennzahlen, die das System unterstützt, wie Leads aus dem Chatbot oder Bearbeitungszeit bei Content-Entwürfen. Die Liste der unbeantworteten Fragen wird oft zum nächsten Content-Plan.
Was läuft bei RAG schief?
- Veraltete Dokumente: Der Speicher enthält die Preise vom letzten Jahr, also zitiert der Bot diese
- Schlechtes Chunking: Eine über Abschnitte hinweg aufgeteilte Tabelle verliert ihre Bedeutung
- Retrieval-Fehler: Die Formulierung des Benutzers unterscheidet sich von der des Dokuments, und eine reine Vektorsuche findet es nicht
- Übermäßiges Vertrauen: Teams gehen davon aus, dass der RAG-Output immer korrekt ist und überspringen die Überprüfung
- Zugriffskontrolllücken: Interne Dokumente landen im Speicher eines öffentlichen Bots
Jedes dieser Probleme ist eher ein Prozessproblem als ein Modellproblem, weshalb die Audit- und Evaluationsschritte mehr Zeit in Anspruch nehmen als das technische Setup.
Ist RAG für SEO und KI-Suche wichtig?
KI-Suchprodukte wie Googles AI Overviews, Perplexity und ChatGPT Search funktionieren nach einem ähnlichen Prinzip: Webseiten abrufen, dann eine Antwort generieren. Seiten, die leicht abrufbar und zitierbar sind, mit klaren Überschriften, direkten Antworten und genauen Fakten, werden eher verwendet. Der Aufbau von RAG-Systemen für Kunden hat unsere Strukturierung ihrer öffentlichen Inhalte geprägt, da wir sehen, welche Arten von Passagen gut abgerufen werden.
RAG im Vergleich zu Fine-Tuning
Fine-Tuning ändert die Gewichte eines Modells, indem es auf Beispielen trainiert wird. Es ist nützlich, um einen Stil, ein Format oder eine enge Klassifizierungsaufgabe zu lehren. Es ist ein schlechter Weg, um Fakten zu lehren, die sich ändern, da jede Preisaktualisierung ein erneutes Training erfordern würde und das Modell neue Fakten immer noch mit alten vermischen könnte.
RAG hält Fakten außerhalb des Modells, in Dokumenten, die Sie in Minuten aktualisieren können. Für Kampagnenarbeit, bei der sich Produkte, Angebote und Richtlinien monatlich ändern, ist RAG fast immer die bessere Wahl. Beide können kombiniert werden: ein Modell, das auf den Markenton feinabgestimmt ist und aus einem RAG-Speicher aktueller Fakten antwortet.
- Verwenden Sie RAG für Fakten, die sich ändern: Preise, Lagerbestand, Richtlinien, Spezifikationen
- Verwenden Sie Fine-Tuning für stabile Muster: Ton, Ausgabeformat, Klassifizierungslabels
- Verwenden Sie keines von beiden, wenn ein gut geschriebener Prompt mit ein paar Beispielen bereits funktioniert
Wer pflegt den Dokumentenspeicher?
Jedes RAG-System benötigt einen Eigentümer auf Kundenseite, der weiß, wann sich ein Dokument ändert. In einem typischen Setup aktualisieren Produktmanager Spezifikationen, die Rechtsabteilung aktualisiert Haftungsausschlüsse und das Marketing aktualisiert Angebote, jeweils in ihrem eigenen Ordner. Eine wöchentliche Prüfung markiert Dokumente, die älter als ein festgelegtes Alter sind, zur Überprüfung.
Wo man diese Woche anfangen kann
Sammeln Sie die zehn Dokumente, auf die sich Ihre Vertriebs- und Supportteams am meisten verlassen, und prüfen Sie jedes auf Datum und Eigentümer. Entfernen oder markieren Sie alles Veraltete. Schreiben Sie dann zwanzig echte Kundenfragen mit den korrekten Antworten daneben. Diese beiden Listen, saubere Quellen und ein Testdatensatz, sind das Fundament jedes RAG-Projekts, egal welches Tool Sie später wählen.
Weiterlesen: KI-Optimierung · KI-Optimierung