Retrieval-Augmented Generation (RAG) Workflows sparen Zeit, indem sie ein Sprachmodell Antworten aus Ihren eigenen Dokumenten statt aus dem Gedächtnis generieren lassen. Ein RAG-System durchsucht eine Wissensdatenbank nach relevanten Passagen, übergibt diese zusammen mit der Frage an das Modell und fordert eine Antwort an, die auf diesen Passagen basiert, idealerweise mit Quellenangaben. Für Marketing-Teams verwandelt dies Markenrichtlinien, Produktspezifikationen, vergangene Kampagnen und Recherchen in etwas, das in Sekunden abgefragt werden kann.
Welches Problem löst RAG?
Sprachmodelle wissen viel über die Welt, aber nichts über die aktuelle Preisliste Ihres Unternehmens. Das Fine-Tuning eines Modells mit internen Dokumenten ist langsam und geht nicht gut mit häufigen Aktualisierungen um. RAG hält das Wissen außerhalb des Modells in einem durchsuchbaren Speicher, sodass eine Aktualisierung des Dokuments auch die Antworten aktualisiert.
Es reduziert auch erfundene Antworten. Wenn das Modell angewiesen wird, nur aus den abgerufenen Passagen zu antworten und anzugeben, wenn nichts Relevantes gefunden wurde, erfindet es weniger. Nicht nie, weshalb Evaluierung wichtig ist.
Was sind die Bestandteile eines RAG-Workflows?
- Dokumentensammlung: die Dateien und Seiten, die das System kennen sollte.
- Vorbereitung: Bereinigung, Konvertierung in Text, Entfernen von Duplikaten und veralteten Versionen.
- Chunking: Aufteilen von Dokumenten in Passagen, die klein genug für eine präzise Suche sind.
- Embedding: Umwandlung jeder Passage in einen Vektor mit einem Embedding-Modell.
- Speicherung: eine Vektordatenbank oder ein Suchindex, wie pgvector, Pinecone, Weaviate, Elasticsearch oder Azure AI Search.
- Retrieval: Finden der für eine Frage relevantesten Passagen, oft durch eine Mischung aus Keyword- und Vektorsuche.
- Generierung: Das Modell schreibt die Antwort aus diesen Passagen, mit Referenzen.
Managed Services bündeln viele dieser Schritte. Die Dateisuche in den Assistants- und Responses-APIs von OpenAI, Google Vertex AI Search, Amazon Bedrock Knowledge Bases und Azure AI Search mit Azure OpenAI übernehmen das Chunking und Retrieval für Sie. Für ein erstes Projekt ist eine Managed-Option meist schneller.
Ein Schritt-für-Schritt-Workflow für eine Marketing-Wissensdatenbank
Schritt 1: Wählen Sie einen engen Anwendungsbereich
Beginnen Sie mit einer Art von Frage, wie “Was können wir in Anzeigen über Produkt X sagen?”. Sammeln Sie nur die Dokumente, die diese beantworten: Produktspezifikationen, genehmigte Aussagen, Markenrichtlinien und rechtliche Hinweise. Eine kleine, saubere Sammlung ist besser als eine riesige, unordentliche.
Schritt 2: Bereinigen Sie die Dokumente
Entfernen Sie alte Versionen oder kennzeichnen Sie sie zumindest mit Daten. Konvertieren Sie PDFs in Text und prüfen Sie, ob Tabellen korrekt übernommen wurden. Gescannte Dokumente benötigen OCR. Dieser Schritt ist mühsam und bestimmt den Großteil der Qualität.
Schritt 3: Chunking nach Bedeutung
Teilen Sie nach Möglichkeit nach Überschriften oder Abschnitten auf, nicht nach einer festen Anzahl von Zeichen. Halten Sie jeden Chunk auf eine Idee fokussiert und fügen Sie Metadaten hinzu: Dokumententitel, Abschnitt, Datum, Produkt und Sprache. Metadaten ermöglichen es Ihnen, das Retrieval zu filtern, zum Beispiel nur auf aktuelle Dokumente.
Schritt 4: Retrieval mit hybrider Suche
Reine Vektorsuche übersieht exakte Begriffe wie Produktcodes. Reine Stichwortsuche übersieht Paraphrasen. Die meisten produktiven Systeme kombinieren beides und bewerten die Top-Ergebnisse dann mit einem Re-Ranking-Modell neu. Rufen Sie mehr ab, als Sie benötigen, und behalten Sie dann die besten Ergebnisse.
Schritt 5: Prompt für fundierte Antworten
Geben Sie dem Modell klare Regeln: Antworten Sie nur aus den bereitgestellten Passagen, zitieren Sie den Dokumententitel für jede Aussage, sagen Sie “nicht in den Dokumenten gefunden”, wenn die Antwort fehlt, und raten Sie niemals Preise oder Daten. Platzieren Sie die Regeln im System-Prompt, damit Benutzer sie nicht versehentlich entfernen können.
Schritt 6: Zeigen Sie dem Benutzer die Quellen
Zeigen Sie die zitierten Passagen neben der Antwort mit Links zur Originaldatei an. Menschen vertrauen der Antwort mehr und finden Fehler schneller, wenn die Quelle nur einen Klick entfernt ist.
Woher wissen Sie, ob das RAG-System funktioniert?
Erstellen Sie ein Testset aus 50 bis 100 echten Fragen mit bekannten korrekten Antworten und dem Dokument, aus dem jede Antwort stammt. Messen Sie zwei Dinge separat. Retrieval-Qualität: Erschien die richtige Passage in den Top-Ergebnissen? Antwortqualität: War die endgültige Antwort korrekt und durch die Passage gestützt?
Die Trennung der beiden zeigt, wo Probleme behoben werden müssen. Wenn das Retrieval fehlschlägt, passen Sie das Chunking, die Metadaten oder die Sucheinstellungen an. Wenn das Retrieval funktioniert, aber die Antworten falsch sind, passen Sie den Prompt oder das Modell an. Tools wie Ragas und ähnliche Open-Source-Evaluatoren können Teile davon automatisieren, aber lassen Sie Menschen eine Stichprobe prüfen.
Wie Alien Road RAG in der Kundenarbeit anwendet
In einem typischen Engagement beginnt unser AI Optimization-Team damit, die Personen zu interviewen, die interne Fragen am häufigsten beantworten, zum Beispiel den Brand Manager oder Produktvermarkter, und die Fragen zu sammeln, die sie jede Woche erhalten. Diese Fragen werden zum Testset.
Wir sammeln und bereinigen dann die Quelldokumente, wählen je nach Datenrichtlinien einen Managed-Retrieval-Service oder eine benutzerdefinierte Pipeline und bauen eine einfache Schnittstelle in einem Tool, das der Kunde bereits verwendet, wie Teams, Slack oder das Intranet. Antworten zeigen immer Quellen.
Die Messung umfasst die Retrieval-Trefferquote und die Antwortgenauigkeit im Testset, die wöchentliche Nutzung und Fragen, die “nicht gefunden” zurückgaben, was auf fehlende Dokumente hinweist. Monatliche Berichte listen die vorgenommenen Dokumentenaktualisierungen und die Veränderung der Ergebnisse auf.
Welche Fehler verlangsamen RAG-Projekte?
Die meisten Verzögerungen entstehen durch dieselben wenigen Gewohnheiten. Teams laden am ersten Tag jedes Dokument hoch, das sie besitzen, und können dann nicht sagen, warum die Antworten schlecht sind. Sie überspringen das Testset und streiten über Eindrücke. Sie wählen eine Vektordatenbank, bevor sie wissen, wie viele Dokumente sie haben, obwohl ein Managed Service ausreichen würde. Und sie vergessen Berechtigungen: Wenn ein Verkaufsdeck in SharePoint eingeschränkt ist, sollte das RAG-System diese Einschränkung respektieren, sonst landen vertrauliche Preise in einer Antwort für die falsche Person.
- Beginnen Sie mit einer Sammlung, nicht mit allen.
- Schreiben Sie das Testset, bevor Sie Tools auswählen.
- Übertragen Sie Dokumentberechtigungen in Retrieval-Filter.
- Protokollieren Sie jede Frage und Antwort zur Überprüfung.
Wie halten Sie es aktuell?
RAG-Systeme verfallen, wenn sich Dokumente ändern und niemand sie neu indiziert. Richten Sie eine automatische Synchronisierung vom Quellordner ein, wie SharePoint oder Google Drive, und geben Sie jeder Sammlung einen Eigentümer, der sie vierteljährlich überprüft. Entfernen Sie abgelaufene Kampagnen und alte Preislisten, anstatt sie für den Retriever auffindbar zu lassen.
Wo man diese Woche anfangen kann
Listen Sie die zehn Fragen auf, die Ihr Team wiederholt aus Dokumenten beantwortet. Sammeln Sie die Dateien, die die Antworten enthalten, in einem Ordner, entfernen Sie veraltete Versionen und probieren Sie eine Managed-Dateisuche-Option mit diesen zehn Fragen aus. Wenn mindestens sieben Antworten korrekt mit der richtigen Quelle zurückkommen, haben Sie einen Anwendungsbereich, auf dem es sich lohnt aufzubauen.
Weiterlesen: KI-Optimierung · KI-Optimierung