Retrieval-Augmented Generation (RAG) ist eine Technik, bei der ein KI-Modell zunächst eine definierte Menge von Dokumenten nach relevanten Passagen durchsucht und dann seine Antwort unter Verwendung dieser Passagen als Beleg verfasst. Für Marketer bedeutet dies Chatbots, Assistenten und Content-Tools, die auf Basis Ihrer eigenen Produktdatenblätter, Richtlinien und Recherchen antworten, anstatt aus dem allgemeinen Gedächtnis des Modells. Es reduziert erfundene Antworten, beseitigt sie jedoch nicht vollständig.
Wie funktioniert RAG Schritt für Schritt?
Die Idee wurde in einem Forschungspapier von Facebook AI Research aus dem Jahr 2020 beschrieben und hat sich seitdem zum Standardmuster für KI-Geschäftsassistenten entwickelt. Es läuft in zwei Phasen ab.
Die Vorbereitung erfolgt einmalig und wird aktualisiert, wenn sich Dokumente ändern. Dokumente werden in Chunks unterteilt, jeder Chunk wird in ein Embedding umgewandelt – eine Liste von Zahlen, die seine Bedeutung repräsentiert – und in einer Vektordatenbank oder einem Suchindex gespeichert.
Die Beantwortung erfolgt jedes Mal, wenn jemand eine Frage stellt:
- Die Frage wird in ein Embedding umgewandelt.
- Das System ruft die Chunks mit der ähnlichsten Bedeutung ab, oft kombiniert mit einer Stichwortsuche.
- Diese Chunks werden in den Prompt eingefügt, mit der Anweisung, nur auf deren Basis zu antworten.
- Das Modell schreibt eine Antwort, idealerweise mit Verweisen auf die verwendeten Chunks.
Warum nicht einfach einen Chatbot so verwenden, wie er ist?
Allgemeine Modelle wissen viel, aber nicht Ihre Preisliste, Rückgaberichtlinie oder die neueste Produktveröffentlichung. Wenn man sie danach fragt, können sie plausible, aber falsche Details liefern. Das Fine-Tuning eines Modells auf Ihre Dokumente ist teuer und veraltet schnell.
RAG hält das Wissen außerhalb des Modells. Aktualisieren Sie ein Dokument und die nächste Antwort spiegelt es wider. Sie können auch Quellen angeben, was es Benutzern und Prüfern ermöglicht, die Behauptung zu überprüfen.
Wo passt RAG in die Marketingarbeit?
Die besten Anwendungsfälle teilen zwei Merkmale: einen definierten Bestand an vertrauenswürdigen Inhalten und wiederkehrende Fragen dazu.
- Website-Assistenten, die Produkt-, Preis- und Richtlinienfragen von offiziellen Seiten beantworten.
- Sales Enablement: Vertriebsmitarbeiter fragen nach Fallstudien, Funktionen oder Wettbewerbsvergleichen aus genehmigten Dokumenten.
- Content-Produktion: Entwürfe für Artikel, die auf der eigenen Forschung des Unternehmens, Produktdokumentationen und dem Brand Guide basieren.
- Interne Suche in Kampagnenberichten, Briefings und Besprechungsnotizen.
- Kundensupport-Deflection, bei der die Antworten mit dem Hilfe-Center übereinstimmen müssen.
Für offene kreative Arbeit, wie z. B. Kampagnenideen, ist es weniger geeignet, da die Verankerung in bestehenden Dokumenten die Originalität einschränken kann.
Welche Tools können Marketer nutzen, ohne bei Null anzufangen?
Sie brauchen nicht für jedes RAG-Projekt Ingenieure. Viele Tools beinhalten Retrieval von Haus aus:
- Custom GPTs und ChatGPT-Projekte mit hochgeladenen Dateien.
- Claude Projects mit einer Wissensdatenbank.
- Google NotebookLM für Antworten aus hochgeladenen Quellen mit Zitaten.
- Microsoft Copilot Studio-Agenten, die auf SharePoint oder Websites basieren.
- Helpdesk-Plattformen wie Intercom und Zendesk mit KI-Agenten, die das Hilfe-Center nutzen.
Für größere oder kundenorientierte Systeme bauen Teams mit Frameworks wie LangChain oder LlamaIndex und Vektorspeichern wie Pinecone, Weaviate oder pgvector oder nutzen Managed Services von Cloud-Anbietern.
Was macht ein RAG-System gut oder schlecht?
Die meisten Qualitätsprobleme entstehen durch das Retrieval, nicht durch das Modell. Wenn die richtige Passage nicht abgerufen wird, kann das Modell sie nicht verwenden.
Inhaltsqualität
Veraltete, duplizierte oder widersprüchliche Dokumente führen zu widersprüchlichen Antworten. Bereinigen Sie den Quellsatz vor der Indizierung. Eine aktuelle Preisseite schlägt fünf alte PDFs mit unterschiedlichen Preisen.
Chunking und Metadaten
Zu kleine Chunks verlieren den Kontext; zu große verwässern die Relevanz. Das Hinzufügen von Metadaten wie Produkt, Region und Datum ermöglicht es dem System, vor der Suche zu filtern.
Anweisungen und Verweigerung
Weisen Sie das Modell an, zu sagen, dass es die Antwort nicht kennt, wenn die Dokumente die Frage nicht abdecken. Ein Assistent, der eine Wissenslücke zugibt, ist sicherer als einer, der rät.
Wie bewertet man einen RAG-Assistenten?
Erstellen Sie einen Testdatensatz von 50 bis 100 echten Fragen mit der richtigen Antwort und dem Dokument, das sie enthält. Messen Sie dann:
- Retrieval-Trefferquote: Erschien das richtige Dokument in den abgerufenen Chunks?
- Antwortgenauigkeit im Vergleich zur Referenz.
- Treue: Bleibt die Antwort innerhalb dessen, was die Quellen sagen?
- Verweigerungsgenauigkeit: Lehnt es Fragen ab, die die Dokumente nicht beantworten?
Führen Sie den Test durch, wann immer sich Dokumente, Chunking oder Prompts ändern. Frameworks wie Ragas können Teile davon automatisieren, aber die menschliche Überprüfung einer Stichprobe bleibt unerlässlich.
Wie Alien Road RAG bei der KI-Optimierung einsetzt
Ein typisches Engagement beginnt mit einem Content-Audit: Welche Dokumente sind maßgeblich, welche sind veraltet und wer ist für jedes verantwortlich? Dieser Schritt ist oft wichtiger als die Technologiewahl, da ein RAG-Assistent alles erbt, was in seinen Quellen steht.
Bei der Einrichtung wird das leichteste Tool gewählt, das passt. Ein interner Vertriebsassistent kann ein Claude Project oder ein NotebookLM-Notizbuch sein; ein kundenorientierter Website-Assistent benötigt einen ordentlichen Aufbau mit Retrieval-Logging, Verweigerungsregeln und einer Übergabe an einen Menschen. Der Testfragen-Satz wird mit dem Vertriebs- oder Support-Team des Kunden geschrieben.
Die Messung verfolgt die Retrieval-Trefferquote, Antwortgenauigkeit und Verweigerungsgenauigkeit im Testset sowie Live-Metriken wie Fragen, die ohne Eskalation beantwortet wurden. Monatliche Berichte listen die häufigsten unbeantworteten Fragen auf, die meist auf fehlende oder unklare Inhalte auf der eigenen Website des Kunden hinweisen.
Wie verbindet sich RAG mit der Suchsichtbarkeit?
KI-Suchmaschinen wie Perplexity, Googles AI Overviews und die ChatGPT-Suche nutzen Retrieval auf ähnliche Weise: Sie rufen Seiten ab und schreiben dann Antworten daraus. Inhalte, die klar, gut strukturiert und leicht zu zitieren sind, werden eher abgerufen und zitiert. Ihr eigenes RAG-System zu bauen, ist ein praktischer Weg, um herauszufinden, wie einfach Ihre Inhalte für Maschinen zu verwenden sind.
Was kostet ein RAG-Projekt typischerweise?
Die Kosten fallen in drei Bereiche. Content-Arbeit kommt zuerst: Dokumente bereinigen, aktualisieren und deduplizieren, was Personalzeit ist. Tools kommen als zweites: eine No-Code-Option wie NotebookLM oder ein Claude Project kostet kaum mehr als bestehende Abonnements, während ein kundenspezifischer Aufbau Entwicklung, Hosting und eine Vektordatenbank hinzufügt.
Laufende Kosten kommen zuletzt, hauptsächlich Modellaufrufe pro Frage und die zusätzlichen Token aus abgerufenen Passagen, die in jeden Prompt eingefügt werden. Für die meisten internen Assistenten bleiben diese gering. Schätzen Sie für einen öffentlichen Website-Assistenten mit hohem Traffic die monatlichen Fragen und multiplizieren Sie diese mit den durchschnittlichen Token pro Antwort, bevor Sie ein Modell auswählen.
Wo man diese Woche anfangen kann
Sammeln Sie die 20 Dokumente, die Ihr Vertriebs- oder Support-Team am häufigsten verwendet, und entfernen Sie veraltete Versionen. Laden Sie sie in NotebookLM oder ein Claude Project hoch und stellen Sie die 30 Fragen, die Kunden am häufigsten stellen. Notieren Sie jede Antwort, die falsch ist oder fehlt. Diese Lücken zeigen, ob Sie ein RAG-Tool, besseren Content oder beides benötigen.
Weiterlesen: KI-Optimierung · KI-Optimierung