Retrieval-Augmented Generation, oder RAG, ist eine Methode, bei der ein KI-Modell zuerst Ihre eigenen Dokumente nach relevanten Passagen durchsucht und dann seine Antwort unter Verwendung dieser schreibt. Für ein kleines Unternehmen bedeutet dies einen Assistenten, der Fragen zu Ihren Dienstleistungen, Richtlinien oder Produkten auf Basis Ihrer echten Inhalte beantworten kann, anstatt zu raten. Sie können mit Standard-Tools beginnen, bevor Sie etwas Individuelles entwickeln.
Wie funktioniert RAG?
Es gibt zwei Schritte. Das Retrieval findet die relevantesten Teile Ihres Inhalts, normalerweise durch die Umwandlung von Text in Embeddings und die Suche in einem Vektor-Index. Die Generation übergibt diese Teile an ein Sprachmodell mit der Anweisung, nur auf deren Basis zu antworten.
Der Ansatz wurde 2020 in einer Forschungsarbeit von Meta AI beschrieben und ist heute der Standardweg, um Chatbots mit Unternehmensdaten zu fundieren. Es ist billiger und einfacher zu aktualisieren als das Training eines Modells auf Ihren Dokumenten, da das Ändern einer Antwort nur die Bearbeitung des Quelltextes erfordert.
Braucht ein kleines Unternehmen tatsächlich RAG?
Nicht immer. Wenn Kunden die gleichen fünfzehn Fragen stellen, können ein gut geschriebenes FAQ und ein regelbasierter Chatbot ausreichen. RAG wird nützlich, wenn das Wissen breiter ist, als ein FAQ fassen kann.
- Eine Anwalts- oder Buchhaltungskanzlei mit hunderten von Hinweisen.
- Ein Geschäft mit einem großen Katalog und detaillierten Spezifikationen.
- Eine Klinik oder Schule mit Richtlinien, die sich jedes Semester ändern.
- Ein Softwareunternehmen mit langer Dokumentation und Support-Historie.
- Interne Nutzung: Mitarbeiter, die Verträge, Angebote und Verfahren durchsuchen.
Was sind die kostengünstigen Wege zum Start?
Sie müssen für einen ersten Test keine Ingenieure einstellen.
Integrierte Tools
OpenAIs benutzerdefinierte GPTs und Projects, Anthropics Claude Projects und Googles NotebookLM ermöglichen es Ihnen, Dokumente hochzuladen und Fragen zu stellen, die darauf basieren. Diese eignen sich gut für interne Tests und um zu prüfen, ob Ihre Dokumente klar genug sind, um daraus Antworten zu generieren.
Website-Chat-Produkte
Tools wie Intercom Fin, Zendesk AI-Agenten, Chatbase oder die KI-Funktionen von Tidio durchsuchen Ihre Hilfeseiten und beantworten Besucher mit RAG im Hintergrund. Die Preisgestaltung erfolgt in der Regel pro Lösung oder pro Nachricht, sodass Sie zahlen, wenn das Volumen wächst.
Einfache individuelle Builds
Wenn Sie einen Entwickler haben, können Frameworks wie LlamaIndex oder LangChain mit einem Vektor-Speicher wie pgvector oder Chroma innerhalb weniger Tage einen funktionierenden Prototyp erstellen.
Was macht RAG-Antworten präzise?
Die meisten Fehler kommen vom Inhalt, nicht vom Modell. Wenn zwei Dokumente unterschiedliche Preise angeben, zitiert der Assistent möglicherweise eines von beiden.
- Entfernen oder archivieren Sie veraltete Dokumente vor der Indizierung.
- Teilen Sie lange Dateien in Abschnitte mit klaren Überschriften auf.
- Schreiben Sie eine Tatsache an einer Stelle und verlinken Sie dann darauf.
- Weisen Sie das Modell an, “Ich weiß es nicht” zu sagen und einen Menschen anzubieten, wenn die Antwort nicht in den Quellen enthalten ist.
- Zeigen Sie den Quell-Link bei jeder Antwort an, damit Benutzer dies überprüfen können.
Wie Alien Road RAG für kleine Unternehmen anwendet
In einem typischen Engagement bedeutet Discovery das Sammeln der Fragen, die Kunden oder Mitarbeiter stellen, normalerweise aus E-Mails, Chat-Protokollen und Anrufen, und deren Zuordnung zu vorhandenen Dokumenten. Lücken werden zu Schreibaufgaben, bevor eine Technologie ausgewählt wird.
Das Setup hängt von der Größe des Kunden ab. Für viele kleine Unternehmen konfigurieren wir ein bestehendes Chat-Produkt auf den bereinigten Inhalten. Für Kunden, die Kontrolle über Daten oder benutzerdefiniertes Verhalten benötigen, bauen wir einen kleinen RAG-Dienst mit einem Vektor-Index, einer Modell-API und Protokollierung.
Die Messung verwendet einen Testsatz echter Fragen mit bekannten korrekten Antworten. Wir bewerten den Assistenten vor dem Start und dann monatlich. Berichte zeigen die Genauigkeit des Testsatzes, den Anteil der an einen Menschen übergebenen Konversationen und die häufigsten unbeantworteten Fragen, die in Inhaltsaktualisierungen einfließen.
Welche Risiken sollten Sie managen?
RAG reduziert erfundene Antworten, eliminiert sie aber nicht. Das Modell kann immer noch eine Passage falsch lesen oder zwei Quellen falsch kombinieren. Halten Sie Themen mit hohem Risiko, wie Preise, Rechtsberatung oder medizinische Beratung, entweder in festen Antworten oder hinter einer menschlichen Überprüfung.
Datenschutz ist auch wichtig. Indizieren Sie keine Dokumente mit persönlichen Daten, es sei denn, Sie haben eine Rechtsgrundlage und die Datenverarbeitung des Tools erfüllt Ihre Verpflichtungen gemäß DSGVO oder KVKK. Prüfen Sie, ob der Anbieter Ihre Daten für das Training verwendet und wie lange er Konversationen speichert.
Wie baut man einen Testsatz auf?
Ein Testsatz ist eine Liste echter Fragen mit der korrekten Antwort und dem Quelldokument für jede. Beginnen Sie mit 30 bis 50 Fragen, die aus tatsächlichen Kundennachrichten stammen, nicht aus erfundenen. Fügen Sie ein paar Fragen hinzu, die Ihr Inhalt nicht beantwortet, damit Sie prüfen können, ob der Assistent zugibt, dass er es nicht weiß.
Bewerten Sie jede Antwort nach drei Punkten: korrekt, fundiert in der zitierten Quelle und vollständig genug, um nützlich zu sein. Halten Sie die Bewertung einfach, damit jeder im Team sie wiederholen kann. Führen Sie denselben Satz nach jeder Inhalts- oder Konfigurationsänderung aus; eine Korrektur in einem Bereich bricht manchmal einen anderen.
Anzeichen dafür, dass Ihr Inhalt Arbeit benötigt
- Der Assistent zitiert zwei verschiedene Antworten auf dieselbe Frage.
- Antworten zitieren alte Dokumente, von denen Sie dachten, sie seien entfernt worden.
- Häufige Fragen liefern “Ich weiß es nicht”, obwohl Mitarbeiter sie täglich beantworten.
Jeder dieser Punkte weist auf die Quelldokumente hin, woher die meisten Verbesserungen kommen.
Planen Sie auch eine monatliche Stunde ein, um echte Konversationen zu überprüfen. Testsätze zeigen bekannte Fragen; Live-Protokolle zeigen die neuen, die Kunden nach einer Produktänderung oder einem saisonalen Ansturm stellen.
Es hilft auch zu verfolgen, welche Dokumente am häufigsten zitiert werden. Das sind die Seiten, von denen Kunden abhängen, und sie verdienen einen Eigentümer und ein regelmäßiges Überprüfungsdatum. Dokumente, die nie abgerufen werden, sind möglicherweise unklar, schlecht betitelt oder einfach unnötig, und das Bereinigen macht den Index einfacher präzise zu halten.
Wo man diese Woche anfängt
Sammeln Sie die zwanzig Dokumente, die die meisten Kundenfragen beantworten, löschen Sie veraltete Versionen und laden Sie sie in NotebookLM oder ein Claude Project hoch. Stellen Sie ihm die zehn Fragen, die Sie am häufigsten hören, und prüfen Sie jede Antwort gegen die Quelle. Wo es scheitert, korrigieren Sie das Dokument, nicht den Prompt. Sobald die Antworten Bestand haben, wissen Sie, dass Ihr Inhalt für einen kundenorientierten Assistenten bereit ist.
Weiterlesen: KI-Optimierung · KI-Optimierung