Kleine Sprachmodelle sind KI-Modelle mit relativ wenigen Parametern, typischerweise von unter einer Milliarde bis etwa zehn Milliarden, die darauf ausgelegt sind, schnell und kostengünstig zu laufen, manchmal auf einem Laptop oder Telefon. Im Marketingbetrieb sparen sie am meisten Zeit bei engen, wiederkehrenden Aufgaben: Tagging von Inhalten, Extrahieren von Feldern, Routing von Anfragen und Bereinigen von Daten, wo ein großes Frontier-Modell langsamer und teurer wäre als nötig.
Was gilt als kleines Sprachmodell?
Es gibt keine offizielle Grenze, aber der Begriff umfasst normalerweise Modelle wie die Phi-Familie von Microsoft, Gemma von Google, die kleineren Llama-Varianten von Meta, die kompakten Modelle von Mistral, die kleineren Größen von Qwen und die On-Device-Modelle von Apple. Viele sind Open-Weight, sodass Sie sie unter deren Lizenzbedingungen selbst herunterladen und ausführen können.
Ihre Stärken sind Geschwindigkeit, niedrige Kosten und Datenschutz. Das Ausführen eines kleinen Modells auf Ihrem eigenen Server oder Computer bedeutet, dass Daten niemals Ihre Kontrolle verlassen. Ihre Schwäche ist die Breite: Sie wissen weniger, schlussfolgern weniger gut über lange Ketten und machen bei offenen kreativen Aufgaben mehr Fehler als die größten Modelle.
Der Trick besteht darin, ihnen Aufgaben zu geben, die zu ihnen passen. Ein Workflow mit klaren Eingaben, klaren Ausgaben und überprüfbaren Ergebnissen spielt ihre Stärken aus.
Welche Marketingaufgaben eignen sich für kleine Modelle?
Gute Kandidaten teilen drei Eigenschaften: hohes Volumen, einfache Entscheidungen und Ausgaben, die Sie automatisch verifizieren können. Beispiele:
- Klassifizierung von Blogbeiträgen oder Produkten in eine feste Liste von Kategorien.
- Extrahieren von Firmenname, Berufsbezeichnung und Absicht aus eingehenden Formularnachrichten.
- Sentiment-Tagging von Bewertungen oder sozialen Kommentaren.
- Erkennen der Sprache und Routing von Tickets an das richtige Team.
- Normalisierung unordentlicher UTM-Parameter oder Kampagnennamen.
- Schreiben von kurzem Alt-Text aus vorhandenen Produktattributen.
Aufgaben, die nicht gut passen, sind lange Strategiedokumente, subtile Markentexte und alles, was aktuelles Weltwissen erfordert.
Workflow 1: Tagging einer Inhaltsbibliothek
Große Websites haben oft Tausende von Beiträgen mit fehlenden oder inkonsistenten Tags. Ein kleines Modell kann Tags aus einer festen Liste vorschlagen.
- Exportieren Sie Titel und die ersten 300 Wörter jedes Beitrags in eine CSV-Datei.
- Schreiben Sie einen Prompt, der die erlaubten Tags auflistet und nach bis zu drei fragt, die als JSON zurückgegeben werden.
- Führen Sie eine Stichprobe von 100 Beiträgen aus und lassen Sie sie von einer Person überprüfen.
- Verschärfen Sie den Prompt, wo Fehler sich wiederholen, zum Beispiel durch Hinzufügen einer einzeiligen Definition pro Tag.
- Führen Sie den vollständigen Satz aus und importieren Sie dann Tags als Vorschläge, die ein Redakteur in großen Mengen genehmigen kann.
Da die Ausgabe auf eine bekannte Liste beschränkt ist, sind ungültige Antworten mit einem einfachen Skript leicht zu erkennen.
Workflow 2: Lead-Formular-Triage
Freitextfelder in Kontaktformularen verbergen nützliche Signale. Ein kleines Modell kann jede Nachricht lesen und strukturierte Felder zurückgeben: Anfragetyp, erwähntes Budget (ja oder nein), Dringlichkeit und Sprache.
Verbinden Sie das Formular mit einem Automatisierungstool wie Make, n8n oder Zapier, senden Sie die Nachricht an das Modell und schreiben Sie die Ergebnisse als benutzerdefinierte Eigenschaften in das CRM. Der Vertrieb filtert dann nach Anfragetyp, anstatt jede Nachricht zu lesen. Behalten Sie die ursprüngliche Nachricht bei und überprüfen Sie eine wöchentliche Stichprobe, um sicherzustellen, dass das Modell nicht abgewichen ist.
Auswahl des Ausführungsortes für das Modell
- Lokal: Tools wie Ollama oder LM Studio führen offene Modelle auf einer Workstation aus; gut für Tests und private Daten.
- Selbst gehosteter Server: vLLM oder ähnliche Serving-Software auf einer Cloud-GPU; gut für konstantes Volumen.
- Gehostete API: Mehrere Anbieter bedienen kleine Modelle kostengünstig pro Token; am einfachsten zu starten.
Workflow 3: Datenbereinigung vor der Berichterstattung
Kampagnennamen in Werbekonten sind oft inkonsistent: “Summer_Sale_TR”, “summer sale tr v2”, “SS-TR”. Vor dem Erstellen eines Dashboards kann ein kleines Modell jeden Rohnamen einem von Ihnen definierten Standard-Namensschema zuordnen und die Plattform, den Markt, das Kampagnenthema und die Funnel-Stufe zurückgeben.
Speichern Sie die Zuordnungstabelle, damit derselbe Rohname immer gleich zugeordnet wird, und senden Sie nur neue Namen an das Modell. Das hält die Kosten nahe Null und die Ergebnisse konsistent.
Wie halten Sie die Qualität akzeptabel?
Kleine Modelle machen mehr Fehler, daher benötigt jeder Workflow eine Prüfung. Nützliche Kontrollen:
- Beschränken Sie die Ausgabe auf JSON mit festen Feldern und erlaubten Werten.
- Validieren Sie jede Antwort mit einem Skript und wiederholen Sie den Vorgang oder markieren Sie Fehler.
- Behalten Sie einen beschrifteten Testsatz von 50 bis 200 Beispielen bei und führen Sie ihn erneut aus, wann immer Sie das Modell oder den Prompt ändern.
- Senden Sie Fälle mit geringem Vertrauen oder ungültige Fälle an ein größeres Modell oder eine Person.
Dieser letzte Punkt beschreibt eine Kaskade: Das kleine Modell übernimmt die einfache Mehrheit, und nur schwierige Fälle gehen an ein größeres, teureres Modell. Es ist ein gängiges Muster, um die Kosten unter Kontrolle zu halten.
Wie Alien Road kleine Sprachmodelle anwendet
In einem typischen Engagement sucht die Discovery nach den repetitiven, regelbasierten Aufgaben, die Mitarbeiterstunden fressen: Tagging, Formular-Triage, Namensbereinigung und Ähnliches. Wir schätzen das monatliche Volumen und wie Fehler abgefangen würden, denn eine Aufgabe ohne Prüfung ist nicht bereit für die Automatisierung.
Die Einrichtung beginnt normalerweise mit einem gehosteten kleinen Modell für Geschwindigkeit und wechselt zu einem lokalen oder selbst gehosteten Modell, wenn Datensensibilität oder Volumen dies rechtfertigen. Prompts geben strukturierte Ausgaben zurück, und ein Validierungsskript sitzt zwischen dem Modell und jedem System, in das es schreibt.
Die Messung verwendet einen festen Testsatz, der vor dem Start bewertet und monatlich neu bewertet wird, sowie ein Protokoll darüber, wie viele Elemente an eine Person oder ein größeres Modell zurückfallen. Die Berichterstattung an den Kunden zeigt die bei der Aufgabe eingesparten Stunden, Fehlerraten aus Stichproben und laufende Kosten, sodass das Argument für das Beibehalten oder Verwerfen jedes Workflows klar ist.
Wie viel kosten kleine Modelle im Vergleich zu großen?
Die Preise ändern sich zu häufig, um sie zuverlässig anzugeben, aber das Muster ist stabil: Pro Token kosten kleine gehostete Modelle typischerweise einen Bruchteil der Flaggschiff-Modelle derselben Anbieter. Selbsthosting verschiebt die Kosten von Token auf Hardware, was sich auszahlt, wenn das Volumen konstant und hoch ist.
Für einen Klassifizierungsjob, der zehntausende kurze Elemente pro Monat verarbeitet, kann der Unterschied zwischen einem kleinen und einem großen Modell entscheiden, ob sich die Automatisierung des Workflows überhaupt lohnt. Rechnen Sie die Zahlen mit Ihren tatsächlichen Volumina und aktuellen Preisseiten durch, bevor Sie sich entscheiden.
Geschwindigkeit ist die andere Einsparung. Kleine Modelle antworten schnell, was bei Workflows wie der Live-Formular-Triage wichtig ist, bei denen eine Person oder ein System auf das Ergebnis wartet.
Wo man diese Woche anfangen kann
Wählen Sie eine repetitive Klassifizierungsaufgabe in Ihrem Marketingbetrieb. Sammeln Sie 100 echte Beispiele und beschriften Sie sie von Hand; das wird Ihr Testsatz.
Installieren Sie einen lokalen Runner wie Ollama, probieren Sie zwei kleine offene Modelle an den Beispielen mit demselben Prompt aus und zählen Sie die korrekten Antworten. Wenn eines ein Niveau erreicht, das Sie von einem Junior-Assistenten akzeptieren würden, verbinden Sie es mit einem kleinen Pilotprojekt mit menschlicher Überprüfung und verfolgen Sie, wie oft Prüfer seine Antworten ändern.
Weiterlesen: KI-Optimierung · KI-Optimierung