DeepSeek und andere Open-Weight-Modelle beweisen ihren Wert, wenn Sie vier Faktoren gegen eine Basislinie messen: Ausgabequalität bei Ihren eigenen Aufgaben, Kosten pro fertigem Element, Geschwindigkeit und operatives Risiko. Ohne diese Zahlen beruht die Entscheidung für ein offenes Modell gegenüber einer geschlossenen API nur auf Schlagzeilen. Mit ihnen können Sie genau zeigen, wo ein offenes Modell Geld spart und wo es bei der Überprüfungszeit mehr kostet.
Was sind Open-Weight-Modelle und warum ist DeepSeek im Gespräch?
Ein Open-Weight-Modell ist ein Modell, dessen trainierte Parameter zum Download veröffentlicht werden, meist unter einer Lizenz, die Nutzungsbedingungen festlegt. Beispiele sind Metas Llama-Familie, Mistrals offene Modelle, Alibabas Qwen, Googles Gemma und die Modelle von DeepSeek, einem chinesischen KI-Labor. Open Weights sind nicht immer Open Source im strengen Sinne: Trainingsdaten und der vollständige Code können privat bleiben.
DeepSeek erregte Anfang 2025 große Aufmerksamkeit, als sein Reasoning-Modell DeepSeek-R1 bei mehreren öffentlichen Benchmarks nahe an führende geschlossene Modelle heranreichte, während das Unternehmen relativ niedrige Trainingskosten angab. Die Modelle werden unter permissiven Lizenzen veröffentlicht, die es Unternehmen ermöglichen, sie auf eigener Hardware oder über Drittanbieter zu betreiben.
Für Marketingteams sind Kontrolle und Kosten ausschlaggebend. Die Fragen sind, ob die Qualität bei echten Aufgaben standhält und welche versteckten Kosten beim Selbstbetrieb der Modelle entstehen.
Welche KPIs sind wirklich wichtig?
Öffentliche Benchmarks messen Mathematik, Programmierung und Allgemeinwissen. Ihre Kampagnen kümmern sich um andere Dinge. Erstellen Sie eine Scorecard mit vier Gruppen.
Qualität
- Akzeptanzrate: Anteil der Ausgaben, die ohne größere Bearbeitungen genehmigt wurden.
- Bearbeitungszeit: Minuten, die ein Prüfer pro Ausgabe vor der Genehmigung verbringt.
- Faktische Fehlerrate: Fehler pro 100 Ausgaben bei Stichproben.
- Anweisungstreue: Anteil der Ausgaben, die Format-, Längen- und Verbotswortregeln einhalten, was ein Skript prüfen kann.
Kosten
- Kosten pro fertigem Element, einschließlich Token oder Hardware und Prüferzeit.
- Monatliche Infrastrukturkosten bei Selbsthosting, einschließlich Leerlaufzeiten.
Geschwindigkeit
- Zeit bis zum ersten Token und Gesamtreaktionszeit für interaktive Nutzungen.
- Durchsatz für Batch-Jobs, wie z. B. verarbeitete Elemente pro Stunde.
Risiko
- Datenexposition: wo Prompts und Ausgaben verarbeitet und gespeichert werden.
- Lizenzpassung für Ihre beabsichtigte kommerzielle Nutzung.
- Inhaltssicherheitsvorfälle, wie z. B. markenfremde oder unangemessene Ausgaben.
Wie baut man einen fairen Vergleich auf?
Ein Vergleich ist nur fair, wenn jedes Modell die gleichen Eingaben unter den gleichen Bedingungen sieht. Stellen Sie ein Testset aus 50 bis 200 echten Aufgaben aus Ihrer Arbeit zusammen, wie Produktbeschreibungen, Werbevarianten, E-Mail-Betreffzeilen und Berichtszusammenfassungen. Schreiben Sie einen Prompt pro Aufgabentyp und halten Sie ihn fest.
Lassen Sie das offene Modell und Ihr aktuelles geschlossenes Modell auf dem gesamten Set laufen. Verbergen Sie, welches Modell welche Ausgabe produziert hat, und lassen Sie sie dann von Prüfern bewerten. Blindbewertung ist wichtig, weil Menschen dazu neigen, die Marke zu bevorzugen, von der sie erwarten, dass sie besser ist.
Wiederholen Sie den Test, wann immer Sie Modellversion, Quantisierungsgrad oder Prompt ändern. Ein stark quantisiertes Modell, das auf eine kleinere GPU passt, kann bei Aufgaben, die Präzision erfordern, an Qualität verlieren.
Welche versteckten Kosten entstehen beim Selbsthosting?
Wenn Sie ein Modell selbst betreiben, ersetzen Sie eine Rechnung pro Token durch eine Reihe anderer Verantwortlichkeiten:
- GPU-Hardware oder Cloud-Instanzen, die auch im Leerlauf Geld kosten.
- Serving-Software wie vLLM oder Ollama und jemanden, der sie wartet.
- Überwachung, Protokollierung und Sicherheitspatches.
- Modell-Updates und Regressionstests.
- Engineering-Zeit, wenn Dinge kaputt gehen.
Bei geringen oder ungleichmäßigen Volumina sind gehostete APIs für offene Modelle, die von mehreren Inferenzanbietern angeboten werden, oft billiger als der Besitz von Hardware. Selbsthosting zahlt sich meist bei konstant hohem Volumen oder strengen Datenkontrollanforderungen aus.
Gibt es spezifische Risiken bei DeepSeek?
Zwei Probleme tauchen immer wieder auf. Erstens verarbeiten DeepSeeks eigene gehostete App und API Daten auf Servern, die chinesischem Recht unterliegen, und mehrere Regierungen und Organisationen haben deren Nutzung aus diesem Grund eingeschränkt. Das Ausführen der Open Weights auf Ihrer eigenen Infrastruktur oder der eines vertrauenswürdigen Anbieters vermeidet das Senden von Daten an DeepSeeks Server.
Zweitens haben Forscher und Journalisten berichtet, dass die Ausgaben des Modells Inhaltsbeschränkungen zu bestimmten politischen Themen widerspiegeln. Das betrifft selten Produkttexte, ist aber für nachrichtenbezogene oder PR-Arbeit wichtig. Testen Sie Themen, die für Ihre Marke wichtig sind, bevor Sie sich auf ein Modell verlassen.
Wie Alien Road DeepSeek und Open-Weight-Modelle anwendet
In einem typischen Engagement sammelt die Discovery die Aufgaben, bei denen KI bereits verwendet wird oder geplant ist, mit monatlichen Volumina und wie Ausgaben derzeit überprüft werden. Wir notieren auch die Datensensibilität, da dies oft darüber entscheidet, ob Selbsthosting erforderlich ist.
Das Setup erstellt das Testset aus der echten Arbeit des Kunden und lässt es durch das aktuelle Modell und zwei oder drei Open-Weight-Optionen laufen, unter Verwendung eines vertrauenswürdigen Hosts oder lokaler Infrastruktur. Prüfer bewerten blind, und wir protokollieren Kosten und Geschwindigkeit für jeden Durchlauf.
Die Messung geht nach dem Start weiter. Eine kleine Stichprobe von Produktionsausgaben wird jeden Monat auf der gleichen Skala bewertet, sodass Qualitätsdrift frühzeitig sichtbar wird. Das Reporting an den Kunden ist ein einziges Dashboard, das Modelle nach Akzeptanzrate, Bearbeitungszeit, Kosten pro fertigem Element und Vorfällen vergleicht, mit einer Empfehlung pro Aufgabentyp statt eines Modells für alles.
Wie sollte das Dashboard aussehen?
Halten Sie es auf einem Bildschirm. Ein einfaches Layout, das funktioniert:
- Obere Zeile: Kosten pro fertigem Element und Akzeptanzrate für jedes Modell, diesen Monat im Vergleich zum letzten.
- Mitte: Verteilung der Bearbeitungszeit pro Aufgabentyp.
- Unten: Vorfälle und Notizen zur Datenverarbeitung sowie Modellversion und Datum des letzten Testlaufs.
Tools wie Looker Studio, Power BI oder eine geteilte Tabelle reichen aus. Der Punkt ist, Trends denjenigen zu zeigen, die über Budgets entscheiden, nicht sie mit Diagrammen zu beeindrucken.
Wie oft sollten Sie erneut testen?
Open-Weight-Modelle bewegen sich schnell. Neue Versionen erscheinen alle paar Monate, und Hosting-Anbieter ändern manchmal Standardeinstellungen oder Quantisierung ohne große Vorankündigung. Ein vierteljährlicher Nachtest auf dem festen Testset ist ein vernünftiger Rhythmus für die meisten Teams, mit einem zusätzlichen Durchlauf, wann immer Sie den Anbieter oder die Modellversion wechseln.
Behalten Sie jeden Testlauf: Datum, Modellname und -version, Host, Prompt-Version und Ergebnisse. Über ein Jahr zeigt diese Historie, ob ein Modell für Ihre Aufgaben besser wird oder ob ein geschlossenes Modell wieder die Nase vorn hat. Es schützt Sie auch vor einer häufigen Falle, nämlich ein neueres Modell zu übernehmen, weil es öffentliche Bestenlisten anführt, nur um festzustellen, dass es bei Ihrem speziellen Inhalt schlechter abschneidet.
Wenn die Ergebnisse knapp sind, entscheiden Sie nach operativen Gesichtspunkten. Ein Modell, das etwas schwächer, aber billiger, schneller und einfacher innerhalb Ihrer Datenregeln zu betreiben ist, ist oft die bessere geschäftliche Wahl.
Wo man diese Woche anfängt
Ziehen Sie 50 echte Aufgaben aus der Arbeit des letzten Monats und speichern Sie die Prompts, die Sie verwendet haben. Lassen Sie sie durch Ihr aktuelles Modell und ein Open-Weight-Modell über einen seriösen Hosting-Anbieter laufen.
Bewerten Sie die Ergebnisse blind mit zwei Kollegen, erfassen Sie die Bearbeitungszeit und berechnen Sie die Kosten pro akzeptierter Ausgabe. Dieser eine Nachmittag gibt Ihnen die erste Zeile eines Dashboards und eine sachliche Grundlage für die Debatte offen versus geschlossen.
Weiterlesen: KI-Optimierung · KI-Optimierung