ChatGPT Governance: Risiken und Regeln für Teams

ChatGPT ist einfach zu bedienen, und genau deshalb verbreiten sich Risiken schnell. Jeder mit einem Browser kann innerhalb von Sekunden ein Kundenbriefing, eine Kundenliste oder einen Entwurf für eine Pressemitteilung hineinkopieren. Das Tool lehnt gewöhnliche Geschäftsaufgaben selten ab, und seine Antworten sind flüssig genug, um einen flüchtigen Blick zu bestehen.

Das Risiko ist selten ein dramatisches Scheitern. Es sind viele kleine Fehler: eine erfundene Statistik in einem Blogbeitrag, die Marke eines Konkurrenten in einer Anzeigenüberschrift, eine vertrauliche Umsatzkennzahl, die in ein persönliches Konto kopiert wurde, ein übersetzter Slogan, der für Muttersprachler seltsam klingt. Bei der Governance geht es darum, diese Muster frühzeitig zu erkennen.

Genauigkeit

ChatGPT kann plausible Aussagen produzieren, die falsch sind – ein Verhalten, das oft als Halluzination bezeichnet wird. Es kann Quellen erfinden, Zahlen falsch zitieren und Plattformregeln falsch darstellen. Websuche und Dateianalysefunktionen reduzieren dies, aber sie beseitigen es nicht, und das Modell kann die gefundenen Quellen falsch interpretieren.

Wissensgrenzen

Modelle haben ein Trainings-Cut-off-Datum. Ohne Browsing beschreibt ChatGPT möglicherweise veraltete Funktionen von Werbeplattformen oder Algorithmusänderungen. Mit Browsing hängt die Qualität davon ab, welche Seiten es findet.

Kontext und Gedächtnis

Lange Unterhaltungen und große Dokumente können dazu führen, dass Details übersehen werden. Speicherfunktionen können Präferenzen über Chats hinweg übertragen, was hilfreich ist, aber Benutzer sollten wissen, was gespeichert wird und wie man es löscht.

Urteilsvermögen und Geschmack

Das Modell kennt Ihre Marke, die interne Politik Ihres Kunden oder lokale kulturelle Empfindlichkeiten nicht, es sei denn, Sie teilen es ihm mit. Standardausgaben klingen tendenziell generisch, was der Markenunterscheidung schadet und wie massenproduzierter Inhalt aussehen kann.

Konsistenz

Derselbe Prompt kann unterschiedliche Antworten erzeugen. Das ist gut für Brainstorming, aber ein Problem für alles, das einen wiederholbaren Standard erfordert.

Daten sind der Bereich, in dem Governance am wichtigsten ist. OpenAI bietet verschiedene Pläne mit unterschiedlichen Datenbedingungen an. Zum Zeitpunkt der Erstellung dieses Artikels werden Geschäftsprodukte wie ChatGPT Team, Enterprise und Edu sowie die API standardmäßig nicht zum Trainieren von Modellen verwendet, während Verbraucherkonten eine Einstellung haben, die steuert, ob Unterhaltungen für das Training verwendet werden dürfen. Bedingungen ändern sich, also prüfen Sie die aktuelle Richtlinie und die Einstellungen selbst.

Für Teams, die EU- oder türkische personenbezogene Daten verarbeiten, gelten DSGVO und KVKK. Das Einfügen eines Kundenexports in ein externes Tool ist eine Datenübertragung, die eine Rechtsgrundlage und oft eine Auftragsverarbeitungsvereinbarung erfordert. Kundenverträge können auch die Weitergabe vertraulicher Materialien an KI-Dienste Dritter verbieten.

Beginnen Sie mit einer einseitigen Richtlinie. Fünf Regeln decken das Wesentliche ab.

1. Nur genehmigte Konten

Die Arbeit für das Unternehmen findet in einem Unternehmensarbeitsbereich statt, wie z. B. ChatGPT Team oder Enterprise, mit Admin-Kontrollen. Persönliche Konten werden nicht für Kunden- oder Unternehmensdaten verwendet.

2. Eine klare Datenampel

• Grün: Öffentliche Informationen und Ihre eigenen veröffentlichten Inhalte können frei verwendet werden.
• Gelb: Interne Pläne und nicht personenbezogene Kampagnendaten dürfen nur im genehmigten Arbeitsbereich verwendet werden.
• Rot: Personenbezogene Daten, Anmeldedaten, Verträge und vertrauliche Kundenzahlen werden nicht eingegeben, es sei denn, sie sind anonymisiert oder speziell genehmigt.

3. Überprüfung, bevor etwas das Team verlässt

Jedes Ergebnis, das veröffentlicht, an einen Kunden gesendet oder für eine Ausgabenentscheidung verwendet wird, hat einen namentlich genannten menschlichen Prüfer. Der Prüfer prüft Fakten, Zahlen, Behauptungen, Tonfall und rechtliche Fragen.

4. Keine ungeprüften Fakten oder Quellen

Statistiken, Zitate, Plattformgrenzen und rechtliche Aussagen müssen vor der Verwendung anhand einer Primärquelle überprüft werden. Wenn keine Quelle gefunden werden kann, wird die Behauptung entfernt.

5. Protokollierung und Offenlegung

Führen Sie ein einfaches Protokoll über wichtige KI-gestützte Ergebnisse: was wurde produziert, mit welchem Tool und wer hat es überprüft. Vereinbaren Sie mit Kunden, wie die KI-Nutzung offengelegt wird, und respektieren Sie alle Vertragsklauseln zu diesem Thema.

Generierte Texte und Bilder werfen praktische Fragen auf. Die Bedingungen von OpenAI weisen die Ausgaberechte dem Benutzer zu, aber das garantiert nicht, dass das Ergebnis frei von Ähnlichkeiten mit bestehenden Werken ist, und der Urheberrechtsschutz für rein maschinell erzeugtes Material ist in vielen Rechtsordnungen begrenzt. Für hochwertige Assets wie Logos, Slogans und visuelle Kampagnen-Key-Visuals ist menschliches kreatives Eigentum der sicherere Weg.

Prüfen Sie für die Markensicherheit, dass die Ergebnisse keine Marken von Wettbewerbern verwenden, keine vergleichenden Behauptungen aufstellen, die Sie nicht belegen können, oder Ergebnisse versprechen. Werberegeln gelten unabhängig davon, wer den Text geschrieben hat.

Regeln, die sich wie ein Verbot anfühlen, werden ignoriert. Eine bessere Einführung sieht so aus:

• Führen Sie eine einstündige Sitzung durch, in der Sie gute und schlechte Beispiele aus Ihrer eigenen Arbeit zeigen.
• Teilen Sie Prompt-Vorlagen für häufige Aufgaben, in die die Datenregeln bereits integriert sind.
• Ernennen Sie eine Person pro Team als Ansprechpartner für Fragen.
• Überprüfen Sie die Richtlinie vierteljährlich und aktualisieren Sie sie, wenn sich Tools oder Gesetze ändern.
• Feiern Sie Entdeckungen: Wenn ein Prüfer eine erfundene Statistik findet, teilen Sie dies als Lektion, nicht als Fehler.