Der EU AI Act ist die Verordnung der Europäischen Union zu künstlicher Intelligenz, die KI-Systeme nach Risiko sortiert und Pflichten für Anbieter und Anwender festlegt. Für die meisten E-Commerce-Marken sind die relevanten Regeln Transparenzpflichten: Kunden mitteilen, wenn sie mit einem Chatbot sprechen, und bestimmte KI-generierte Inhalte kennzeichnen. Einige wenige Anwendungen, wie KI bei der Einstellung oder Kreditprüfung, bringen schwerere Verpflichtungen mit sich.
Gilt der EU AI Act für Shops außerhalb der EU?
Das kann er. Der Act gilt für Anbieter, die KI-Systeme auf dem EU-Markt bereitstellen, und für Anwender, die sie in der EU nutzen. Er erreicht auch Unternehmen außerhalb der EU, wenn der Output eines KI-Systems in der Union verwendet wird. Ein türkischer Shop, der über einen Chatbot auf seiner Website an deutsche Kunden verkauft, sollte davon ausgehen, dass die Regeln relevant sind.
Die Verpflichtungen werden über mehrere Jahre nach Inkrafttreten des Acts im Jahr 2024 schrittweise eingeführt. Verbote für untersagte Praktiken kamen zuerst, gefolgt von Regeln für KI-Modelle mit allgemeinem Verwendungszweck, wobei die meisten anderen Pflichten später gelten. Genaue Daten und Leitlinien werden weiterhin von der Europäischen Kommission geklärt, also prüfen Sie den aktuellen Zeitplan vor der Planung.
Wie funktioniert das Risikosystem?
- Verbotene Praktiken: zum Beispiel manipulative Techniken, die erheblichen Schaden verursachen oder gefährdete Gruppen ausnutzen
- Hochrisikosysteme: gelistete Bereiche wie Beschäftigung, Kreditwürdigkeitsprüfung und Zugang zu wesentlichen Dienstleistungen
- Begrenztes Risiko mit Transparenzpflichten: Chatbots, Emotionserkennung, Deepfakes und einige KI-generierte Inhalte
- Minimales Risiko: die meisten anderen Anwendungen, wie Spamfilter oder viele Empfehlungsfunktionen, ohne neue spezifische Pflichten
Die meisten Marketing-Tools fallen in die Kategorien begrenztes oder minimales Risiko. Das bedeutet nicht, dass keine Regeln gelten. DSGVO, Verbraucherschutzrecht und der Digital Services Act regeln weiterhin personenbezogene Daten, irreführende Praktiken und Plattformpflichten.
Was bedeutet das für gängige E-Commerce-Anwendungsfälle?
Kundenservice-Chatbots
Kunden müssen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus dem Kontext offensichtlich. Eine kurze Zeile zu Beginn des Chats, wie ‘Sie chatten mit unserem KI-Assistenten’, deckt dies ab. Bieten Sie einen klaren Weg zu einem Menschen für Beschwerden und Rücksendungen an, was Verbraucherrecht und guter Service ohnehin erwarten.
KI-generierte Produktbilder und Videos
Anwender von KI, die Deepfakes generiert – also realistische Bilder, Audio oder Video von echten Personen, Orten oder Ereignissen, die mit authentischen verwechselt werden könnten –, müssen offenlegen, dass der Inhalt künstlich ist. Ein Lifestyle-Bild eines nicht existierenden Models, das Ihr Produkt trägt, liegt nahe an dieser Grenze. Das Kennzeichnen von KI-generierten Visuals, insbesondere solchen, die Menschen zeigen, ist die sichere Praxis.
Produktempfehlungen und Personalisierung
Standard-Empfehlungs-Engines sind im Rahmen des EU AI Act im Allgemeinen kein Hochrisiko. Die engeren Einschränkungen kommen von woanders: DSGVO-Einwilligung für Tracking, die Regeln des Digital Services Act zur Empfehlungstransparenz für Plattformen und Verbraucherrecht zu Dark Patterns. Nutzen Sie KI nicht, um die Schwachstellen von Käufern auszunutzen, wie etwa Druck auf Menschen in finanzieller Not auszuüben, was die verbotenen Praktiken berühren kann.
KI-geschriebene Produktbeschreibungen und Blogs
Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen als KI-generiert gekennzeichnet werden, es sei denn, sie wurden einer menschlichen Überprüfung und redaktionellen Verantwortung unterzogen. Produkttexte, die von Ihrem Team geprüft wurden, befinden sich in einer sichereren Position. In jedem Fall bleibt der Shop für die Richtigkeit jeder Behauptung verantwortlich.
Dynamische Preisgestaltung
KI-Preisgestaltung wird nicht als Hochrisiko eingestuft, aber das EU-Verbraucherrecht verlangt, Kunden darüber zu informieren, wenn ein Preis auf Basis automatisierter Entscheidungsfindung personalisiert wurde. Kombinieren Sie das mit DSGVO-Regeln zum Profiling, und Preisgestaltungstools benötigen vor der Einführung eine rechtliche Prüfung.
Was sollte ein Shop zuerst tun?
- Listen Sie jedes verwendete KI-Tool auf: Chat, Bilder, Texte, Preisgestaltung, Empfehlungen, Betrugsprüfungen, Einstellung
- Notieren Sie, wer jedes Tool bereitstellt und ob Sie Anbieter oder Anwender sind
- Fügen Sie KI-Offenlegung zu Chat-Widgets und Sprachassistenten hinzu
- Legen Sie eine Kennzeichnungsregel für KI-Bilder und Videos von Personen fest
- Schulen Sie Mitarbeiter, die KI-Tools verwenden; der Act beinhaltet eine Pflicht zur KI-Kompetenz für Anwender
- Überprüfen Sie Verträge mit Anbietern auf Compliance-Verpflichtungen und Datenverarbeitung
Wie hängt das mit PR und Reputation zusammen?
Regulierung ist ebenso ein Kommunikationsthema wie ein rechtliches. Marken, die dabei erwischt werden, nicht offengelegte KI-Modelle in Anzeigen zu verwenden oder Chatbots, die vorgeben, menschlich zu sein, sehen sich Kritik gegenüber, die sich schnell verbreitet. Klare Offenlegung, eine öffentliche Erklärung darüber, wie das Unternehmen KI nutzt, und ein Kontakt für Fragen verwandeln Compliance in ein Vertrauenssignal.
Wie Alien Road den EU AI Act in der Kundenarbeit anwendet
Wir sind eine Marketingagentur, keine Anwaltskanzlei, daher ist unsere Rolle praktisch. In einem typischen Engagement führen wir eine Bestandsaufnahme jedes KI-Tools durch, das das Marketing und die Customer Journey des Kunden berührt, und dokumentieren, was es tut, welche Daten es verwendet und wo sein Output erscheint. Diese Bestandsaufnahme geht zur endgültigen Bewertung an den Rechtsberater des Kunden.
Sobald der Berater die Pflichten bestätigt, übernehmen wir die Umsetzung auf der Marketingseite: Chatbot-Offenlegungstext in jeder Sprache, Kennzeichnungsvorlagen für KI-Visuals, eine interne Richtlinienseite für das Team und eine öffentliche KI-Nutzungserklärung. Unser PR-Team bereitet Stellungnahmen vor, falls Fragen von Presse oder Kunden eingehen. Das Reporting ist eine vierteljährliche Überprüfung der Bestandsaufnahme, da jeden Monat neue Tools in Marketing-Stacks auftauchen.
Was ist mit KI-Tools, die von Anbietern gekauft wurden?
Die meisten Shops bauen ihre eigene KI nicht selbst. Sie nutzen Funktionen innerhalb von Shopify, WooCommerce-Plugins, E-Mail-Plattformen und Chat-Anbietern. In diesen Fällen ist der Anbieter normalerweise der Provider und der Shop der Anwender. Anwender tragen dennoch Pflichten, insbesondere Transparenz gegenüber Nutzern und Mitarbeiterschulung, und sie sollten Systeme gemäß den Anweisungen des Anbieters verwenden.
Stellen Sie Anbietern drei Fragen: Welche KI-Funktionen sind in Ihrem Konto aktiv, wie planen sie, ihre Verpflichtungen aus dem EU AI Act zu erfüllen, und wie werden Kundendaten verarbeitet. Bewahren Sie die Antworten in Ihren Unterlagen auf. Wenn ein Anbieter standardmäßig eine neue KI-Funktion aktiviert, was oft vorkommt, sollte Ihre Bestandsaufnahme dies bei der nächsten Überprüfung erfassen.
- Prüfen Sie monatlich die Release-Notes großer Plattformen
- Notieren Sie standardmäßig aktivierte KI-Funktionen und entscheiden Sie, ob Sie sie behalten möchten
- Bewahren Sie Compliance-Erklärungen der Anbieter bei Ihren Verträgen auf
Wo man diese Woche anfangen sollte
Öffnen Sie eine Tabelle und listen Sie jede KI-Funktion auf, die Ihr Shop verwendet, einschließlich derer, die in Plattformen wie Shopify, Klaviyo oder Ihren Chat-Anbieter integriert sind. Fügen Sie eine Spalte hinzu, ob Kunden deren Output sehen. Alles, was kundenorientiert ist, erhält zuerst eine Offenlegungsprüfung. Teilen Sie die Liste mit Ihrem Rechtsberater und vereinbaren Sie einen Termin, um sie erneut zu überprüfen.
Weiterlesen: PR-Dienstleistungen · Digitale PR