Kurz beantwortet: Seit dem 2. August 2026 müssen KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sein, dass Nutzer erkennen, dass sie mit einer KI sprechen. Diese Pflicht nach Art. 50 Abs. 1 KI-VO trifft den Anbieter des Systems. Wer einen Chatbot auf Basis eines Sprachmodells selbst einrichten lässt und unter eigenem Namen in seinem Shop betreibt, kann selbst Anbieter sein. Hinzu kommen Datenschutz, die Haftung für falsche Auskünfte und das Lauterkeitsrecht.

Viele Shops setzen Chatbots für Produktberatung, Bestellstatus und Retourenfragen ein. Die Einrichtung ist technisch einfach geworden. Die rechtlichen Fragen entscheiden sich an drei Stellen: wer welche Rolle nach der KI-Verordnung hat, was der Bot sagen darf und was mit den Eingaben der Kunden passiert.

Das Wichtigste in Kürze

  • Nutzer müssen spätestens bei der ersten Interaktion klar erkennen können, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist.
  • Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Betrieb nimmt. Ein eigener, angepasster Shop-Bot kann Sie zum Anbieter machen.
  • Verstöße gegen die Transparenzpflichten sind bußgeldbewehrt.
  • Aussagen des Bots zu Preisen, Lieferzeiten oder Rückgaberechten werden Ihnen in aller Regel zugerechnet; bei unvorhersehbaren KI-Antworten ist das im Einzelnen umstritten.
  • Chat-Eingaben sind personenbezogene Daten. Sie brauchen eine Rechtsgrundlage, Informationen in der Datenschutzerklärung und Verträge mit dem KI-Dienstleister.

Die Kennzeichnungspflicht

Nach Art. 50 Abs. 1 KI-VO stellen Anbieter sicher, dass KI-Systeme für die direkte Interaktion mit natürlichen Personen so konzipiert sind, dass diese erfahren, dass sie mit einem KI-System interagieren. Das gilt nicht, wenn es für eine angemessen informierte, aufmerksame und verständige Person aus den Umständen offensichtlich ist. Die Information muss spätestens bei der ersten Interaktion klar und eindeutig erfolgen und barrierefrei sein (Art. 50 Abs. 5 KI-VO). Ein Chatfenster mit Namen und Avatar einer Person ist gerade nicht offensichtlich. Ein kurzer Hinweis im Chatfenster, etwa „Sie chatten mit unserem KI-Assistenten“, schafft Klarheit.

Anbieter oder Betreiber

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO). Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet (Art. 3 Nr. 4 KI-VO). Nutzen Sie ein fertiges Chat-Widget eines Shopsystem-Anbieters unverändert, sind Sie in der Regel Betreiber, und die Kennzeichnung muss der Hersteller des Widgets liefern. Lassen Sie von einer Agentur auf Basis eines Sprachmodells einen eigenen Assistenten bauen und betreiben ihn unter Ihrer Marke, spricht viel dafür, dass Sie Anbieter dieses Systems sind und die Pflicht Sie selbst trifft. In beiden Fällen sollten Sie prüfen, ob der Hinweis im Shop tatsächlich erscheint.

Verstöße gegen die Transparenzpflichten nach Art. 50 können mit Geldbußen von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden (Art. 99 Abs. 4 lit. g KI-VO). Einen Überblick über alle Transparenzpflichten gibt der Beitrag zu den Transparenzpflichten im AI Act.

Weiterlesen

Was der Bot sagt, sagen Sie

Auskünfte des Chatbots zu Preisen, Produkteigenschaften, Lieferzeiten oder Widerrufsrechten sind Erklärungen Ihres Shops. Falsche Angaben können irreführende geschäftliche Handlungen sein und Abmahnungen auslösen. Begrenzen Sie den Bot deshalb auf geprüfte Wissensquellen wie Produktdaten, AGB und Hilfeseiten. Lassen Sie ihn bei rechtlich heiklen Fragen auf die Rechtstexte verweisen und testen Sie vor dem Start typische Fragen, auch provozierende.

Datenschutz

Chat-Eingaben enthalten Namen, Bestellnummern und oft mehr, als Kunden teilen sollten. Sie brauchen eine Rechtsgrundlage, eine Erläuterung in der Datenschutzerklärung, einen Auftragsverarbeitungsvertrag mit dem KI-Dienstleister und, bei Anbietern außerhalb der EU, eine Grundlage für die Übermittlung. Klären Sie vertraglich, ob der Dienstleister Eingaben für das Training eigener Modelle verwenden darf. Wie Sie KI-Werkzeuge im Unternehmen insgesamt erfassen, zeigt der Beitrag zur KI-Inventur.

Häufige Fragen

Reicht ein Hinweis in der Datenschutzerklärung?

Nein. Die KI-Verordnung verlangt die Information spätestens bei der ersten Interaktion, also im Chat selbst.

Gilt die Pflicht auch für einen Bot, der nur Bestellstatus anzeigt?

Wenn er als KI-System Nutzereingaben verarbeitet und antwortet, ja. Ein reines Menü mit festen Antworten ohne KI fällt nicht unter Art. 50.

Dürfen wir dem Bot einen Namen geben?

Ja, solange klar bleibt, dass es eine KI ist. Ein Name mit Foto einer echten Person ohne Hinweis ist riskant.

Quellen & Rechtsgrundlagen

Im AI Governance Audit prüfe ich die rechtliche Seite der KI-Systeme in Ihrem Shop: Rollen nach der KI-Verordnung, Transparenzpflichten und Verträge mit den Dienstleistern.