KI im Kundenservice: Einsatz im Shop sinnvoll abgrenzen

Ein KI-Assistent im Shop entlastet nur, wenn Sie vorher festlegen, was er entscheiden darf. Die Grenze verläuft nicht zwischen einfachen und schwierigen Fragen, sondern zwischen Antworten mit und ohne Rechtsfolge. Alles Weitere ist Kontrolle: Stichprobe, Kennzahl, Abschaltkriterium.

Worauf es ankommt

Drei Merkmale entscheiden über die Einstufung. Das erste ist die Rechtsfolge: Eine Auskunft über Lieferzeit oder Zahlungsarten ändert nichts an der Rechtslage des Kunden, eine Zusage über Erstattung, Ersatz oder Kündigung ändert sie.

Das zweite Merkmal ist der Datenzugriff: Eine Auskunft über Zahlungsarten kommt ohne Personendaten aus, ein Fall mit Bestellbezug nicht. Für die Verarbeitung im Auftrag brauchen Sie unabhängig von der Datenmenge einen Vertrag nach Art. 28 Abs. 3 DSGVO; die Pflicht trifft Verantwortliche in Deutschland und Österreich und nach Art. 3 Abs. 2 DSGVO auch einen Schweizer Shop, der Personen in der Union Waren oder Dienstleistungen anbietet oder ihr Verhalten dort beobachtet. In der Schweiz gilt für die Auftragsbearbeitung daneben Art. 9 DSG. Die technischen und organisatorischen Maßnahmen richten sich nach Art. 32 Abs. 1 DSGVO: Maßstab sind Stand der Technik, Implementierungskosten sowie Art, Umfang, Umstände und Zwecke der Verarbeitung und das Risiko für die Betroffenen.

Das dritte Merkmal ist die Korrigierbarkeit: Eine falsche Angabe zur Passform kostet eine Retoure, eine falsche Auskunft über eine Frist kann Rechte verschieben. Prüfen Sie jede Anfrageart gegen den teuren Fehler, nicht gegen den Durchschnittsfall.

Welche Anfragen Sie übergeben können

Grün: der Assistent antwortet allein; Gelb: er bereitet vor, ein Mensch gibt frei; Rot: ein Mensch übernimmt. Die letzte Spalte nennt die Bedingung.

Anfrageart	Stufe	Was der Assistent liefert	Bedingung und Grenze
Versandzeit, Bestellstatus, Zahlungsarten, Maß und Material	Grün	Antwort aus hinterlegtem Wissen, Sendungsnummer, Datenblatt	Der Hinweis auf das KI-System muss in Deutschland und Österreich spätestens zur ersten Interaktion sichtbar sein; ihn schuldet der Anbieter (Art. 50 Abs. 1 und 5 KI-VO), außer die Interaktion ist nach Umständen und Nutzungskontext für eine angemessen informierte, aufmerksame und verständige Person offensichtlich. Maße nur aus dem Datenblatt (redaktionelle Empfehlung)
Änderung der Lieferadresse	Gelb	Entwurf mit Bestellbezug	Freigabe durch einen Menschen; Adressdaten sind personenbezogen, Identitätsprüfung und Protokoll gehören dazu
Retoure, Widerruf, Reklamation	Rot	Fall aufnehmen, Fristen und Belege sammeln	Die Entscheidung trifft ein Mensch (redaktionelle Einsatzgrenze); Fristen je Land unter Widerrufsrecht in Deutschland und Reklamationen bearbeiten
Erstattung, Gutschrift, Preisnachlass	Rot	Betrag und Beleg vorbereiten	Eine automatisch erteilte Zusage ist eine Entscheidung nach Art. 22 Abs. 1 DSGVO und nur nach Absatz 2 zulässig, mit den Schutzmaßnahmen des Absatzes 3 — in Deutschland und Österreich und nach Art. 3 Abs. 2 DSGVO auch für einen Schweizer Shop, der die Union beliefert; in der Schweiz daneben Art. 21 DSG (Information, auf Antrag Überprüfung). Rot ist hier redaktionelle Einsatzgrenze
Auskunft, Löschung, Widerspruch	Rot	Fall anlegen, Frist im Ticketsystem hinterlegen	Identität prüfen; die Antwort schreibt ein Mensch
Beschwerde, Anwaltsdrohung, Schadensfall mit Verletzung oder Allergie	Rot	Verlauf zusammenfassen und weiterleiten	Solche Sachverhalte gehören zu einer benannten Person mit Vertretung

Was Sie vorher klären müssen

Der Assistent ist ein KI-System nach Art. 3 Nr. 1 der KI-Verordnung (Verordnung (EU) 2024/1689), Sie sind sein Betreiber (Art. 3 Nr. 4). Den Hinweis, dass der Kunde mit einem KI-System spricht, muss der Anbieter ermöglichen: Art. 50 Abs. 1 verlangt, das System so zu gestalten, dass die Personen informiert werden, außer dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Kontexts offensichtlich; nach Abs. 5 geschieht das spätestens zum Zeitpunkt der ersten Interaktion. In Deutschland und Österreich ist die Verordnung allgemein seit dem 2. August 2026 anzuwenden; Kapitel I mit dem Anwendungsbereich (Art. 2) und den Begriffsbestimmungen (Art. 3) gilt bereits seit dem 2. Februar 2025. In der Schweiz gilt sie nicht als dortiges Recht, erfasst aber nach Art. 2 Abs. 1 Buchst. c einen Shop, dessen Ausgabe in der Union verwendet wird. Sie sind Betreiber nach Art. 3 Nr. 4, weil Sie das System in eigener Verantwortung verwenden. Anbieter nach Art. 3 Nr. 3 ist nur, wer das KI-System entwickelt oder entwickeln lässt und es unter seinem eigenen Namen oder seiner Handelsmarke in Verkehr bringt oder in Betrieb nimmt; wer ein fremdes System unter seinem eigenen Namen nutzt, ohne es entwickelt zu haben oder entwickeln zu lassen, erfüllt diese Definition nicht und wird dadurch nicht Anbieter. Für Hochrisiko-KI-Systeme gilt abweichend Art. 25 Abs. 1 Buchst. a: Ein Händler, Einführer, Betreiber oder sonstiger Dritter gilt als Anbieter, wenn er ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke versieht.

Entscheidungen regelt Art. 22 DSGVO: Ausschließlich automatisierte Entscheidungen mit rechtlicher Wirkung oder erheblicher Beeinträchtigung sind, abgesehen von den Fällen des Absatzes 2, unzulässig; das gilt in Deutschland und Österreich und nach Art. 3 Abs. 2 DSGVO auch für einen Schweizer Shop, der Personen in der Union beliefert oder ihr Verhalten dort beobachtet. In den Fällen des Absatzes 2 Buchst. a und c gehören Eingreifen einer Person, Darlegung des Standpunkts und Anfechtung dazu. Prüft und gibt ein Mensch einen Entwurf inhaltlich frei, beruht die Entscheidung nicht ausschließlich auf automatisierter Verarbeitung; das bloße Versenden eines ungeprüften Entwurfs belegt keine menschliche Entscheidung. Die automatisch versandte Zusage ist eine solche Entscheidung nach Art. 22 Abs. 1 DSGVO. Solche Fälle gehören mit Logik, Tragweite und Wirkung in die Datenschutzerklärung (Art. 13 Abs. 2 Buchst. f DSGVO). In der Schweiz ist die DSGVO kein Landesrecht; dort verbietet Art. 21 DSG die automatisierte Einzelentscheidung nicht: Der Verantwortliche informiert über sie und gibt auf Antrag Gelegenheit, den Standpunkt darzulegen und eine Überprüfung durch eine natürliche Person zu verlangen; Abs. 3 nennt zwei Ausnahmen.

Chatverläufe mit Bestellbezug sind personenbezogene Daten; im Auftrag brauchen Sie einen Vertrag nach Art. 28 Abs. 3 DSGVO (Deutschland und Österreich; nach Art. 3 Abs. 2 DSGVO kann die Pflicht auch einen Schweizer Shop treffen, der die Union beliefert) oder nach Art. 9 DSG (Schweiz). Erkennt der Assistent Emotionen oder Absichten aus biometrischen Daten, etwa aus einer Sprach- oder Bildaufnahme, ist das System ein Emotionserkennungssystem nach Art. 3 Nr. 39 KI-VO; eine Stimmungsanalyse von Text allein erfüllt diesen Begriff nicht. In Deutschland und Österreich löst der Betrieb dann eine Informationspflicht des Betreibers aus (Art. 50 Abs. 3 KI-VO). Solche Systeme gelten nach Art. 6 Abs. 2 und Anhang III Nr. 1 Buchst. c grundsätzlich als hochriskant; nach Art. 6 Abs. 3 gilt das nicht, wenn sie kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte bergen, weil sie das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflussen, und eine der dort genannten Bedingungen erfüllt ist, etwa eine eng gefasste Verfahrensaufgabe; ein Profiling natürlicher Personen macht sie ungeachtet dessen immer hochriskant. Die Pflichten der Kapitel III Abschnitte 1 bis 3, ausgenommen Art. 6 Abs. 5, greifen für nach Anhang III hochriskante Systeme ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c in der Fassung der Verordnung (EU) 2026/1744); ein vorher in Verkehr gebrachtes oder in Betrieb genommenes System erfasst die Verordnung nach Art. 111 Abs. 2 nur, wenn es danach in seiner Konzeption erheblich verändert wurde. Für das Personal gilt Art. 4 in der Fassung der Verordnung (EU) 2026/1744: Anbieter und Betreiber ergreifen Maßnahmen zur Entwicklung der KI-Kompetenz der in ihrem Auftrag befassten Personen; ein bestimmtes Kompetenzniveau muss niemand garantieren.

Ein Rechenbeispiel

Beispielrechnung mit erfundenen Zahlen. Ein Shop erhält 1.200 Anfragen im Monat; 840 sind Auskunftsfragen, 360 rote und gelbe Fälle. Heute kostet eine Auskunft 5 Minuten, ein roter Fall 8 Minuten: 118 Stunden im Monat.

Der Assistent entwirft die Auskunft in 1,5 Minuten, ein Mensch prüft 30 Sekunden: 28 statt 70 Stunden. Die 360 Fälle bleiben bei 48 Stunden. Aus 118 Stunden werden 76, also 42 Stunden weniger; bei 45 Euro Vollkosten je Stunde sind das 1.890 Euro im Monat. Die Zahlen sind Annahmen.

Der Monitoring-Plan

Ohne Messung bleibt offen, ob der Assistent besser antwortet als das Team. Kennzahl, Rhythmus und Schwelle sind redaktionelle Vorschläge.

Kennzahl	Rechnung	Rhythmus	Prüf- oder Abschaltpunkt
Lösungsquote ohne Übergabe	gelöste Fälle ohne Übergabe ÷ alle Fälle × 100	wöchentlich	unter 60 Prozent: Wissensbasis nachbessern
Fehlerquote in der Stichprobe	beanstandete Antworten ÷ geprüfte Antworten × 100	wöchentlich, 20 Antworten je Kanal	über 2 Prozent bei einer Anfrageart: diese auf Rot stellen
Falschaussage mit Rechtsbezug	Anzahl je Monat	monatlich	jeder Einzelfall: auf Rot stellen und die Antwort nachfassen
Sichtbarkeit des KI-Hinweises	Vorgänge mit sichtbarem Hinweis ÷ geprüfte Vorgänge × 100	monatlich	unter 100 Prozent: Funktion nicht freigeben

Der Plan braucht einen Namen, ein Protokoll und eine Stoppregel: Eine Person zieht die Stichprobe, eine zweite liest dieselben Antworten; jede geprüfte Antwort wird zwei Wochen aufbewahrt.

Typische Fehler

• Der Assistent bekommt Zusagen: Erstattung, Ersatz oder Preisnachlass bestätigt er selbst.
• Der Hinweis auf das KI-System fehlt oder steht drei Klicks tief; Kunden erkennen den Assistenten dann erst an der Antwort.
• Die Ausgangslage wurde nicht gemessen; ohne die Zahlen von vorher wird die Entscheidung zum Gefühl.
• Der Wissensstand veraltet: Die Vorlage nennt Versandzeiten einer beendeten Aktion.
• Niemand ist für die Grenze zuständig. Es muss feststehen, wer eine Anfrageart auf Rot stellt, bevor der erste Beschwerdefall eintrifft.

So gehen Sie vor

1. Zählen Sie acht Wochen lang Anfragen nach Kanal und Anfrageart, mit Menge und Bearbeitungszeit.
2. Ordnen Sie jede Art Grün, Gelb oder Rot zu und notieren Sie die Bedingung. Zur Bewertung des Systems davor siehe KI-Funktionen im Shopsystem bewerten.
3. Klären Sie drei Papiere: die Bestätigung des Anbieters zum Hinweis nach Art. 50 Abs. 1, den Vertrag nach Auftragsverarbeitung mit Dienstleistern und den Abschnitt in der Datenschutzerklärung.
4. Messen Sie zwei bis vier Wochen ohne Assistent und danach mit ihm; legen Sie Zielwert und Stopppunkt fest.
5. Halten Sie die Statusmeldungen an den Kunden aus dem Assistenten heraus; der Ablauf steht unter Bestellstatus und Kundenmitteilungen.