Mobile-Menu

KI-Verordnung der EU

Künstliche Intelligenz im Shop: Smart verkaufen oder doch regulierungspflichtig?

< zurück

Seite: 2/2

Anbieter zum Thema

KNAPP AG
Arvato Systems GmbH
Descartes Systems (Germany) GmbH

Analysen mit künstlicher Intelligenz

Für Anbieter im E-Commerce wird es dann relevant, wenn Empfehlungssysteme über reine statistische Vorschläge („andere kauften auch“) hinausgehen – etwa durch verhaltensbasierte Profilbildung, individualisierte Preisgestaltung oder die automatisierte Segmentierung von Kunden.

Ein Beispiel: Wenn ein System bestimmte Kunden systematisch von Angeboten ausschließt oder Rabatte gezielt nur bestimmten Profilen anzeigt. Hier stellt sich die Frage, ob es durch eine gezielte Verhaltenslenkung personenbezogene Risiken erzeugt, die eine vertiefte Bewertung nach dem risikobasierten Ansatz der Verordnung erfordern. Zwar sind E-Commerce-Empfehlungssysteme nicht explizit in Anhang III als Hochrisikobereich genannt – eine solche Einstufung könnte aber im Einzelfall dann denkbar sein, wenn das System erheblich in Rechte oder Pflichten von Personen eingreift.

Derzeit dürften solche Empfehlungssysteme im  E-Commerce in der Regel nicht als Hochrisiko-KI-Systeme eingestuft werden. Dennoch: Der Anwendungsbereich der Verordnung ist weit, und wenn Unternehmen ein System selbst entwickeln oder umfangreich anpassen und einsetzen, können sie schneller betroffen sein als gedacht. Auch der bloße Einsatz eines KI-basierten Tools eines Drittanbieters entbindet nicht von der Pflicht zur eigenständigen Risikobewertung.

Was ist zu tun?

 Zunächst: Transparenz schaffen. Welche KI-Systeme werden im Shop eingesetzt? Welche Daten fließen ein, und zu welchem Zweck? Die Verordnung sieht für bestimmte Systeme Transparenzpflichten gegenüber den Kunden vor – etwa dann, wenn sie mit einem KI-System interagieren oder wenn Inhalte KI-generiert sind.

Zweitens: Risiken bewerten und dokumentieren – nicht jedes KI-gestützte System ist per se reguliert, aber es braucht einen begründeten Blick auf den Anwendungsbereich der Verordnung. Drittens: Zukunftsplanung. Die meisten Verpflichtungen greifen spätestens 24 Monate nach Inkrafttreten, Unternehmen haben also einen klaren, aber begrenzten Vorbereitungszeitraum. 

Was heute noch als „smarte Produktempfehlung“ gilt, kann morgen ein reguliertes KI-System im Sinne der KI-VO sein. Gut beraten ist, wer sich rechtzeitig fragt: Empfiehlt da noch ein hilfreiches Tool – oder handelt es sich schon um ein System mit rechtlichen Pflichten?

Künstliche Intelligenz – E-Commerce – PersonalisierungMelanie Ludolph
ist Rechtsanwältin bei der europäischen Wirtschaftskanzlei Fieldfisher. Seit fast zehn Jahren berät sie Unternehmen und internationale Konzerne aus verschiedenen Branchen zu allen Aspekten des Datenschutzrechts sowie angrenzenden Rechtsgebieten.

Bildquelle: Fieldfisher

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte