KI-Verordnung der EU Künstliche Intelligenz im Shop: Smart verkaufen oder doch regulierungspflichtig?

Anbieter zum Thema

KNAPP AG

Arvato Systems GmbH

Descartes Systems (Germany) GmbH

Personalisierte Empfehlungen gehören heute zum E-Commerce dazu. Mit der EU-Verordnung über künstliche Intelligenz stellt sich die Frage: Fallen solche Systeme künftig unter regulierte KI-Systeme?

Produktempfehlungen gehören zum E-Commerce wie der „In den Warenkorb“-Button. Wer etwas kauft, bekommt weitere Artikel vorgeschlagen – möglichst personalisiert, kontextbezogen und konversionsstark. Hinter diesen Empfehlungen stecken zunehmend Systeme mit künstlicher Intelligenz: Sie analysieren Verhalten, vergleichen Ähnlichkeiten zwischen Konsumentengruppen und berechnen, was Kunden mit hoher Wahrscheinlichkeit als Nächstes interessiert.

Bisher wurden solche Systeme meist als clevere Marketing- beziehungsweise Sales-Tools betrachtet. Mit der neuen EU-Verordnung über künstliche Intelligenz (KI-VO) stellt sich nun die Frage: Fallen solche Empfehlungssysteme künftig unter regulierte KI-Systeme – und wenn ja, was ist zu beachten?

Die KI-Risikoklassen

Die KI-VO sieht einen risikobasierten Ansatz vor und unterteilt KI-Systeme in unannehmbare Risiken (verboten), hohes Risiko (strenge Pflichten), begrenztes Risiko (Transparenzanforderungen) und minimales Risiko (grundsätzlich erlaubt). 

Hochrisiko-KI-Systeme – etwa im Bereich der biometrischen Identifikation, des Zugangs zu Bildung oder bei der Kreditvergabe – unterliegen künftig umfassenden Anforderungen wie Risikomanagement, technischer Dokumentation, Transparenz, menschlicher Aufsicht und Qualitätsanforderungen an Trainingsdaten.

Strategische Transformation

2025 zündet die nächste Stufe für Generative Künstliche Intelligenz