Anbieter zum Thema

F5 Networks GmbH

FIS Informationssysteme und Consulting GmbH

Arvato Systems GmbH

Descartes Systems (Germany) GmbH

Nachrüsten: Angriffssignale erkennen und Onlineshops sichern

Sicherheits- und Risikoteams müssen bestehende Kontrollen gezielt erweitern und durch neue Maßnahmen ergänzen, um Governance sicherzustellen und agentische Risiken wirksam zu beherrschen. Eine wichtige Fragestellung dabei ist, ob die bestehenden Sicherheitsmechanismen mit dem Model Context Protocol (MCP) kompatibel sind. 

Das MCP von Anthropic sowie das von Google vorgeschlagene Agent2Agent-Protokoll (A2A) strukturieren die Kommunikation zwischen Modellen und Ressourcen beziehungsweise zwischen Agenten. Sie adressieren jedoch nicht die gesamte Bandbreite der Interoperabilitätsanforderungen agentischer KI. Dennoch markieren MCP und A2A wichtige Fortschritte auf dem Weg zu mehr Standardisierung und Interoperabilität.

Wie Sicherheitsteams jetzt handeln können:

• MCP-Readiness sicherstellen: Insbesondere Web Application Firewalls und API-Sicherheitslösungen müssen MCP unterstützen. 
• Bot-Management-Tools: Sie sollte man in die Lage versetzen, ihre Widerstandsfähigkeit aufrechtzuerhalten, da Automatisierungs-Toolkits durch KI verbessert werden und Angreifer in der Lage sind, ihre Angriffe schnell zu instrumentalisieren. Um beispielsweise das Scraping von LLM-Trainingsdaten und Inhalten in RAG-Pipelines (Retrieval Augmented Generation) zu verhindern, müssen Bot-Management-Tools neue Angriffstechniken mithilfe von ML-Modellen aufdecken, die bösartige Muster erkennen. Durch den Einsatz von Verschlüsselung und Verschleierung erschweren Bot-Management-Tools aktiv Umgehungsversuche (Bypass). 
• Schwachstellentests: Diese sollte man für KI-Modelle und -Anwendungen in Verbindung mit Laufzeitinspektionen einsetzen. 

Diese Verbesserungen sichern die Rückverfolgbarkeit und liefern die notwendigen Erkenntnisse für eine wirksame „Human-in-the-Loop“-Überwachung (HITL).

Serie: Human in the Loop

Human in the Loop: Der Weg vom Jobtitel zur KI-Kompetenz

Das Leitbild: Erkennen. Festlegen. Synthetisieren. Speichern.

Das Rezept für agentische Sicherheit besteht aus den folgenden Bausteinen: Die Zeit bis zur Erkennung verkürzen, die Behebung beschleunigen und die Belastung der Sicherheitsteams verringern.

Die Abwehr spezifischer, öffentlich bekannter Angriffe greift zu kurz, da sie die zugrunde liegenden Schwachstellen unberührt lässt und deren erneute Ausnutzung ermöglicht. Ein proaktiver Ansatz, der kontinuierlich grundlegende Schwachstellen identifiziert und testet, bietet einen deutlich besseren Schutz.

Auch die Wahl der KI-Modelle kann das gesamte KI-System gefährden. Daher müssen Modelle sowohl vor der Bereitstellung als auch im laufenden Betrieb gehärtet werden. Automatisierte Sicherheitslösungen wie F5 AI Red Team simulieren gegnerische Angriffe, setzen KI-Systeme gezielten Stresstests aus und helfen, Risiken frühzeitig zu beheben. In Kombination mit Live-Überwachung und Laufzeitschutz erkennen Sicherheitskontrollen anomales Verhalten und Angriffe wie Datenexfiltration kontinuierlich und reagieren automatisch darauf.

Um die Grenzen grundlegender Modellschutzmechanismen zu überwinden, müssen Händler zusätzlich zentralisierte, proaktive KI-Schutzmechanismen (Guardrails) etablieren. Diese sichern Daten, erkennen Risiken und gewährleisten die Einhaltung regulatorischer Vorgaben über das gesamte KI-Ökosystem hinweg. Gleichzeitig ermöglichen sie, Sicherheitsrichtlinien konsistent über alle Modelle und Arbeitsabläufe durchzusetzen und so Skalierbarkeit zu schaffen.

Mit der zunehmenden Verbindlichkeit von Vorschriften wie dem EU-KI-Gesetz und NIST-Frameworks müssen KI-Sicherheitsmaßnahmen zudem jederzeit nachvollziehbar und überprüfbar sein.

Weltweiter Wettbewerb

EU AI Act: Zwischen Regulierung und Rückstand

Fazit: Risiken der agentischen KI beherrschen

Traditionelle Tools reichen nicht aus, um Risiken agentischer KI zu bewältigen, da sie Lücken im Schutz und in der Governance hinterlassen.

Um dem entgegenzuwirken, müssen E-Commerce-Anbieter die Einführung agentischer KI durchgängig absichern – vom Pilotprojekt bis zum produktiven Betrieb. Dazu gehören proaktive Angriffstests, kontinuierliche Laufzeitüberwachung und -durchsetzung sowie eine zentralisierte Beobachtbarkeit und Compliance, um neue regulatorische Anforderungen zu erfüllen.

Indem sie potenzielle Fehlentwicklungen frühzeitig identifizieren, geeignete Schutzmaßnahmen definieren und Reaktionsmuster zur Automatisierung von Incident Responses entwickeln, sparen Einzelhändler Zeit und reduzieren langfristig Kosten.