Künstliche Intelligenz GenAI-Tools: Angst vor Schatten-KI und Regularien verzögern Einführung

Anbieter zum Thema

KPS AG

Klinkhammer Intralogistics GmbH

Arvato Systems GmbH

Sparck Technologies B. V.

Wie eine neue Studie von Lünendonk zeigt, sehen sich nur drei Prozent der Unternehmen im DACH-Raum als fortgeschritten bei der Einführung von GenAI-Tools. Trotz hohem Potenzial und zahlreichen Anwendungsfeldern ist die Skepsis gegenüber der neuen Technologie bei Anwendern wie Entscheidern hoch. Auch Bedenken hinsichtlich Schatten-KI hemmen die Einführung.

Jedes zweite Unternehmen erwartet durch GenAI-Tools Hilfe bei der digitalen Transformation, zeigt die neue Studie „Generative AI – Von der Innovation bis zur Marktreife“ von Lünendonk. Für Handelsunternehmen sind vor allem Anwendungen im Umfeld von E-Commerce und Marketing relevant. Das IT-Beratungshaus KPS sieht in einem aktiven Change-Management und der strukturierten Einführung den Schlüssel, um Potenziale von GenAI-Tools zu heben. 46 Prozent der befragten CIOs stufen generative KI als relevant ein. Das größte Potenzial sehen die Befragten im konzeptuellen Arbeiten (85 Prozent), der Datenanalyse und Prognosen (80 Prozent), in digitalen Services (71 Prozent) sowie Chatbots (68 Prozent). 

Die Anwendungsfälle sind jedoch häufig noch Zukunftsmusik. Die Hälfte der befragten Unternehmen steht noch am Anfang bei der Identifizierung von Use Cases. „Unternehmen, die aktiv mit KI arbeiten, werden Unternehmen abhängen, die keine KI einsetzen. Gleichzeitig gehen mit der Implementierung viele Herausforderungen einher, von einer Schatten-KI bis hin zu Compliance-Fragen. Dieses Spannungsfeld von Risiken und Regularien gilt es abzubauen“, erklärt Paul Anderie, Head of AI & Data Activation bei der KPS AG.

Risiko einer Schatten-KI: Unstrukturierte Einführung von GenAI-Tools

Die Einführung von GenAI-Tools erfolgt selten zentral gesteuert durch die Geschäftsleitung (28 Prozent) oder einem CIO und der IT (19 Prozent). 15 Prozent der Befragten sehen die Verantwortung in den einzelnen Fachbereichen. In nur sieben Prozent liegt die Verantwortung bei einem dedizierten Chief Data oder Chief Digital Officer. Bei einem Drittel der befragten Unternehmen fällt diese Aufgabe einzelnen Mitarbeitenden zu.  

„In der DACH-Region wird generative KI weniger strategisch gedacht als vielmehr einfach gemacht. Das ermächtigt die Fachabteilungen, öffnet aber auch komplexe Fragestellungen hinsichtlich der Zugriffsrechte“, so Paul Anderie. Auch bei internen Regularien zeigt die Studie deutliche Unterschiede auf: 35 Prozent der Unternehmen gestatten nur ausgewählten Bereichen und Funktionen Zugriff auf GenAI-Tools, während in einem Drittel der Unternehmen jeder Mitarbeitende uneingeschränkten Zugriff hat.

„Gerade die Kombination aus uneingeschränktem Zugriff für alle Mitarbeitenden und dem Fehlen einer strategischen, top-down-getriebenen Implementierung mit festgelegten Regeln und Schulungen für die Mitarbeitenden kann zu einer Schatten-KI führen. Das birgt Risiken wie Anwendungsfehler und falsche Ergebnisse, aber auch Verstöße gegen Compliance-Richtlinien oder die Data-Governance. Gleichzeitig sollte der Innovationsgeist von engagierten Mitarbeitenden nicht erstickt werden“, ist Paul Anderie überzeugt.

GenAI-Tools: Fehlendes Vertrauen als Hemmschwelle

Tatsächlich zeigt die Studie diese Aspekte als größte Bedenken in Hinblick auf GenAI auf: In 59 Prozent der Unternehmen haben die Mitarbeitenden geringes oder sehr geringes Vertrauen in die durch GenAI-Tools erzeugten Ergebnisse, nur 7 Prozent vertrauen voll und ganz darauf. Gleichzeitig beobachtet über die Hälfte der Befragten derzeit nur geringe Produktivitätssteigerungen durch die Technologie. Anwendern ist der Nutzen der Technologie häufig noch nicht klar. 

Das Führungspersonal (CIO, IT-Leiter, Vorstände, Geschäftsleitung, Fachbereichsleiter) hat vor allem rechtliche Bedenken über die Konsequenzen falscher KI-generierter Ergebnisse (71 Prozent) und fürchtet Haftungsrisiken gegenüber Entscheidungen durch die KI (70 Prozent). Auch unzureichende Data Governance (54 Prozent) und eigene Compliance-Vorgaben (43 Prozent) beschäftigen Führungspersonen. In 13 Prozent der befragten Unternehmen ist der Einsatz von generativer KI nicht zugelassen – der überwiegende Hauptgrund dafür ist mit 58 Prozent Compliance und Regulatorik.

Paul Anderie berichtet: „Viele unserer Kunden berichten von fehlendem Wissen darüber, welche regulatorischen Bestimmungen gelten oder wie mit Datenschutzfragen umgegangen wird. Gesetze wie der EU AI Data Act bieten die Chance, klare Regeln für den Einsatz von KI-Technologien in der EU aufzustellen und Sicherheit und Vertrauen für Unternehmen zu schaffen. Auch im Unternehmen sind Richtlinien wichtig, um das Vertrauen der Mitarbeitenden in die Ergebnisqualität zu stärken und Probleme wie Data-Governance-Verletzungen zu vermeiden. Hier stehen wir in manchen Branchen jedoch noch am Anfang. Ganze 40 Prozent der befragten Handelsunternehmen kennen zum Beispiel den EU AI Data Act nicht, nur 8 Prozent arbeiten an der Umsetzung.“ 

GenAI-Tools im Handel: Der Mensch im Mittelpunkt

Dabei bietet vor allem die Branche Handel viele Anwendungsfelder für GenAI. Zu den Top drei Anforderungen zählen eine bessere Kundenzentrierung, mehr Agilität und Flexibilität und die Beschleunigung der Transformation. „Besonders beliebte Use Cases für Handelsunternehmen finden sich im E-Commerce und im Marketing. Beispiele sind personalisierte, KI-gestützte Produktempfehlungen, automatisch generierter Content oder Predictive Pricing. Die Branche steht GenAI aktuell jedoch noch skeptisch gegenüber, nur ein Bruchteil traut sich an die Entwicklung eigener trainierter Modelle heran“, sagt Paul Anderie. 

Ein gutes Drittel (36 Prozent) der befragten Unternehmen im Handel sieht eine gewisse Relevanz von GenAI-Tools für ihre Branche, die Restlichen schätzen die Relevanz als niedrig oder sehr niedrig ein. Zudem lässt ein im Branchenvergleich hoher Anteil von 24 Prozent aller Handelsunternehmen die Nutzung von GenAI bisher gar nicht zu. Ein Grund dafür ist das zu erwartende hohe Investment in GenAI-Projekte, deren Return on Investment aktuell noch nicht klar ist. Zudem sehen 24 Prozent die Technologie als Gefahr für das eigene Geschäftsmodell. 

Mehrwert schaffen durch klar definierte Startprojekte

Mit klar definierten Startprojekten und Proofs of Concepts (PoC) können Unternehmen einen Mehrwert schaffen und Erfahrungswerte sammeln, weiß zum Beispiel die Baumarktkette Globus, ein Kunde der KPS AG. Christian Becker, Fachbereichsleiter Solution Architecture, Koordination bei der Globus Holding GmbH & Co. KG, erläutert: „KI ist allgegenwärtig und jeder hat bereits erste Berührungspunkte, aber der Nutzen lässt sich noch nicht genau quantifizieren, weshalb viele – nicht zuletzt aufgrund der Investitionen, die mit der Einführung von KI verbunden sind – doch noch skeptisch sind. Wir sind bewusst mit einem PoC rund um GenAI gestartet, um die Thematik griffiger zu machen, die Mehrwerte herauszuarbeiten und die ersten Schritte zu initiieren, bevor wir es in die Fachabteilungen tragen.“

„Der Einsatz von neuen Technologien führt immer dazu, dass Mitarbeiter sich – bewusst oder unbewusst – fragen, welchen Einfluss das auf sie und ihren Arbeitsplatz haben wird und somit immer eine gewisse Skepsis gegenüber den Neuerungen mitschwingt“, ergänzt Bert Middendorb, Director E-Commerce bei der Galeria Karstadt Kaufhof GmbH.

„Die wichtigsten Erfolgsfaktoren für die erfolgreiche Implementierung sind ein strukturiertes Vorgehen und gutes Change-Management: Man muss die Menschen mitnehmen, die aktuell für die Prozesse zuständig sind. Am Ende geht es meist weniger um die Technologie, sondern viel mehr um den Menschen dahinter. Mit unserer langjährigen Erfahrung in IT-Change-Management-Prozessen unterstützen wir Unternehmen auf ihrer GenAI-Reise. Dabei geht es zum Beispiel darum, auf allen Ebenen Bedenken ernst zu nehmen und Skepsis abzubauen: Für Mitarbeitende ist es wichtig zu verstehen, dass GenAI-Tools sie unterstützen, nicht ersetzen wird. Entscheider müssen den konkreten Wert erkennen, den die Technologie für ihre Branche und ihr Business bedeutet“, so Paul Anderie.

LogiMAT 2024

KPS präsentiert SAP-Lösungen für eine zukunftsfähige Lieferkette

Zur Methodik der Studie 

Die Studie „Generative AI – von der Innovation bis zur Marktreife“ entstand in Kooperation von Lünendonk mit GFT, KPS, Protiviti, Randstad Digital, Reply und Senacor. Für die Studie wurden 150 IT- und Business-Führungskräften aus Unternehmen und Behörden im deutschsprachigen Raum befragt. Diese stammen aus dem produzierenden Gewerbe, dem Handel, dem Energiesektor, dem Healthcare-Bereich und der Automobilindustrie sowie den regulierten Branchen Banken, Versicherungen und dem öffentlichen Sektor. Bei der Auswahl der Befragten wurde auf ein ausgewogenes Verhältnis von Führungskräften aus dem Business und der IT geachtet.