KI-Richtlinien Agentenbasierte KI: Governance-Lücken gefährden Verbrauchervertrauen

Anbieter zum Thema

Genesys Cloud Services GmbH

Arvato Systems GmbH

Allgeier Inovar GmbH

Sparck Technologies B. V.

Laut einer neuen Umfrage von Genesys wüschen sich vier von fünf Verbrauchern eine Governance für KI-Interaktionen. Aber nur ein Drittel der Unternehmen verfügt über KI-Richtlinien. Zudem glauben 91 Prozent der Befragten, dass agentenbasierte KI einen effektiveren Kundenservice ermöglicht.

Genesys hat jetzt die Ergebnisse einer aktuellen Umfrage veröffentlicht: Demnach gibt es eine Diskrepanz auf, wie Unternehmen künstliche Intelligenz regeln und den Anforderungen der Verbraucher für eine sichere Nutzung. Während sich vier von fünf Befragten eine klare Governance für KI-Interaktionen wünschen, gibt weniger als ein Drittel der Führungskräfte an, dass ihr Unternehmen über umfassende, unternehmensweite KI-Richtlinien und -Kontrollen verfügt. Agentenbasierte KI, also autonome Systeme, die selbstständig denken, handeln und Entscheidungen treffen können, findet in den Strategien für Kundenerlebnisse von Unternehmen immer mehr Verbreitung.

91 Prozent der befragten Führungskräfte sind überzeugt, dass ihr Unternehmen durch agentenbasierte KI einen effektiveren und personalisierten Service anbieten können wird. Die Daten zeigen jedoch eine komplexe Realität: Während die Begeisterung für den transformativen Wert von Agentic AI groß ist, hinken die Governance-Strukturen hinterher. Dies birgt Risiken für das Verbrauchervertrauen, den Ruf der Marke und die Einhaltung gesetzlicher Vorschriften.

Olivier Jouve, Chief Product Officer bei Genesys, erklärt: „Agentenbasierte KI eröffnet Unternehmen spannende Möglichkeiten, ihre Kunden zu bedienen. Das Vertrauen der Verbraucher zu verdienen, muss jedoch mit diesem Fortschritt Schritt halten. Da diese Systeme immer mehr Verantwortung übernehmen, ist es unerlässlich, dass Unternehmen bei ihrer Nutzung transparent und rechenschaftspflichtig bleiben. Sind die richtigen Leitplanken von Anfang an gesetzt, können Unternehmen dauerhaftes Vertrauen aufbauen, indem sie verantwortungsbewusst Kundenerlebnis-Innovationen treiben für ein neues Maß an Personalisierung und Effektivität.“

Da agentenbasierte KI immer mehr Verantwortung übernimmt, ist es unerlässlich, dass Unternehmen bei ihrer Nutzung transparent und rechenschaftspflichtig bleiben.

Olivier Jouve, Genesys

Agentenbasierte KI: Governance-Lücke untergräbt Vertrauen

Mehr als 90 Prozent der befragten CX-Führungskräfte sind sich einig, dass eine starke Governance entscheidend ist, um den Ruf der Marke zu schützen (91 Prozent), langfristiges Vertrauen und Loyalität bei den Kunden aufzubauen (91 Prozent) und das Wohlbefinden der Verbraucher im Umgang mit autonomen Systemen zu steigern (90 Prozent). Dennoch sind viele Unternehmen noch nicht vorbereitet. Über ein Drittel der CX-Führungskräfte (35 Prozent) geben zu, dass sie über wenig bis gar keine formellen Governance-Richtlinien verfügen. Noch besorgniserregender ist, dass 28 Prozent derjenigen vollkommen ohne Richtlinien dennoch glauben, dass ihr Unternehmen bereit ist für agentenbasierte KI.

Diese Governance-Lücke wird noch problematischer, wenn man sie im Zusammenhang mit den Bedenken der Verbraucher betrachtet. Viele bleiben skeptisch, weil ihnen Transparenz bei der Verwendung ihrer Daten und klare Kontrollen fehlen. Tatsächlich war die Klarheit darüber, wie KI ihre personenbezogenen Daten verwendet, das Hauptanliegen der Befragten.

Risiken für die Kundenbindung durch Halluzinationen der KI

Hinzu kommt, dass 37 Prozent der Verbraucher glauben, KI „halluziniere” oder erfinde Informationen – eine Ansicht, die von 59 Prozent der CX-Führungskräfte geteilt wird. Sie meinen, dass Halluzinationen ernsthafte Risiken für die Kundenbindung, Rechtsstreitigkeiten und den Ruf der Marke darstellen. Diese wahrgenommene Unzuverlässigkeit untergräbt das Vertrauen weiter und zeigt, wie notwendig Vorkehrungen sind, die Genauigkeit und Verantwortlichkeit bei KI-gesteuerten Kundenerfahrungen gewährleisten.

Die Lücke zwischen dem, was Führungskräfte für notwendig halten, und dem, was Unternehmen umgesetzt haben, ist besonders besorgniserregend – vor allem angesichts der klaren Forderung der Verbraucher nach Transparenz und Kontrolle. So ist es für Unternehmen von entscheidender Bedeutung, diese Lücke zu schließen, bevor sie agentenbasierte KI in großem Umfang einsetzen.

Agentenbasierte KI: Das Vertrauen der Verbraucher bleibt fragil

Während 81 Prozent der CX-Führungskräfte agentenbasierter KI sensible Kundendaten anvertrauen, machen dies nur 36 Prozent der Verbraucher. Diese Diskrepanz ist in Situationen mit höheren Risiken noch ausgeprägter, beispielsweise wenn agentenbasierte KI für kritische Kundenfunktionen gentutzt wird: 74 Prozent der Unternehmen geben an, dass sie diese Technologie ohne Bedenken für Rechnungsstellung, Finanztransaktionen und Kontosicherheit einsetzen. Verbraucher sind jedoch viel zurückhaltender: Nur 35 Prozent fühlen sich wohl dabei, wenn agentenbasierte KI Geldtransfers abwickelt, 49 Prozent vertrauen ihr bei der Lösung von Rechnungsproblemen und 50 Prozent bei der Aktualisierung persönlicher Daten.

Die Daten zeigen eine wichtige Chance auf. Mehr als die Hälfte der Verbraucher (58 Prozent) gibt an, dass es für sie egal ist, ob ihr Problem von einem Menschen oder einer KI gelöst wird, solange es schnell und vollständig bearbeitet wird. Dies zeigt, dass Effizienz und Effektivität im Kundenerlebnis Skepsis überwinden können, jedoch nur in Verbindung mit Transparenz und Verantwortlichkeit. Um die Vertrauenslücke zu schließen und verantwortungsbewusst innovativ zu sein, müssen Unternehmen auf verbraucherorientierte Weise skalieren.