KI-Studie: Verbraucher trauen Künstlicher Intelligenz nicht wegen fehlender Empathie

Pegaysystems hat auf der PegaWorld 2019 in Las Vegas eine neue Studie zur Einstellung von Verbrauchern gegenüber künstlicher Intelligenz präsentiert. Hierfür wurden Verbraucher auf der ganzen Welt gefragt, wie wichtig ihnen Moral, Empathie und ethisches Verhalten im Geschäftsleben sind. Wichtigstes Ergebnis: Die Mehrheit der Verbraucher haben kein Vertrauen in KI-Technologien.

Die Verbraucher verstehen nicht, inwieweit sie ihre Interaktionen mit Unternehmen besser und effizienter gestalten können. Das ist das Ergebnis einer aktuellen Umfrage von Pegasystems, einem Anbieter von Softwarelösungen für Vertrieb, Marketing, Service und Operations. Für die vom Forschungsunternehmen Savanta durchgeführte Studie wurden 5.000 Verbraucher weltweit zu ihren Ansichten über KI, Moral, ethisches Verhalten und Empathie befragt.

Obwohl KI genau die maßgeschneiderten, relevanten Ergebnisse liefert, nach denen die Menschen verlangen, sind viele Verbraucher noch nicht von den Vorteilen der Technologie überzeugt. Viele Unternehmen setzen KI ein, um das Kundenerlebnis zu verbessern. Deshalb ist es für Unternehmen wichtig, die Wahrnehmungen, Anliegen und Präferenzen ihrer Kunden zu verstehen und ernst zu nehmen.

Verbraucher haben Vorbehalte gegenüber Unternehmen

Zu den wichtigsten Ergebnisse der Studie zählen unter anderem: Verbraucher urteilen zynisch über die Unternehmen, mit denen sie Geschäfte machen. 68 Prozent der Befragten gaben an, dass Unternehmen verpflichtet seien, das zu tun, was für den Kunden moralisch richtig ist – auch über das hinaus, was gesetzlich vorgeschrieben ist. Dennoch vertrauen 65 Prozent der Befragten nicht darauf, dass Unternehmen ihr Bestes geben und glauben nicht, dass die Unternehmen ihre Technologie nutzen, um vertrauensvoll mit ihnen zu kommunizieren. In einer Welt, die vorgibt, kundenorientiert zu sein, glaubt die Mehrheit der Verbraucher nicht, dass Unternehmen sich tatsächlich um sie kümmern oder genügend Einfühlungsvermögen für ihre individuelle Situation entwickeln.

KI: Kein Vertrauen in Künstliche Intelligenz

40 Prozent der Befragten stimmen zu, dass KI das Potenzial hat, den Kundenservice von Unternehmen zu verbessern. Aber nur 30 Prozent fühlen sich auch wohl mit Unternehmen, die KI nutzen. Nur neun Prozent gaben an, dass sie mit der Idee „sehr zufrieden“ seien. Gleichzeitig macht sich ein Drittel aller Befragten Sorgen, dass Maschinen ihren Arbeitsplatz übernehmen. 27 Prozent führen auch den „Aufstieg der Roboter und dieVersklavung der Menschheit“ als Problem an.

Viele glauben, KI sei nicht in der Lage, unvoreingenommene Entscheidungen zu treffen. Mehr als die Hälfte (53 Prozent) der Befragten gaben an, dass KI möglicherweise die Entscheidungsfindung verzerre. Ebenfalls 53 Prozent waren sogar der Meinung, dass die KI Entscheidungen immer auf Grundlage der Vorurteile der Person treffen wird, die ihr die ersten Anweisungen gegeben hat. Das sei nach Ansicht der Befragten unabhängig davon, wie viel Zeit vergangen sei.

Künstliche Intelligenz: Menschen präferieren die menschliche Note

70 Prozent der Befragten sprechen, wenn es um Kundenservice geht, lieber mit einem Menschen als einem KI-System oder einem Chatbot. 69 Prozent der Befragten stimmen zu, dass sie eher geneigt wären, einem Menschen die Wahrheit zu sagen als einem KI-System. Und wenn es darum geht, Entscheidungen über Leben und Tod zu treffen, sagten überwältigende 86 Prozent der Menschen, dass sie Menschen mehr vertrauen als der KI. Nur zwölf Prozent der Verbraucher stimmen zu, dass KI den Unterschied zwischen Gut und Böse erkennen kann. 56 Prozent der Kunden glauben nicht, dass es möglich sei, Maschinen zu entwickeln, die sich moralisch verhalten. Lediglich zwölf Prozent glauben, dass sie jemals mit einer Maschine interagiert haben, die Empathie gezeigt hat.

Unternehmen können das Vertrauen und die Zufriedenheit ihrer Kunden steigern, indem sie alle ihnen zur Verfügung stehenden Werkzeuge nutzen, um mehr Empathie in ihren Interaktionen zu zeigen. Empathie ist bislang kein allgemeines Unternehmensmerkmal, wenn es darum geht, die Rentabilität zu maximieren. Unternehmen, die ihre Kundenbindung verbessern wollen, müssen darüber nachdenken, wie sie KI-basierte Erkenntnisse mit ethischen Überlegungen verbinden.

KI-Systeme zur Unterstützung von ethischen Entscheidungen

„Unsere Studie hat ergeben, dass nur 25 Prozent der Verbraucher einem KI-System vertrauen würden, das über einen Bankkredit entscheidet, den sie haben wollen“, sagt Dr. Rob Walker, Vice President, Decisioning and Analytics bei Pegasystems. „Die Verbraucher bevorzugen es, mit einem Menschen zu sprechen, weil sie ihm stärker vertrauen und glauben, seine Entscheidung beeinflussen zu können. Wir brauchen KI-Systeme, die fähig sind, Unternehmen bei ethischen Entscheidungen zu unterstützen. Bei der Vergabe eines Bankkredits heißt das: Es ist nicht nur wichtig, alle regulatorischen Prozesse genau zu befolgen. Das Bankinstitut muss sich auch die Frage stellen, ob es ethisch richtig ist, ein Darlehen an einen bestimmten Menschen zu vergeben.“

Ein wichtiger Fortschritt in der Entwicklung der künstlichen Intelligenz werden Richtlinien sein, die ethische Überlegungen über das maschinelle Lernen hinaus stellen. Dadurch sind KI-Systeme in der Lage, Entscheidungen zu treffen, die von den Kunden als einfühlsam empfunden werden. Die KI sollte nicht der einzige Schiedsrichter des Mitgefühls sein. Durch eine Kultur der Empathie kann die KI jedoch als wirksames Instrument genutzt werden, mit dem sich Unternehmen von ihren Mitbewerbern am Markt unterscheiden.

Über die Studie: Pegasystems befragte 5.000 Verbraucher zu ihren Ansichten über künstliche Intelligenz, Moral, ethisches Verhalten und Empathie. Teilgenommen haben Verbraucher aus den Vereinigten Staaten, Großbritannien, Frankreich, Deutschland und Japan. (sg)

Immer öfter wird die Forderung laut, dass Künstliche Intelligenz soziale Kompetenzen braucht.