KI-Agenten bearbeiten jeden zweiten Servicekontakt - Vertrauen hinkt hinterher

Unternehmen schätzen, dass bereits die Hälfte ihrer Kundenservicekontakte von KI-Agenten bearbeitet wird und der Anteil bis 2027 auf 63 Prozent steigen wird, zeigt der Report Inside the Conversational AI Revolution   von Twilio  . Gleichzeitig berichten 80 Prozent der VerbraucherInnen von negativen Erfahrungen mit KI-Systemen im Kundenkontakt, 19 Prozent haben bereits einen eindeutigen Fehler eines KI-Agenten erlebt.

Auch beim Datenschutz besteht Skepsis: 62 Prozent der VerbraucherInnen misstrauen Unternehmen beim Umgang mit ihren personenbezogenen Daten. Für Unternehmen wird damit nicht allein der Automatisierungsgrad zum Erfolgsfaktor, sondern die Frage, bei welchen Aufgaben KundInnen KI akzeptieren und wie transparent der Einsatz erfolgt.

Unternehmen überschätzen ihre Transparenz

76 Prozent der VerbraucherInnen möchten bereits zu Beginn eines Kontakts wissen, ob sie mit einem Menschen oder einer KI kommunizieren. 81 Prozent der befragten Unternehmen geben an, ihre KI-Agenten entsprechend zu kennzeichnen. Allerdings bestätigen nur 22 Prozent der VerbraucherInnen, dass sie diese Transparenz tatsächlich erleben.

Wie schwer Mensch und Maschine inzwischen auseinanderzuhalten sind, zeigt ein weiterer Befund: 75 Prozent der VerbraucherInnen glauben, einen textbasierten KI-Agenten erkennen zu können. In einem Test gelang es jedoch 90 Prozent nicht, zwischen Mensch und KI zu unterscheiden.

Akzeptanz hängt vom Risiko der Aufgabe ab

Bei klar umrissenen Routineaufgaben ist die Bereitschaft zur Automatisierung vergleichsweise hoch. 80 Prozent würden einer KI die Vereinbarung eines Termins oder einer Restaurantreservierung überlassen, 79 Prozent die Bearbeitung einer Rückgabe oder eines Umtauschs und 75 Prozent die Auswahl von Konzertplätzen.

Deutlich geringer ist die Akzeptanz bei sensiblen oder finanziell relevanten Entscheidungen. 60 Prozent möchten keine medizinische Anfrage einer KI anvertrauen, 56 Prozent lehnen automatisierte Käufe oder Zahlungen ab und 54 Prozent wollen keinen Kreditantrag durch einen KI-Agenten einleiten lassen. Für Unternehmen spricht dies dafür, Automatisierung zunächst auf standardisierte Prozesse mit begrenztem Risiko zu konzentrieren und bei komplexeren Anliegen einen schnellen Wechsel zu menschlichen ServicemitarbeiterInnen sicherzustellen.