Wenn der Kunde tobt. Voicebots als Prügelknaben des Alltags

Beginnen wir am Anfang, das ist immer am besten. Was ist eigentlich ein Prügelknabe? Der Begriff bezeichnete früher eine Person, die stellvertretend für die Fehler oder Verfehlungen anderer bestraft oder verantwortlich gemacht wird, obwohl sie unschuldig ist. Inzwischen kann das auch eine Maschine sein. Was mal wieder zeigt: Alles Denken ist anthropomorph. Wenn das Ding vor mir redet, Aufträge ausführt und sogar einen Namen hat, wird es für mich immer menschlicher. 1-0-1-0-0… Unmöglich für mich, digital zu denken.

Seinen Ursprung hat das Wort „Prügelknabe“ im Feudalismus des 17. und 18. Jahrhunderts. An europäischen Königshöfen wuchsen Jungen aus einfachen Verhältnissen zusammen mit adeligen Thronfolgern auf. Da es oftmals verboten war, den adeligen Nachwuchs körperlich zu züchtigen, bekam stattdessen der bürgerliche Junge die Schläge, wenn sich der Prinz falsch verhalten hatte. Dies sollte dem Prinzen durch die emotionale Bindung zum Spielkameraden ein schlechtes Gewissen machen.

Mit den Menschen und den KI-Maschinen ist es etwas anders: Eine echte emotionale Beziehung, geschweige denn Bindung, ist unmöglich, aber ein realer Mensch ist oft nicht greifbar und darum muß die Maschine herhalten, um Dampf abzulassen. Was zunächst kurios klingt, ist laut Forschung längst ein massenhaftes Phänomen: Menschen beschimpfen ihre digitalen Assistenten – obwohl das, rein logisch betrachtet, überhaupt keinen Sinn ergibt.

Warum wir Maschinen anschreien, die keine Gefühle haben

Der Wirtschaftsinformatiker Alfred Benedikt Brendel von der Indiana University in Bloomington in den USA hat sich genau mit diesem Widerspruch beschäftigt. Seine Beobachtung: Sobald ein Sprachassistent einen Fehler macht, reagieren viele Nutzer mit Wut – und zwar so, als hätten sie es mit einem Menschen zu tun. Gleichzeitig verzichten sie aber auf jede Zurückhaltung, gerade weil sie wissen, dass ihr Gegenüber eben kein Mensch ist. Für Brendel zeigt sich darin etwas Neues: KI-Assistenten lassen sich nicht mehr sauber in die Kategorien "Mensch" und "Maschine" einsortieren. Sie sind irgendwie beides – und werden entsprechend behandelt: mal wie ein Werkzeug, mal wie ein Sündenbock. Laut vorhandenen Daten ist dieses Verhalten weit verbreitet, nicht die Ausnahme.

Vor allem Ältere fühlen sich überfordert

Dass die Wut oft aus Überforderung entsteht, zeigt sich besonders bei älteren Nutzern. Digitale Sprachassistenten sind in Deutschland längst Alltag: Laut einer Studie des Branchenverbands Bitkom nutzen sechs von zehn Deutschen zumindest gelegentlich Systeme wie Siri, Alexa oder Gemini, bei den 16- bis 29-Jährigen sind es fast acht von zehn. Doch während jüngere Generationen mit über 60 Prozent Zustimmung deutlich aufgeschlossener sind, bevorzugen ältere Nutzer häufig weiterhin den direkten Draht zu einem echten Mitarbeiter.

Der Grund liegt oft in der Technik selbst: Schlechte Spracherkennung bei Dialekten, störende Hintergrundgeräusche oder Endlosschleifen, in denen der Bot das eigentliche Anliegen einfach nicht versteht, sorgen für Frustration. Wenn dann auch noch die Weiterleitung an einen Menschen erschwert wird, kippt die Stimmung schnell. Insgesamt ist die Akzeptanz von Voicebots im Kundenservice denn auch gespalten: Rund 40 Prozent der Verbraucher akzeptieren den Einsatz, die Hälfte lehnt ihn ab.

Der Boxsack ohne Konsequenzen

Was Voicebots zum idealen Ziel für aufgestaute Wut macht, ist genau das, was Brendel beschreibt: Es gibt keine sozialen Konsequenzen. Wer eine Maschine anschreit, muss weder mit Gegenwehr noch mit gekränkten Gefühlen rechnen – zumindest in der Theorie.

Prof. Alfred Benedikt Brendel, Kelley School of Business, Indiana University

Die Beschimpfungen reichen dabei von klassischer Frustration über die vermeintliche Unfähigkeit des Systems bis hin zu deftiger Vulgärsprache, die spontan herausrutscht, wenn der Bot mal wieder nicht das Richtige versteht.

Besonders auffällig: Weil viele Sprachassistenten standardmäßig mit weiblicher Stimme sprechen, sind sie überdurchschnittlich häufig von sexistischen Kommentaren und herablassenden Befehlen betroffen. Unternehmen beobachten dieses Verhalten inzwischen systematisch über die sogenannte "Insult Rate", die Beleidigungsquote. Steigt sie an, ist das für Entwickler ein deutliches Warnsignal – meist bedeutet es, dass der Bot fehlerhaft arbeitet oder Kunden in eine Sackgasse treibt.

Wenn Bots zurückpöbeln

Offizielle Kundenservice-Systeme sind in der Regel strikt auf Deeskalation programmiert: Sie bleiben höflich, versuchen das Thema zu wechseln oder beenden das Gespräch bei wiederholten Anfeindungen. Doch es gibt Ausnahmen. Ein bekannt gewordener Fall betraf den Chatbot des Paketdienstes DPD, der nach einem Systemupdate unerwartet unhöflich reagierte und sogar das eigene Unternehmen kritisierte – ein Vorfall, der für Schlagzeilen sorgte. Auch abseits offizieller Kundenservice-Anwendungen gibt es Systeme, die bewusst so gestaltet sind, dass sie auf Anfeindungen sarkastisch oder pampig reagieren, etwa im Entertainment-Bereich oder bei speziell trainierten Chat-Persönlichkeiten.

Ein neues, widersprüchliches Verhalten

Am Ende bleibt ein Paradox: Nutzer behandeln Maschinen wie Menschen, wenn es um Ärger geht, aber wie Objekte, wenn es um Rücksichtnahme geht. Für Brendel ist genau das der Beleg dafür, dass KI-Assistenten unser Verhalten verändern – sie schaffen eine Grauzone zwischen Werkzeug und Gegenüber, in der alte Regeln der Höflichkeit offenbar nicht mehr greifen. Je mehr Sprachassistenten in Unternehmen, Behörden und privaten Haushalten Einzug halten, desto drängender dürfte die Frage werden, wie Entwickler und Nutzer künftig mit dieser neuen Form der digitalen Frustration umgehen.

Da inzwischen sogar schon ein Ministerpräsident und der Chef von Springer dazu aufrufen, KI zu benutzen, will auch ich mich dazu bekennen: Bei der Erstellung dieses Textes haben mir gleich mehrere KI-Systeme geholfen (Claude, Gemini und ChatGPT. Auch zwei der Illustrationen hat ein Bot generiert.). Ich gelobe aber, dass ich keines der Systeme währenddessen auch nur einmal beschimpft habe. Sie wissen ja: Computer vergessen nichts! KHH