Die kontaktlose Gesellschaft #
Chatbots, virtuelle Assistenten & Co – die digitale Welt wird von immer mehr Automaten bevölkert. #
Von der Wiener Zeitung (22. Oktober 2022) freundlicherweise zur Verfügung gestellt
Von
Adrian Lobe
Neulich, in der Hotline eines großen Telekommunikationskonzerns. Der Router spinnt, das Internet funktioniert nicht. Also Griff zum Hörer und Anruf beim Anbieter. Es meldet sich eine blecherne Computerstimme.
"Hallo und herzlich willkommen. Ich habe zu Ihrer Rufnummer ein Kabelprodukt erkannt. Geht es um Ihren Kabelvertrag?" - "Nein." - "Ich habe leider nichts gehört. Sagen Sie bitte ‚Ja‘, wenn es um Ihren Kabelvertrag geht." - Schweigen. "Durchs Eingeben Ihrer Nummer können Sie den Anruf schneller durchstellen. Sie können auch ‚neue Produkte‘ sagen, wenn Sie etwas bestellen wollen." - "Ich möchte nichts bestellen. Störung." - "Das hat leider wieder nicht geklappt. Ihr Anruf wird beendet."
Silizium statt Eiweiß #
Nächster Versuch. Nachdem man eine Schneise durch den Fragedschungel geschlagen und sich durch die Entscheidungsbäume, die wohl nur ein Mensch ohne Verstand programmiert haben kann, vorgerobbt hat, landet man endlich in der Warteschleife. Sekunden vergehen, Minuten. Man kann die Melodie im Hintergrund schon mitsummen. Dann endlich, nach geschlagenen 20 Minuten Wartezeit, hat man endlich einen Menschen an der Strippe. Aber der klingt auch wie ein Bot. Und würde wahrscheinlich nicht mal den Turing-Test bestehen.
Jeder kann wohl über eigene Erfahrungen mit Telefonhotlines berichten; die Geschichten über unfreundliche Mitarbeiter, die einfach auflegen, oder genervte Kunden, die in den Hörer brüllen, wären buchfüllend. Callcenter sind der Maschinenraum der Dienstleistungsgesellschaft. Auf den Philippinen arbeiten 1,7 Millionen Telefonisten. Sie springen ein, wenn ein Amerikaner Probleme beim Aufbau eines Küchenregals hat oder mit seinem Handy-Vertrag nicht mehr weiterweiß. 24 Stunden am Tag, sieben Tage die Woche.
Filipinos sprechen fließend Englisch mit einem neutralen Akzent, das mögen amerikanische Kunden. Und deshalb haben US-Firmen ihre Callcenter reihenweise von In-dien auf die Philippinen verlegt. Und für die, die für amerikanische oder britische Ohren noch immer mit einem zu starken Akzent sprechen, hat ein Start-up aus dem Silicon Valley eine Stimmveränderungssoftware entwickelt, die einen Inder oder Filipino so klingen lässt wie einen Mann aus Brooklyn. Willkommen im globalen elektronischen Dorf.
Es wird nicht mehr lange dauern, dann werden die verbliebenen Callcenter-Mitarbeiter gänzlich von Computern ersetzt. Nichts ist leichter, als einen Job zu automatisieren, in dem Menschen nach einem vorgegebenen Skript arbeiten. Google hat vor ein paar Jahren eine KI entwickelt, die autonom Telefongespräche durchführt und sogar Verlegenheitslaute wie "ähm" oder "hm" einstreut. In Zukunft werden wir noch mehr mit silizium- statt eiweißbasierten Antwortautomaten konfrontiert sein, weil allerorts das Personal fehlt.
Es ist schon seltsam: Wir sind immer mehr Menschen auf der Welt, doch der Mensch programmiert sich selbst aus dem System. Das Erste, was auf der Webseite einer Versicherung oder Bank aufploppt, ist einer dieser Chatbots, die auf so seriöse Namen wie "Alfred" hören und Kundenfreundlichkeit vortäuschen, in Wahrheit aber eine einzige Kundenabwimmelungsmaschine sind. Bis man einen Menschen hört (geschweige denn zu Gesicht bekommt), braucht es Geduld und Hartnäckigkeit. Wer als Student Fragen zum Curriculum hat, wendet sich besser nicht an das unter- oder gar nicht besetzte Studentensekretariat, sondern fragt am besten einen Chatbot.
Im Internet wimmelt es von Meinungsrobotern und Schreibautomaten, die pausenlos kommentieren und liken. Autoritäre Regime wie Russland oder China haben ganze Bot-Armeen aufgebaut, die soziale Netzwerke mit Propaganda indoktrinieren.
Schöne neue Welt #
Fast zwei Drittel des Internet-Traffics sind mittlerweile automatisiert. Ob am anderen Ende der Leitung ein Roboter oder Mensch, der wie ein solcher operiert, sitzt, weiß niemand. Es gibt mittlerweile sogar virtuelle Influencer: Avatare, die vor einem Millionenpublikum auf Social Media ein fiktives Jetset-Leben führen. Und als wäre diese schöne neue Welt nicht schon künstlich genug, unterhalten sich Menschen mit künstlich intelligenten Wesen wie Siri und Alexa,, virtuellen Assistenten, die die Illusion großbürgerlicher Verhältnisse erzeugen, aber nichts weiter sind als tumbe Handelsvertreter eines Großkonzerns.
Wer einmal erlebt hat, wie Menschen verzweifelt in ihr Smartphonebrüllen, weil sie von der KI weder akustisch noch inhaltlich verstanden werden, der wird die Vergeblichkeit der Kommunikation noch viel tragischer empfinden als das Schweigen zweier Menschen, die sich beim Essen gegenübersitzen und nur auf ihr Handy starren.
Der Siegeszug der Spracherkennung hat die menschliche Kommunikation mehr verändert, als es eine Programmiersprache je getan hat - nicht nur, weil die virtuellen Assistenten im Gegensatz zu den Domestiken des 18. und 19. Jahrhunderts viel indiskreter sind und private Gespräche herausposaunen, sondern auch, weil die Nutzer zunehmend im Befehlston reden. Alexa, mach Licht! Alexa, spiel Musik! Alexa, lass die Rollläden runter!
Foto: Hedwig Storch. Aus: Wikicommons, unter CC BY-SA 4.0
In einigen US-Haushalten kam es zu kuriosen Verwechslungsfällen, weil auch menschliche Familienmitglieder auf den Namen Alexa hören und eine Künstliche Intelligenz (noch) nicht die Fähigkeit besitzt, wegzuhören. Der Umstand, dass sich Alexa immer angesprochen fühlt, führt dazu, dass der weibliche Vorname immer weniger an Neugeborene vergeben wird und junge Mädchen sogar umbenannt werden, weil sie in der Schule Mobbing erfahren. Wie ein Roboter will niemand heißen. Und schon gar nicht herumkommandiert werden.
Unter Algorithmen #
Diese virtuellen Assistenten sind nicht deshalb verstörend, weil sie besonders menschlich wirkten, sondern weil sie auf verblüffende Weise die Formelhaftigkeit menschlicher Konversationen kopieren. Fragt er oder sie das, antworte ich das. So wie Flugbegleiterinnen gefühlt hundertmal am Tag die Frage "chicken or pasta?" stellen, so repetitiv und automatenhaft ist ja auch die Arbeitsweise eines Beamten, der jeden Tag dieselbe Vorschrift auf denselben Sachverhalt anwendet. Das könnte genauso gut eine Software machen.
Schon der Soziologe Max Weber notierte in seinen Überlegungen zu bürokratischen Herrschaftsformen, dass der Richter ein "Paragraphen-Automat" sei, "in welchen man oben die Akten nebst den Kosten und Gebühren hineinwirft, auf dass er unten das Urteil nebst den mehr oder minder stichhaltigen Gründen ausspeie". Auch wenn immer wieder der Vorwurf einer "mechanischen" Rechtswendung im Raum steht, ist man doch froh, wenn man vor Gericht einen Menschen und keine "Urteilsmaschine" vor sich hat - gerade weil nur der Mensch den Menschen als fehlerhaftes Wesen verstehen kann.
Der Uber-Fahrer kann sich schon gar nicht mehr an seinen direkten Vorgesetzten wenden, weil das ein Algorithmus ist, und wie der funktioniert, wissen wohl selbst die obersten Bosse nicht. In Großbritannien kam es im Jahr 2020 zu Schülerprotesten, weil ein Algorithmus die Maturanoten herunterkorrigiert hat. Da wegen der Corona-Pandemie keine Klausuren geschrieben werden konnten, hatte sich die Regierung dazu entschieden, die fehlenden Leistungsnachweise durch eine computerisierte Benotung zu ersetzen. Was als Maßnahme zu mehr Objektivität gedacht war, entpuppte sich als Fiasko. Der damalige Premierminister Boris Johnson sprach von einem "Mutanten-Algorithmus".
Klar, die Entscheidungsprozesse eines Richters oder Lehrers sind zuweilen auch eine Black Box. Man kann niemandem in den Kopf schauen. Doch da ist immer noch ein Mensch, der seine Beweggründe erklären kann. Bei einem Algorithmus gibt es nur Zahlenreihen. Die Charta der Digitalen Grundrechte der Europäischen Union, eine Initiative von Politikern, Wissenschaftern und Aktivisten, postuliert daher ein Recht auf menschliche Entscheidungen. In Artikel 5 heißt es: "Wer einer automatisierten Entscheidung von erheblicher Bedeutung für seine Lebensführung unterworfen ist, hat Anspruch auf unabhängige Überprüfung und Entscheidung durch Menschen." Möglicherweise müssten die Menschenrechte im Automatopozän um ein Recht auf den Menschen erweitert werden.
Die Rechtswirklichkeit sieht freilich anders aus. Algorithmen entscheiden, ob man einen Studienplatz, Job oder Kredit bei der Bank bekommt. Der Schaltermitarbeiter wurde längst durch den Bankautomaten ersetzt, und die meisten Filialen, sofern sie nicht ohnehin schon geschlossen sind, bestehen nur noch aus seelenlosen Kästen.
Self Service #
Auch die Pizza gibt es mittlerweile aus dem Automaten, in entlegenen Regionen Frankreichs spuckt der Bäckerautomat Baguette aus, und wo es in Restaurants an Personal fehlt, da serviert der Roboter wortlos das Schnitzel. Mahlzeit. Da mögen noch so servile und "soziale" Roboter existieren, die "emotionales" Feedback geben - menschlicher macht es den Restaurantbesuch nicht.
Der Mensch geht sich aus dem Weg, weil er immer mehr Maschinen in soziale Interaktionen zwischenschaltet. Das Zugticket lässt der Reisende am Fahrkartenschalter heraus, am Flughafen gibt der Fluggast seinen Koffer am Gepäckautomaten (neudeutsch: Self-Service Bag Drop) auf, und im Supermarkt scannt der Kunde an den Selbstbedienungskassen die Ware selbst. Der Plausch mit der Kassiererin oder dem Schaffner, kurz: das Menschliche geht in dieser auf Effizienz getrimmten Wirtschaft verloren - das "parler de la pluie et du beau temps", wie man in Frankreich den sozialen Schmierstoff des Smalltalks nennt, ist in der turbokapitalistischen Logik Zeitverschwendung. Die "kontaktlose" Lieferung, die Kunden bei Paketbestellungen angeben können, ist auch eine sehr höfliche Umschreibung dafür, dass kein Kontakt erwünscht ist.
Dreieinhalb Jahre Pandemie haben die Menschen in social distancing trainiert. Anfangs als Experiment gedacht, ist aus der Distanziertheit mittlerweile Normalität geworden: Die Menschen halten Abstand, wenn nicht physisch, dann psychisch, bunkern sich ein und begegnen sich immer häufiger aus der sicheren Distanz von Bildschirmen. Die kontaktlose Gesellschaft ist keim-, aber auch empathiefrei.
Foto: Wei-Te Wong from Kaohsiung, Taiwan. Aus: Wikicommons, unter CC BY-SA 2.0
Der Gipfel dieser Entwicklung zeigt sich in Kanada. Dort hat eine Schnellrestaurantkette ihre Verkäufer durch "virtuelle Kassierer" ersetzt. Kunden, die an der Kassa eine Bestellung aufgeben, sehen sich mit einem kleinen Bildschirm konfrontiert, auf den sich Mitarbeiter eines Callcenters im 4.000 Kilometer entfernten Nicaragua schalten. Remote Work der besonderen Art. Es erinnert ein wenig an Edward Snowden, der in Gestalt eines Telepräsenzroboters, den er aus seinem Moskauer Exil aus steuerte, an US-Hochschulen Vorträge hielt. Wobei die Telearbeiter aus Nicaragua von den üppigen Vortragshonoraren nur träumen können: ihr Stundenlohn reicht nicht mal für einen Burrito. Und sie haben auch alle denselben Namen: Percy. Namen- und identitätslose Menschen, austauschbar wie ein Scanner.
Simulation von Nähe #
Es geht hier nicht nur um das Outsourcing von Jobs, sondern auch um die Simulation von Nähe, um die Vergeblichkeit von Berührungen in einer Welt voll Touchscreen-Bildschirmen, um die Pathologie einer Gesellschaft, in der sich Menschen nur noch daten, wenn Black-Box-Algorithmen ein "match" von Präferenzen errechnet haben.
In Japan hat ein Mann vor ein paar Jahren eine Manga-Figur geheiratet: Hatsune Miku. Die virtuelle Sängerin, die schon mit Lady Gaga auf der Bühne stand, wird als dreidimensionales Hologramm in einen Glaszylinder projiziert. Die 1.300 Dollar teure "Gatebox" ist so programmiert, dass sie mit Hilfe von Sensoren die Anwesenheit des Ehemanns erkennt. Wenn der Mann von der Arbeit nach Hause kommt, schaltet das Cyberwesen das Licht ein, morgens weckt sie ihn. Wobei auch zwischen Mensch und Maschine Beziehungsprobleme entstehen können. So konnte der Mann zeitweise nicht mehr mit seiner Hologramm-Ehefrau sprechen, weil der Support für das Gerät ausgelaufen war. Auch Maschinenliebe braucht ein Update.
Man kann das für ein Kuriosum aus Fernost halten, doch diese Fiktosexualität, wie das sexuelle oder romantische Begehren zu fiktiven Charakteren genannt wird, sagt viel aus über eine Gesellschaft, die immer mehr vereinzelt und vereinsamt und deren Mitglieder sich von ihren Mitmenschen entwöhnen. In Japan gab es schon vor Corona das Phänomen der Hikikomori, eine Sozialphobie, unter der vor allem junge Männer leiden: Sie tauchen in virtuelle Welten von Computerspielen ab und verlassen ihre Wohnung höchstens nachts, wenn kaum jemand unterwegs ist. Soziale Isolation am Limit.
Der Autor Michel Houellebecq, einer der scharfsinnigsten Chronisten unserer Zeit, hat in seinem Roman "Ausweitung der Kampfzone" (1994) vom "Gefühl einer universellen Leere" geschrieben: "Ihre Steuererklärung ist in Ordnung. Die Rechnungen werden pünktlich bezahlt. Sie gehen nie ohne Personalausweis aus dem Haus (nicht zu vergessen: das kleine Etui für die Scheckkarte ...). Trotzdem haben sie keine Freunde."
Digital-Detox-Camps #
Einsamkeit ist das zentrale Sujet in Houellebecqs Werken; die Protagonisten versuchen, die quälende Sinnleere mit Psychopharmaka und Sexorgien zu unterdrücken, scheitern aber am Ende auf ganzer Linie - mit sich, ihrem Leben und der Welt. Dieses "Gefühl einer universellen Leere" beschleicht einen auch, wenn man an den geschichts- und gesichtslosen Nichtorten von Flughäfen durch die "automatisierten Grenzkontrollen" schreitet, wo man von Gesichtserkennungssystemen gescreent und gemustert wird, als sei man bloß ein weiteres Gepäckstück. Und während man zwischen sterilen Getränke- und Pizzaautomaten die Zeit bis zum Flug totschlägt, fragt man sich: Wo sind die ganzen Menschen hin?
Foto: Jedesto. Aus: Wikicommons, unter CC BY-SA 4.0
Die Journalistin Nellie Bowles hat in einem Essay für die "New York Times" geschrieben, dass menschlicher Kontakt in einer automatisierten Welt zum Luxusgut werde: "Wo mehr Bildschirme im Leben der Armen erscheinen, verschwinden sie aus dem Leben der Reichen. Je reicher man ist, desto mehr verbringt man seine Zeit abseits der Bildschirme." Waren schicke Geräte wie Laptops oder Tablets einst für die Elite gedacht, werde ihre Vermeidung nun zum Statussymbol, so Bowles.
Es gibt ja seit geraumer Zeit sogenannte Digital-Detox-Camps, wo sich fortschrittsmatte Manager für sehr viel Geld vom Stress der Bildschirmarbeit und Dauererreichbarkeit erholen, um nach ein paar absolvierten Yoga-Übungen genauso weiterzumachen. Es ist aber auch ein Fingerzeig in eine Zukunft, in der das Leben der Reichen eher der Welt in Thoreaus "Walden" ähnelt als der in Stanley Kubricks "2001: Odyssee im Weltraum".
Künftig könnte es so sein, dass der Kassenpatient den Arzt oder Therapeuten nur noch auf dem Bildschirm via telemedizinischer Sprechstunde zu Gesicht bekommt oder gleich mit dem Roboter vorliebnehmen muss. Und vielleicht bleibt den Kindern aus "unterprivilegierten" Schichten künftig nur noch die Teilnahme am Fernunterricht oder an Vorlesungen im Metaverse. Roboter für die Armen, Menschen für die Reichen. Keine schönen Aussichten.
Die "Great Depression", das Phänomen also, dass sich immer mehr Menschen vom Arbeitsmarkt verabschieden, könnte diese Entwicklung beschleunigen. Irgendwann wird aber auch in der Telefonhotline kein Mensch mehr abheben - egal, wie reich der Anrufer ist.
Adrian Lobe, geboren 1988, schreibt als freier Journalist für diverse Medien im deutschsprachigen Raum. Soeben ist von ihm das Buch "Mach das Internet aus, ich muss telefonieren. Kuriose Geschichten aus der digitalen Steinzeit" im Verlag C.H. Beck erschienen.