Auf dem Weg zur großen Entmündigung #
Zuerst war es das Navigationsgerät, heute sind es humanoide Roboter oder selbstfahrende Autos: „Autonome“ Technologien dringen immer tiefer in die Entscheidungssphäre des Menschen ein. Doch die Folgen für die Selbstbestimmung werden kaum reflektiert. #
Mit freundlicher Genehmigung übernommen aus: DIE FURCHE, 9. Mai 2018
Von
Sonja Bettel
Foto: Shutterstock
„Smarte“ Technik ist seit vielen Jahren ein erstrebenswertes Ziel. Zumindest wird es uns so von Entwicklern, Herstellern und Händlern derartiger Technologien vermittelt. Das beginnt bei „Smartphones“, geht über „Smart Meter“, also Stromzähler, die Informationen über Preis und Verbrauch zwischen Stromanbietern und Kunden austauschen können, bis hin zu „Smart Cities“. Damit sind nicht Städte mit besonders intelligenten Bewohnern gemeint, sondern vernetzte, elektronisch gesteuerte urbane Infrastrukturen. All diesen Dingen ist gemein, dass sie den humanen intelligenten Wesen mehr und mehr das Denken abnehmen und eigenständig entscheiden.
Mit dem Navi im Unterholz #
Die Frage, ob wir diese Dinge brauchen oder nicht und ob sie unser Leben verbessern oder nicht, wird freilich immer seltener gestellt. Während in den 1970er-Jahren mit dem Einzug der Taschenrechner in die Schulen vor dem Untergang der Kopfrechenfertigkeit gewarnt wurde, wird heute jemand, der beim Autofahren kein „Navi“ verwendet, fast schon mit Verwunderung betrachtet. Dabei ist das Navigationssystem manchmal gar nicht so besonders „smart“: Gelegentlich passiert es, dass Auto- und LKW-Fahrer in viel zu engen Straßen, auf Feldwegen oder unter niederen Brücken stecken bleiben, weil sie auf die sonore Stimme ihres Navigationsgeräts gehört haben, statt auf die Straßenverhältnisse und Verkehrsschilder zu achten. Der Mensch zweifelt bei Unstimmigkeiten eben eher an sich selbst als am Gerät.
Das musste auch die US-amerikanische Politikwissenschaftlerin Virginia Eubanks von der University at Albany im Bundesstaat New York feststellen, die den Zusammenhang von Technologien und sozialer Gerechtigkeit erforscht. In den USA werden demnach arme Menschen immer häufiger von Computerprogrammen „betreut“, die darüber entscheiden, wer welche Unterstützung bekommt oder nicht. Das führt nicht nur zu Überwachung und dem Verlust der Privatsphäre, weil dafür zahlreiche Daten gesammelt, zwischen Behörden ausgetauscht und miteinander verknüpft werden; es kommt auch zu falschen und nicht nachvollziehbaren Entscheidungen, schreibt Virginia Eubanks in ihrem neuesten Buch „Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor“ (Verlag St. Martin’s Press 2018). Die Forscherin stellte zudem fest, dass die Sachbearbeiterinnen der Sozialbehörde selbst dann den Empfehlungen des Computerprogramms folgten, wenn ihre eigene berufliche Erfahrung und Einschätzung der Situation eines Klienten oder einer Klientin etwas anderes nahelegte. Virginia Eubanks schließt daraus, dass der Computer eine Autorität ausstrahle, der sich der Mensch wider die Vernunft beuge.
Autonome technische Systeme sind jedenfalls schon in vielen Lebensbereichen im Einsatz. Die Ergebnisse von Suchmaschinen oder maßgeschneiderte Online-Werbung, die von Algorithmen aufgrund unseres Verhaltens im Web ausgewählt werden, können unser Leben mehr beeinflussen, als uns zumeist bewusst ist. Der automatische Handel von Wertpapieren durch Computerprogramme – wegen des Tempos der Entscheidungen auch Hochfrequenzhandel genannt – hat das Potenzial, Weltwirtschaftskrisen auszulösen. Wenn Algorithmen nicht nur das tun, was ihnen einprogrammiert wurde, sondern auch selbstständig dazulernen, wird immer weniger nachvollziehbar, wie ihre Entscheidungen zustande kommen.
Digitale Assistenten stressen #
Auch autonome Roboter und selbstfahrende Autos kommen verstärkt auf uns zu. Bei ihnen wird noch augenscheinlicher, dass wir zunehmend die Kontrolle verlieren. Wenn Menschen das Gefühl haben, Roboter nicht steuern und deren Handlungen nicht vorhersehen zu können, bekommen sie jedoch Angst und lehnen diese ab, weiß die Psychologin Martina Mara vom „Linz Institute of Technology“ der Johannes Kepler Universität. Umso menschlicher die Roboter wirken – etwa durch ein humanoides Äußeres oder das Bekunden, eigene Gefühle zu haben – umso unheimlicher wirken sie auf Menschen.
Autonome Technik, deren Funktionsweise nicht ersichtlich oder zu komplex ist, deren Zuverlässigkeit aber für uns lebensentscheidend sein kann, verursacht letztlich Stress. Forscher der deutschen Hochschule Kempten testeten etwa mit Probanden ein Fahrassistenzsystem, also eine Vorstufe zum „autonomen Fahren“. Die 50 Teilnehmer und Teilnehmerinnen der Studie mussten sich mit einer Geschwindigkeit von bis zu 160 Kilometern pro Stunde mit und ohne Spurhalteassistent fortbewegen. Sobald der technische Einflüsterer eingeschalten war, stieg der laufend gemessene Stresslevel bei allen Probanden an.
Doch was ist mit den Vorzügen „autonomer Technik“? Selbstfahrende Autos, so beteuern ihre Entwickler würden die Zahl der Verkehrsunfälle massiv reduzieren, weil Fehler der (menschlichen) Fahrer die Mehrzahl der Unfälle verursachten. Jedes Jahr sterben weltweit 1,3 Millionen Menschen bei Verkehrsunfällen auf Straßen, autonom fahrende Autos wären demnach ein Segen für die Menschheit. Doch autonome Fahrzeuge sind keineswegs unfehlbar, wie sich längst gezeigt hat. In den vergangenen zwei Jahren sind in den USA in zwei Fällen Fahrer eines selbststeuernden Tesla gestorben, weil ihr Auto ein Hindernis nicht erkannt hatte. Und erst im März dieses Jahres starb in Arizona eine Frau, die ihr Fahrrad in der Nacht über die Straße geschoben hatte, durch ein selbstfahrendes Uber-Taxi, dessen Sensoren sie nicht detektiert hatten. Die Reaktion von Fachleuten und Politikern lautete, dass autonome Autos eben noch nicht fertig entwickelt seien und man sie folglich nicht zu früh im Regelverkehr einsetzen sollte.
Vom Pferdemist zum Stau #
Nach Ansicht des Philosophen Robert Braun, der sich in der Arbeitsgruppe „Techno-Science and Societal Transformation“ am Institut für Höhere Studien (IHS) mit Fragen verantwortungsvoller Innovation und autonomer Mobilität beschäftigt, wird hier freilich das Pferd von der falschen Seite aufgezäumt. Selbstfahrende Autos könnten vielleicht eine Reduktion der Autounfälle bringen, die Passagiere müssten auch nicht auf den Verkehr achten und könnten folglich Alkohol trinken. Dennoch sei es nicht sinnvoll, das Auto als Einheitslösung in Sachen Mobilität zu betrachten – zumal angesichts der je nach Situation sehr unterschiedlichen Bedürfnisse. Das Problem sei, so Braun, dass meist in technischen Lösungen gedacht werde, statt zu fragen, was die Gesellschaft für soziales Wohlergehen brauche. Das selbstfahrende Auto als Lösung für das Problem Autounfälle erscheint ihm jedenfalls wie eine leicht veränderte Neuauflage der Lösung für das Problem Pferdemist: „Vor 150 Jahren waren unsere Städte mit Pferden und Pferdefuhrwerken bevölkert und es wurde diskutiert, ob wir in Bergen von Mist und dem Urin von Pferden ersticken werden. Dann kam das Automobil und löste dieses Problem – aber es schuf viele neue.“
Die Zukunft mitbestimmen! #
Ein zentrales ist etwa die schiere Autozahl. „Wir verbringen eine Menge Zeit im Stau, 30 Prozent des öffentlichen Raums in Europa ist von Autos besetzt, Autos verursachen Lärm und Stress und rauben uns den Kontakt zur Außenwelt“, erklärt Robert Braun. Das Auto, dieses Symbol für Autonomie, sperre die Menschen letztlich in einen Käfig aus Stahl und Glas, aus dem sie die Welt wie im Fernsehen wahrnehmen. Welches Problem würde gelöst, wenn dieses Ding in einigen Jahren autonom fährt?
Umso notwendiger sei es, so Robert Braun, dass die (technologische) Zukunft nicht nur von Ingenieuren und Naturwissenschaftlern bestimmt werde, sondern auch die Gesellschaft mitgestalten könne: „Wir befinden uns in einer Transformation, in der algorithmische Intelligenz fähig wird, Dinge zu tun, die vorher nur der Mensch konnte.“ Trotzdem würden Laien von den Entwicklern künstlicher Intelligenz und autonomer Technologien nur als Nutzer gesehen, die man am Ende eines Prozesses überzeugen müsse, diese Dinge zu kaufen oder zu akzeptieren, so Braun. „Wir müssen den Menschen also bewusst machen, dass sie das Recht haben, zu sagen, wie sie leben wollen und was sie dafür brauchen.“
Weiterführendes#
- Smart Products (Thema)
- Navigation (Thema)
