"Viele sprechen mit ihren Autos"#
Sabine Theresia Köszegi, Vorsitzende des Rats für Robotik, über die Kommunikation von Maschinen und Menschen - und mögliche soziale Auswirkungen.#
Mit freundlicher Genehmigung übernommen aus der Wiener Zeitung, 9. Juni 2018
Von
Franz Zauner
Foto: © Moritz Ziegler
"Wiener Zeitung: Sie sind Professorin für Arbeitswissenschaft und Organisation, einer Ihrer Forschungsschwerpunkte ist Konfliktlösung in Verhandlungen. Haben Sie den Vorsitz im Robotikrat übernommen, weil das so ein umstrittenes Gebiet ist?
Sabine Theresia Köszegi: Das könnte vielleicht eine Rolle gespielt haben. Aber mich beschäftigt als Wissenschafterin derzeit vor allem, was es mit sich bringt, wenn anthropomorphisierte Maschinen mit Menschen interagieren, welche Gefühle und Verhaltensweisen das hervorruft. Derzeit bin ich in einem internationalen Forschungsprojekt in Aarhus engagiert. Es geht um "Integrative Social Robotics", um die Frage, welche Auswirkungen der Umgang mit Robotern auf den einzelnen Menschen, aber auch auf die Gesellschaft hat. Wir müssen rechtzeitig einen Weg finden, nicht nur die ökonomischen, sondern auch die sozialen Auswirkungen eines massiven Robotereinsatzes abzuschätzen.
Je näher der Roboter dem Menschen kommt, umso eher sinkt die Akzeptanz. Einer Studie zufolge würden sich mehr als 40 Prozent der Österreicher Essen von einem Roboter servieren lassen, aber bei Pflegerobotern sind sie schon skeptisch. Wie vertrauenswürdig sind Roboter?
Die Pflege ist ein gutes Beispiel. Viele Menschen haben Angst, von Robotern gepflegt zu werden. Ich glaube, sie brauchen keine Angst zu haben. Der Pflegeroboter, der das Essen serviert, einen wäscht und unterhält, liegt noch in weiter Ferne. Wir reden eher von Assistenzsystemen, die Menschen dabei helfen können, länger autonom leben zu können. Es ist so, als ob sie eine Krücke benützen. Das kann auch eine Selbstermächtigung sein. Letztlich entscheidet das der Nutzer, deshalb ist es auch so wichtig, Betroffene sehr früh in die Entwicklung mit einzubeziehen und praktische Lösungen zu forcieren. Ein intelligenter Rollstuhl ist vielleicht für viele viel hilfreicher als ein Exoskelett.
Im Alltag begegnen uns immer öfter intelligente Maschinen. Welche Auswirkungen hat das auf unser Verhalten?
Wir wissen schon lange, dass wir Menschen dazu neigen, Gegenstände, aber insbesondere Maschinen, zu vermenschlichen. Viele Menschen sprechen mit ihrem Auto. Ein Auto sieht jetzt wirklich nicht aus wie ein Mensch und redet auch nicht zurück. Aber stellen Sie sich eine Maschine vor, die einem Menschen ähnlich sieht und sich sogar so ähnlich verhält. Ihnen zum Beispiel sagt: "Ziehen Sie sich bitte eine Jacke an, es ist frisch heute." Wir würden diese Maschine noch stärker anthropomorphisieren und sehr rasch und unkontrolliert eine Beziehung zu ihr aufbauen. Es gab Experimente, in denen Versuchspersonen von einem humanoiden Roboter gebeten wurden, für sie zu lügen. Das Ergebnis: 70 Prozent der Versuchspersonen logen tatsächlich für die Maschine. Obwohl sie wissen, dass es eine Maschine ist, reagieren Menschen empathisch. Da werden Prozesse indiziert, die wir nicht gut steuern können, die wir nicht unter Kontrolle haben.
Kann das auch positive Seiten haben, sozusagen den Menschen bessern?
Bisweilen ja. Haushalte, die zum Beispiel einen Staubsauger-Roboter haben, künden davon, dass Staubsaugen über Nacht zu einer Männerdomäne geworden ist. Das hat die Diskussion um Gleichberechtigung nicht vermocht.
Wie intelligent sind Roboter wirklich, wie lernfähig sind sie?
Diese Maschinen sind noch immer nicht wirklich intelligent. Maschinelles Lernen bewegt sich innerhalb des Rahmens, den die Programmierer vorgeben. Eine Maschine, die zum Beispiel Bilder zu erkennen vermag, kann trainiert werden und sich verbessern, aber sie wird nicht plötzlich Rasen mähen. Und selbst der begrenzte Lernerfolg hängt von den Daten ab, die Sie dieser Maschine zur Verfügung stellen. Ein gutes Beispiel dafür, wie sehr das schief gehen kann, war der Chat Bot "Tay" von Microsoft. Der sollte von Menschen lernen, doch die Twitter-Gemeinde hat ihn innerhalb von 24 Stunden zum Rassisten umprogrammiert. Weil die Maschine natürlich nicht versteht, was sie sagt. Sie weiß nicht, was sie weiß. Sie hat kein kontextuelles Wissen, keine Selbstreflexion. Diese künstlich intelligenten Maschinen sind sehr eingeschränkt in ihren Interaktionsmustern. Das wird für Menschen einerseits recht schnell frustrierend und langweilig, andererseits könnte es auch sein, dass unser Verhaltensrepertoire verarmt, wenn man diese Technologien sehr massiv einsetzt oder sehr früh, etwa in Form von Teaching Robots in Kindergärten. Wir könnten verlernen, empathisch zu sein.
Obwohl das Verhaltensrepertoire der Maschinen so eingeschränkt ist?
Stellen Sie sich vor, Sie haben eine Maschine, die kommt, wenn Sie sie rufen. Und sofort wieder geht, wenn Sie sie nicht mehr brauchen. Selbst wenn Sie schimpfen, wird sie freundlich bleiben. Wenn Sie solchen Apparaten von klein auf ausgesetzt sind, verlieren Sie relativ schnell die Lust, sich mit den anstrengenden Eigenheiten echter Menschen auseinanderzusetzen, denn die sind mitunter grantig und unberechenbar, und sie machen nicht, was man will. Das kann furchtbar frustrierend und anstrengend sein, aber auch furchtbar schön, denn diese große Vielfalt an Verhaltensmöglichkeiten, an Eigenheiten macht das Menschsein aus. Das Verkümmern sozialer Kompetenzen im Umgang mit Maschinen ist eine reale Gefahr.
Glauben Sie, dass Roboter eines Tages Bewusstsein erlangen könnten?
Nach allem, was ich darüber weiß, fürchte ich mich nicht vor der so genannten Singularität. Die Sorge, dass Maschinen in Zukunft uns Menschen beherrschen und kontrollieren, ist für mich unbegründet. KI-Technologie hat aber einige Schattenseiten, die mir tatsächlich Angst machen. Dass Menschen KI-Technologien einsetzen, um anderen Menschen zu schaden, ist bereits heute Realität. Man kann schon jetzt KI-Programme und Roboter für bösartige Zwecke nutzen, denken Sie etwa an autonome Waffensysteme.
Die Robotik weist eine unglaubliche Vielfalt auf, es wird intensiv geforscht und viel investiert. Hat man angesichts dieser Dynamik überhaupt eine Chance, die rasante Entwicklung politisch und gesellschaftlich einzufangen, sie zu kontrollieren?
Wir sollten nicht warten, bis die Technologie da ist. Es ist wichtig, bereits während der Entwicklung bestimmter Technologien die möglichen negativen Konsequenzen vorherzusehen und zumindest abzufedern. Wir nennen das Responsible Robotics oder Responsible Innovation. Das ist kompliziert, aber nicht unmöglich. Und es ist sowieso die einzige Chance, die wir haben. Wir fokussieren unsere Diskussion sehr oft auf die schwierigen Dinge. Das ist wichtig, und deswegen wurde auch der Rat für Robotik ins Leben gerufen. Es ist aber nicht zu übersehen, dass die Technik auch große Fortschritte bringt. Wenn wir jetzt wieder an die Bilderkennung denken, die wir vorhin in einem Negativbeispiel betrachtet haben: Roboter interpretieren Bilder auf manchen Gebieten mittlerweile besser als Menschen. Das kann uns etwa bei der Diagnostik von Krankheiten helfen. Wenn gut ausgebildete Ärzte diese Technologien einsetzen, dann haben Sie ein extrem gutes Mensch-Maschinen-System. Es gibt eine Vielzahl an Szenarien, wo diese Technologien uns das Leben erleichtern, verschönern und vereinfachen, ja sogar verlängern können.
Aber es stimmt natürlich, dass man angesichts der Entwicklung tatsächlich das Gefühl bekommen kann, immer ein wenig hinterher zu hinken. Ich bin trotz allem recht zuversichtlich, dass es möglich sein wird, gut zu gestalten. Und das sieht man zum Beispiel am Thema Industrie 4.0.
Inwiefern?
Die Automatisierung in der Wirtschaft hat nicht mit der Industrie 4.0 begonnen, sondern schon sehr viel früher. Es hat sich gezeigt, dass es klare Grenzen bei der Implementation solcher Systeme gibt. Man kann nicht alles einführen, was man möchte. Fabriken sind soziotechnische Systeme, und sie müssen die Schnittstellen zwischen Menschen und Maschinen nicht nur in rechtlicher, sondern auch in sozialer Hinsicht so organisieren, dass das Zusammenspiel funktioniert.
Was ist dabei besonders wichtig?
Menschen sind soziale Wesen, sie agieren nicht immer rational. Ein Extrembeispiel sind die Robo Rages, die in Kalifornien absichtlich vor selbstfahrende Autos springen. Wenn die selbstfahrenden Autos unter sich blieben, gäbe es kein Problem. Es entsteht aber sofort, wenn Menschen und Maschinen aufeinandertreffen. Viele technische Systeme, die auf dem Papier gut aussehen, können gar nicht so einfach implementiert werden, weil sie auf soziale Systeme treffen, auf Menschen mit ihren Stärken und Schwächen. Und diese Schnittstellen müssen so gestaltet werden, dass das Zusammenspiel wirklich funktioniert.
Deshalb genügt es nicht, nur technische Systeme zu betrachten, wir müssen auch die sozialen und rechtlichen Aspekte im Auge behalten. Erfahrungsgemäß tendieren Technikerinnen und Techniker dazu, nur die Möglichkeiten der Technik zu sehen. Die können aber nur dann realisiert werden, wenn die Technik gut in ein soziales System implementiert wird.
Information#
Sabine Theresia Köszegi ist Professorin für Arbeitswissenschaft und Organisation an der Technischen Universität Wien und Vorsitzende des Rats für Robotik. Das Gremium ist mit Wissenschaftern aus allen einschlägigen Fachbereichen besetzt und versteht sich als Sparringpartner für die zuständigen Ministerien in Sachen künstlicher Intelligenz. Als Wissenschafterin beschäftigt sich Köszegi unter anderem mit der sozialen Integration von Robotern.
Siehe auch den Beitrag im Joannovum 2/2020#
