Seite - 274 - in Künstliche Intelligenz - Technologie | Anwendung | Gesellschaft

274 Ausblick Grenzen definieren Das Thema KI scheint umso mehr Fragen aufzuwerfen, je tiefer man in die Technolo- gie und ihre Potenziale einsteigt. Was wird in Zukunft als wahrhaftig gelten, wenn beispielsweise Stimmen, Bilder und Nachrichten von KI-Systemen nach Belieben ver- ändert werden können? Zentral für die Nutzung von KI-Systemen in Zukunft wird eine Frage sein, die sich Organisationen, Gesellschaften und Individuen immer wieder stellen müssen: Wel- che Entscheidungen geben wir an die KI ab und welche Entscheidungen können und wollen wir nie an die KI abgeben? Offen ist die Frage, wie KI-Systeme von Arbeitgebern eingesetzt werden dürfen. So nutzen große Firmen wie IBM, General Eletric oder Facebook KI für den Auswahlpro- zess von Mitarbeiterinnen und Mitarbeitern. Dazu erstellt eine KI Persönlichkeitspro- file und bewertet Arbeitsbeispiele. Bei Bewerbungsgesprächen werden mittels Skype oder Kameras vor Ort Gesichtsausdruck, Sprachwahl, Motivation oder Engagement der Bewerberinnen und Bewerber mittels KI beurteilt. Inzwischen arbeiten Firmen auch daran, mittels kontinuierlicher Datenanalyse von internen und öffentlichen Informationen die besten und die schlechtesten Mitarbeiterinnen und Mitarbeiter zu identifizieren (Volland 2018). Eine weitere Herausforderung ist die Manipulation mittels KI. Liesl Yearsley, die ehe- malige Geschäftsführerin der Firma Cognea, die Chat-Bots entwickelt, konnte für ihre Firmenkunden dafür sorgen, dass Chat-Bot-Nutzer ein bestimmtes Produkt kau- fen und sich die Verkaufzahlen für die Firmenkunden so verdoppelten (ebd.). Inzwi- schen können KI-Systeme aus den Daten einer Gesichtserkennung mit Mimik-Ana- lyse sowie mithilfe einer Stimmanalyse nach Höhe und Vibration unseren Gemütszu- stand erkennen und jede Regung bestimmen (ebd.). Aber dürfen die Gemütszustände von Nutzerinnen und Nutzern, die von KI-Systemen anhand von Sprachdaten erfasst werden, in emotionale Nutzerprofile münden? Falls ja, wie dürfen diese Profile ein- gesetzt und verwendet werden? Falls nein, wie wird die Erstellung derartiger emoti- onaler Nutzerprofile verhindert? Internationale Leitlinien voranbringen Im Jahr 2017 brachte ein offener Brief an die UN vom „Future of Life Institute“ die Furcht vor den Risiken von künftigen autonomen Waffensystemen zum Ausdruck. Dieser Brief wurde unterschrieben vom Chef der Firma DeepMind, Elon Musk, dem deutschen KI-Experten Jürgen Schmidhuber und vielen weiteren (ebd.). In diesem Sinne wäre ein Lösungsansatz für viele Fragen im Kontext der KI eine Magna Carta für das digitale Zeitalter. Sie könnte beispielsweise die Konstitutionalisierung einer globalen Multi-Stakeholder-Institution zu KI-Governance als Ziel haben (KAS 2018).