Seite - 247 - in Künstliche Intelligenz - Technologie | Anwendung | Gesellschaft

iit-Themenband – Künstliche Intelligenz 247 mehr Bedeutung für das Individuum haben als ein vorgegebener Zweck. Mit KI, so die Befürchtung, wird die körperlich-materielle Erfahrung der Welt und des eigenen Selbst von einer sterilen, austauschbaren und geglätteten Inszenierung eines „Quasi- Selbst“ abgelöst. Damit geht auch das materielle Erbe eines Menschen verloren: Per- sönliche Gegenstände, die Geschichten erzählen, verschwinden zugunsten von Datenprofilen, die sich aus beliebigen Punkten zusammensetzen (Unlimited World 2017). Identität zeigt eine soziale Seite insbesondere dort, wo sie durch Interaktionen mit anderen Menschen entsteht. KI ist bereits heute sowohl Interaktionspartner als auch -filter. Dienstleistungen wie Spotify, Facebook oder Amazon wissen bereits mehr über persönliche Präferenzen als die engsten Freunde. Algorithmen erhärten Kauf- entscheidungen und Geschmacksnuancen. Sie determinieren so die Präferenzen ihrer Nutzer. Nach der Kritik hieran entstanden sogenannte encoding-Algorithmen, die alternative Vorschläge machen sollen, um die Souveränität des Nutzers zu stär- ken. Nur lösen sie das Problem nicht, eher im Gegenteil: Sie wirken noch manipula- tiver, weil sie eine scheinbar objektivierte Präferenzfindung suggerieren. Das Ergebnis ist aber das Gleiche: Die Souveränität der Nutzer wird gewollt – oder auch nicht – drastisch reduziert. Ähnlich wirken Siri und Alexa, die sehr gefügig und wenig kont- rovers einen emotionslosen Austausch simulieren. Kommunikation verliert hier ihre Ambivalenz, mit der wir durch soziale Erfahrungen umzugehen wissen und durch die wir herausfinden, wie wir auf andere wirken und wer wir für die andere Person sind. Aus ethischer Perspektive ist diese Art der Kommunikation mit KI, die eine vermeint- lich partnerschaftliche soziale Interaktion simuliert, hintergründig aber strategische Zwecke verfolgt, hochgradig bedenklich. Ein sehr eindrückliches Beispiel ist hierfür die „Hello-Barbie-Puppe“ von Mattel (NYT 2015). Diese sprechende Puppe verwickelt Kinder mit Hilfe von Spracherkennung und KI in ein Gespräch, das dem einer realen Freundschaft nachempfunden ist. Wenn Kinder der Puppe eigene Gefühle anvertrauen und eine enge Bindung eingehen, verlieren sie ihre Intimsphäre, da die Puppe diese Informationen an Dritte weitergibt, etwa die Eltern. Das Spielzeug war deshalb Gegenstand einer kontroversen Diskus- sion in amerikanischen Medien. Jedoch ist das Prinzip das gleiche wie auch bei Online-Kaufvorschlägen: Die soziale Identitätsbildung wird durch KI für strategische Interessen ausgenutzt. Dies betrifft auch vermeintlich positive Anwendungen von KI, wenn z.  B. Algorithmen genutzt werden, um über WhatsApp-Chatverläufe depres- sive Züge von Kindern und Jugendlichen zu diagnostizieren (RP Online 2017). Während KI hier eine gesunde Identitätsbildung unterstützen soll und gleichzeitig dem gesellschaftlichen Wert – nämlich dem Schutz von Minderjährigen – Rechnung trägt, wird auch der Zweifel genährt, wie weit Schutz gehen darf und wann Persönlichkeitsrechte verletzt werden.