Seite - 184 - in Künstliche Intelligenz - Technologie | Anwendung | Gesellschaft

184 B Anwendung Aufbau von Vertrauen in automatisierte Fahrfunktionen In der Diskussion um Nutzerakzeptanz gilt es, ungleich gelagerte Toleranzschwellen für menschliche und maschinelle Fehler zu berücksichtigen. Wie sensibel die Öffent- lichkeit Sicherheit und deren Gewährleistung bzw. Nichtgewährleistung im Mischver- kehr wahrnimmt, zeigt bereits der erste tödliche Unfall eines sich im automatisierten Modus befindlichen Fahrzeugs – eines Tesla Model S – im Jahr 2016 (The Guardian 2016). Dieser weltweit diskutierte Vorfall machte deutlich, dass an die Sicherheit automatisierter Fahrzeuge deutlich andere Maßstäbe angelegt werden. Dabei schnei- det die Fahrleistung des im Unfallwagen verwendeten Autopiloten in einer rein sta- tistischen Betrachtung durchschnittlich deutlich besser ab als ein menschlicher Fah- rer. Es handelte sich um das erste bekannte Todesopfer bei etwas mehr als 208 Milli- onen gefahrenen Kilometern insgesamt, bei denen der Autopilot in einem Tesla Model S aktiviert worden war. Im Vergleich dazu: Unter allen Fahrzeugen in den USA gibt es etwa alle 136 Millionen Kilometer (National Highway Traffic Safety Administ- ration 2017) einen Todesfall58. Dennoch ist festzuhalten, dass dieser Vorfall für erheb- liche Kratzer am Image des automatisierten Fahrens gesorgt hat. Da die Unfallzahlen der automatisierten Fahrzeuge zumindest in näherer Zukunft deutlich im Fokus einer öffentlichen Debatte stehen werden, geht man davon aus, dass diese gerade mit Hilfe von automatisierten und vernetzten Fahrzeugen um min- destens eine Größenordnung reduziert werden müssen. Nur dann wird die Bevölke- rung diese Fahrzeuge als Assistenzsystem akzeptieren (Shashua 2017). Dass dies gelingen kann, zeigt sich daran, dass tatsächliche menschliche Eingriffe in bereits vorhandene automatisierte Fahrfunktionen sich stetig verringern. Spezielle Hindernisse der Einführung automatisierten Fahrens Für die künftige Entwicklung des automatisierten Fahrens insgesamt birgt die gesell- schaftliche Wahrnehmung von Unfällen mit dem Fokus auf seltene Einzelfälle und einer fehlenden Relativierung das große Risiko einer nur geringen Akzeptanz von derart für die Sicherheit bedenklichen Anwendungen. Man stelle sich nur einmal die mediale Resonanz auf hypothetische Vorkommnisse vor, wie ein durch Hacking manipuliertes Fahrzeug oder gar eine manipulierte autonome Transportdrohne, die Täter zum Kidnapping oder als Waffe missbrauchen. Neben der Tragik des Einzelfalls würden die davon ausgehenden Schockwellen die Weiterentwicklung automatisier- 58 Die Aussagekraft des NHTSA-Berichts für den Vergleich der Fähigkeiten menschlicher Fahrer mit denen des Autopiloten wird zum Teil kritisch betrachtet, da der Detailgrad keine Unterscheidung des Anteils der mit aktiviertem Autopilot gefahrenen Kilometern ermöglicht.