Seite - (000492) - in Autonomes Fahren - Technische, rechtliche und gesellschaftliche Aspekte

Lernen autonome Fahrzeuge?474 sicherheitskritisches System, denn ein fehlerhaftes Systemverhalten birgt direkt eine Gefahr. Diese Gefahr wird jedoch mit der Überwachung durch den Fahrer adressiert, denn der Stauassistent ist so entwickelt, dass der Mensch fehlerhaftes Systemverhal- ten durch sein Eingreifen kontrolliert. b. Automation nicht überwacht/ohne Korrekturmöglichkeit Sicherheitstechnisch am kritischsten ist eine Automation ohne Korrekturmöglichkeit. Ein Fehler des Systems führt ohne Überwachung direkt zu einer Gefährdung und ab- hängig von der Situation zu einem Schaden von Personen und Umwelt. In diese Kate- gorie ist das vollautomatisierte Fahren einzuordnen, denn nach Definition muss der Insasse des Fahrzeugs dieses nicht mehr überwachen. Somit führt ein durch das Sys- tem nicht adressierter Fehler oder ein unerwünschtes Verhalten direkt zu Gefahr und eventuellem Schaden von Personen und Umwelt. Diese Kategorisierung und die Einordnung der autonomen Fahrt in die Kategorie nicht überwachte Automation zeigt, warum aktuell vorhandene Verfahren des Maschinellen Lernens aus sicherheitsunkritischen bzw. sicherheitsrelevanten Bereichen nicht einfach direkt übernommen werden können. Nicht ohne Grund sind die Berichte über sicherheits- kritische Beispiele aus Abschn. 22.3.2 ohne Verweis auf einen nicht überwachten Einsatz. Der Einsatz von Verfahren des Maschinellen Lernens in einer Automation, die nicht überwacht oder ohne Korrekturmöglichkeit ist, bedarf einer weiteren Einordnung, denn abhängig vom Zeitpunkt im Systemlebenszyklus eines Fahrzeugs leiten sich unterschied- liche Herausforderungen ab. 22.4.2 Herausforderungen und Lösungsansätze in den verschiedenen Phasen des Systemlebenszyklus Der Fahrzeuglebenszyklus wird in diesem Bericht in die fünf Phasen Forschung, Entwick- lung, Betrieb, Service sowie Nutzerwechsel/Stilllegung aufgeteilt, denn in jeder Phase warten auf den Einsatz des Maschinellen Lernens unterschiedliche Herausforderungen. 22.4.2.1 Forschung Wird Maschinelles Lernen in der Forschung eingesetzt, geht es zumeist darum, die Mach- barkeit von Verfahren zu zeigen. Die Bandbreite der Beispiele reicht von Online, Offline, Supervised, Unsupervised bis hin zu Reinforcement Learning. Als Datenbasis werden beispielhafte Trainingsdatensätze herangezogen. Gleiches gilt für die Bewertung der Leis- tungsfähigkeit und Robustheit der Verfahren. Diese wird innerhalb von kontrollierten und/ oder überwachten Bedingungen basierend auf beispielhaften Testdaten bzw. Testfahrten durchgeführt. Besonders kontrollierte Bedingungen und/oder der Einsatz ausgebildeter Testfahrer (Kategorie 3.a, s. Abschn. 22.4.1) machen Fehler tolerierbar, sodass eine Viel- zahl von umgesetzten Beispielen existiert. Dementsprechend gehört zur Herausforderung für den Einsatz maschineller Lernverfahren nicht der Nachweis der Sicherheit. Die Her-