Seite - 183 - in Künstliche Intelligenz - Technologie | Anwendung | Gesellschaft

iit-Themenband – Künstliche Intelligenz 183 Unterschiedliche Entwicklungspfade der Automatisierung durch KI Trotz umfangreichen Trainings ist jede durch KI getroffene Entscheidung mit Unsicherheiten behaftet – besonders dann, wenn die KI auf Daten außerhalb der Trainingsmenge angewandt wird. Aber ab wann ist ein KI-Assistenzsystem gut genug für die praktische Anwendung im Feld? Und wie kann man trotz Lernphase diese Technik insbesondere bei Anwendungen, welche die Sicherheit tangieren, in vorhandene Systeme etablieren? Um eine trainierte KI zu verwenden, müssen also zunächst neue Validierungsmethoden und Sicherheitsmechanismen geschaffen werden, mit denen sich fehlerhafte KI-Entscheidungen auffangen lassen. Hierbei haben sich zwei Vorgehensweisen etabliert: Ein Ansatz ist die Einbindung der KI über die Teilautomatisierung des Fahrzeugs (z.  B. Tesla, Audi, Daimler), wobei einzelne Fahrfunktionen in das Fahrzeugsystem schrittweise integriert werden (z.  B. Update-Möglichkeit bei Tesla). Ein weiterer Ansatz (z.  B. von Apple und der Alphabet-Tochter Waymo) sieht vor, ohne Zwischenschritt direkt hoch- und vollautomatisierte Lösungen zu entwickeln. Die Teilautomatisierung hat sich als besonders geeignet für etablierte Fahrzeughersteller herausgestellt, da hierbei auf bereits vorhandene Fahrassistenzsysteme aufgebaut werden kann und somit eine hoch- bis vollautomatisierte Lösung schrittweise über verschiedene Automatisierungsstufen angestrebt wird. Ist ein robustes Niveau der Fahrfunktion erreicht, kann der Fahrer das Assistenzsystem aktiv freischalten und nutzen. Da derzeit keine Validierungsmethoden zur Verfügung stehen, um die Sicherheit dieser Fahrfunktionen zu gewährleisten, kann bei diesem Entwicklungsansatz auf den Fahrer als Beobachter, der in brenzligen Situationen unmittelbar eingreift, nicht verzichtet werden. Diese Überwachungsfunktion des Fahrers kann allerdings schließlich auch Vertrauen in KI aufbauen. Im Kontrast dazu entwickeln die neu hinzugekommenen, softwarespezialisierten Akteure in der Automobilindustrie direkt vollständig selbstfahrende Fahrzeuge – zum Teil bereits ohne Lenkrad. Sie begründen dieses Vorgehen mit Erkenntnissen aus Studien, in denen die wechselnde Übergabe der Steuerung zwischen Mensch und Maschine untersucht und als zusätzliches Risiko identifiziert wurde. Keiner dieser beiden Ansätze hat sich bislang als Königsweg herauskristallisieren können. Für beide Wege kann angenommen werden, dass sich in der Entwicklungsphase, d.  h. im Mischverkehr aus nicht-, teil- und vollautomatisierten Fahrzeugen, Unfälle mit Personenschäden nicht ausschließen lassen, und sie sind auch schon aufgetreten.