Seite - (000518) - in Autonomes Fahren - Technische, rechtliche und gesellschaftliche Aspekte

49923.3 Sicherheitskonzepte aus anderen Disziplinen etc. gefährden [1], [10], [18]. Automatisierte Manipulatoren, die entweder stationär oder auf mobilen Plattformen eingesetzt werden, können Menschen gefährden, indem sie ihre Gelenke bewegen und mit den Menschen kollidieren oder durch die Werkzeuge, die sie einsetzen, verletzen. Sowohl für mobile Roboter als auch für Manipulatoren ist der sichere Zustand ein Stopp aller Manipulatoren in der aktuellen Position bzw. ein Anhalten [5]. In den meisten Fällen gilt: Je schneller dies geschieht, umso niedriger ist die Gefährdung, die von dem Roboter für seine Umwelt ausgeht. Ausnahmen sind Werkzeuge und Manipulato- ren, wie z. B. Hände und Greifer, die einen Druck ausüben können. Ein Stopp der Aktoren könnte hier einen Druck erhalten, der zu Verletzungen und Beschädigungen führen kann. Wird ein Roboter für komplexere Tätigkeiten eingesetzt, so können daraus Verletzungen und Schäden entstehen, die zwar nicht direkt durch die Bewegung des Roboters verursacht werden, aber durch die Folgen seiner Aktionen. Beispielweise kann es zu Bränden kommen, wenn ein Bügelroboter abrupt stehen bleibt oder Gefahrgut von einem mobilen Roboter transportiert wird [64]. In [64] und [65] wird eine sicherheitsgetriebene Architektur für Steuerungssysteme von Robotern vorgestellt, die eine Sicherheitsschicht enthält. Diese soll einen Roboter stets in einen sicheren Zustand überführen. Die sicheren Zustände sind abhängig von den Funk tionen, die ein Roboter erfüllen soll. Diese können sehr vielfältig sein, und daher wird in [64] und [65] ein Regelsatz (safety policies) vorgeschlagen, der übergeordnete Regeln enthält, die einen sicheren Betrieb eines Roboters ermöglichen. Es ist vorstellbar, dass ein Roboter unerwartete Lösungswege für ein Problem abhängig von seiner Ent- scheidungsfreiheit und seinen grundlegenden Fähigkeiten findet und es dadurch zu ge- fährlichen Situationen kommen kann. Wie in [9] beschrieben, kann dies bei der häufig angewen deten Subsumptionsarchitektur erfolgen. Übertragen auf autonome Fahrzeuge bedeutet dies, dass zwar Fahrentscheidungen nach verschiedenen Kriterien wie z. B. der Straßenverkehrs ordnung, effizienter Fahrweise und Komfort getroffen werden können, aber stets eine Kollisionsvermeidung aktiv wäre, die als übergeordnete Instanz eingreifen könnte. 23.3.4 Kraftwerkstechnik Kernkraftwerke gelten weithin als besonderes Risiko, da bei Störfällen hohe Schäden für die Umwelt entstehen können. Die dort eingesetzten Steuer- und Regelungssysteme müssen daher die höchsten Sicherheitsanforderungen erfüllen, um einen Betrieb auch nach Naturkatastrophen, terroristischen Anschlägen und internen technischen Fehlern zu ermöglichen. Da bei Kernkraftwerken eine sofortige Abschaltung nicht möglich ist und die Brennelemente auch nach ihrem Einsatz im Reaktor weiterhin aktiv sind und gekühlt werden müssen, sind mehrfach redundante Systeme vor allem zur Kühlung vor- geschrieben. Die Sicherheit eines Kernkraftwerks hängt maßgeblich davon ab, wie vollständig und fehlerfrei die Steuerungs- und Kontrollsysteme spezifiziert und entwickelt werden. Die