Seite - 52 - in Künstliche Intelligenz - Technologie | Anwendung | Gesellschaft

52 A Technologie Das Standardisierungsinstitut IEEE-SA hat im Jahr 2016 die IEEE-Initiative für ethi- sche Betrachtungen in KI und autonomen System „IEEE Global Initiative for Ethical Considerations in Artificial Intelligence (AI) and Autonomous Systems (AS)“ gegrün- det (IEEE-SA 2018). Die Initiative hat zum Ziel, das Vertrauen in KI zu erhöhen und schneller zu verbreiten. IEEE-SA veröffentlicht eine Guideline für Ethically Aligned Design, in der internationale Experten für KI, Robotik, Recht und Politik Empfehlun- gen für die Entwicklung von KI-Technologien geben. Zum Beispiel empfehlen sie, KI-Systeme so transparent zu gestalten, dass eine Evaluierung des Systems durch Dritte wie Regulierer oder Unfallbegutachter möglich ist. Damit soll sichergestellt werden, dass die Implementierung von Sicherheitsregeln und gesellschaftlichen Normen in KI-Systeme überprüft werden kann. In der IEEE Initiative gibt es bisher zehn spezifische Normenprojekte. Im Folgenden werden drei der zehn Projekte kurz vorgestellt. Im Normenprojekt „Model Process for Addressing Ethical Concerns During System Design“ wird eine Methodologie für KI-Softwareingenieure entwickelt, die sicher- stellen soll, dass Anwender ethische Bedenken schon zu Beginn der Entwicklung bzw. des Softwarelebenszyklus analysieren und implementieren. Das IEEE Projekt „Transparency of Autonomous Systems“ erarbeitet einen Guide für Entwickler von Autonomen Systemen, mit dessen Hilfe während des Entwicklungsprozesses die Transparenz des Systems bewertet werden kann. Transparenz bedeutet hier, dass die Benutzer von Pflegerobotern zum Beispiel jederzeit eine Begründung dafür ver- langen können, warum das System diese oder jene Entscheidung getroffen hat. Transparenz bedeutet für das IEEE Projekt ebenfalls die Rückverfolgbarkeit von Unfällen. Das System muss interne Prozesse offenlegen, die zum Unfall geführt haben. Zum Beispiel sollen Entwickler analog zur Aufzeichnung von Daten in Flug- schreibern (Black Box) gewährleisten, dass interne Daten und Sensordaten sicher gespeichert werden. Die Transparenz von Autonomen Systemen soll gesellschaftli- ches Vertrauen in disruptive Technologien wie fahrerlose Autos erhöhen. Das IEEE Projekt „Ontological Standard for Ethically Driven Robotics and Automation Sys- tems“ zielt darauf ab, einen ontologischen Standard zu entwickeln, mit dessen Hilfe die ethische und moralphilosophische Sprache und Theorie auf der einen Seite mit der ingenieurwissenschaftlichen Sprache auf der anderen Seite harmoni- siert. Neben dem Standardisierungsinstitut IEEE-SA haben die großen amerikanischen IT- Unternehmen im Jahr 2016 ein Konsortium gegründet, das zum Ziel hat, für besseres Verständnis von KI in der Öffentlichkeit zu sorgen. Dem Konsortium „Partnership on Artificial Intelligence to Benefit People and Society“ gehören die Unternehmen Ama- zon, DeepMind/Google, Facebook, IBM und Microsoft an. Etwa ein Jahr später trat auch Apple der Initiative bei. Deutsche Partner in der Gruppierung sind das Fraunho- fer Institut für Arbeitswirtschaft und Organisation (IAO), SAP und Zalando. Das Kon-