Seite - 144 - in Limina - Grazer theologische Perspektiven, Band 3:2

144 | www.limina-graz.eu Karl Stöger | Dürfen Maschinen menschliche Barmherzigkeit ersetzen? Systeme überhaupt bedienen kann, wenn ihr Handeln nicht nachvollzieh- bar ist. Besonders problematisch ist diese fehlende Nachvollziehbarkeit zum einen bei staatlichen Entscheidungen, da diese  – nicht nur nach österreichi- schem Recht  – schon auf Grund verfassungsrechtlicher Vorgaben einer Begründung bedürfen, nicht zuletzt deshalb, damit sich der Einzelne da- gegen wehren kann. Aber auch im Verhältnis zwischen Privaten können Begründungen notwendig sein, insbesondere dort, wo einer der beiden Handelnden gegenüber dem anderen ein Wissensdefizit aufweist. Dies ist etwa die Logik hinter der Verpflichtung zur Aufklärung von Patientinnen und Patienten bei ärztlicher Behandlung. Nun bedürfen pflegebedürftige Personen nicht nur ärztlicher Betreuung, auch pflegerische Entscheidun- gen können wichtige Auswirkungen auf ihre Gesundheit haben  – und auch bei diesen ist es so, dass pflegebedürftige Personen mit geringem einschlä- gigem Wissensstand oft fachlich hochqualifiziertem Personal „mit Wis- sensvorsprung“ gegenüberstehen. Insoweit liegt die Problematik der Er- klärbarkeit von KI-Entscheidungen in der Pflege nicht völlig anders als bei medizinischen Behandlungen. Die bisher einzige rechtliche Vorschrift, die nach einer  – freilich nicht un- umstrittenen5  – möglichen Lesart das Thema der Erklärbarkeit anspricht, ist Art.  22 der Datenschutz-Grundverordnung (DSGVO), der vollständig au- tomatisierte Entscheidungen nur unter strengen Voraussetzungen zulässt. Solche vollständig automatisierten Entscheidungen werden aber weder von medizinischen noch von pflegerischen KI-Systemen angestrebt, die- se sollen vielmehr in der Regel Entscheidungsunterstützung für Menschen liefern. Man wird somit auf die allgemeine Regel zurückgreifen müssen, nach der medizinische und pflegerische Maßnahmen einer „informierten Einwilligung“ (informed consent) bedürfen, und nach der diese auch dann gegeben sein muss, wenn die Empfehlung zur Ergreifung dieser Maßnahme von einem KI-System stammt und von Menschen, wenn auch nach einer Plausibilitätsprüfung, ausgeführt wird. Wie sich informed consent zur explainability verhält, ist eine Frage, die in der juristischen Literatur  – wenn auch außerhalb Österreichs  – bereits inten- siv diskutiert wird, wobei es verschiedene Ansätze gibt: Eher pragmatisch geben sich die Autorinnen und Autoren, die darauf hinweisen, dass medi- Medizinische und pflegerische Maßnahmen bedürfen einer „informierten Einwilligung“. 5 Kritisch äußern sich dazu etwa Wachter/Mittelstadt/Floridi 2017, 76; differenzierend Edwards/Veale 2017; befürwortend hingegen Good- man/Flaxman 2017.