Page - 145 - in Limina - Grazer theologische Perspektiven, Volume 3:2

145 | www.limina-graz.eu Karl Stöger | Dürfen Maschinen menschliche Barmherzigkeit ersetzen? zinische Vorgänge mit und ohne KI-Einsatz heute schon eine Komplexität erreichen, die medizinisches Personal geradezu dazu verpflichtet, mit „an- gemessener reduzierter Komplexität“ aufzuklären (Eberbach 2019, 116; in diese Richtung überlegend auch Price 2018, 299 Fn.  15). Es geht somit nicht darum, die KI-Entscheidung im Detail nachvollziehbar zu machen, sondern nur, darzulegen, wie diese im Groben arbeitet und welche Fehler dabei pas- sieren können. Wenn somit Ärztinnen und Ärzte zugelassene KI-Systeme mit kritischem Blick verwenden und PatientInnen ausreichend auf mögli- che Fehler des Systems hinweisen, dann sollen sie nach diesen Meinungen für dennoch eintretende Fehler auch nicht haften (sondern allenfalls die Hersteller, zum Ganzen Schönberger 2019, 202). Andere Autorin nen und Autoren gehen davon aus, dass das medizinische Personal sich umfassend von der Funktionsweise KI-basierter Systeme überzeugen muss und diese sonst nicht zur Anwendung bringen darf (vgl insbesondere Price 2018, 299; in diese Richtung, freilich zurückhaltender, auch Molnar-Gabor 2019)  – was es ihnen umgekehrt auch ermöglichen müsste, Patientinnen und Pa- tienten umfassend über die Funktionsweise zu informieren. Auch wenn diese auf die medizinische Behandlung bezogenen Ansätze durchaus gegensätzlich sein mögen, ist jedenfalls klar, dass sie auch für KI-basierte Pflege(unterstützungs)systeme fruchtbar gemacht werden könnten. Hier darf vor allem nicht vergessen werden, dass Gerichte vor ihnen anhängig gemachte Fälle unter Rückgriff auf die jeweils geltende Rechtslage jedenfalls lösen müssen  – eine Entscheidung überhaupt ver- weigern dürfen sie nicht. Anders gesprochen: Ein bloßes Ausreden auf die „nicht beherrschbare Maschine“ wird rechtlich nicht funktionieren. Die „nicht nachvollziehbare“ pflegerische Entscheidung einer Maschine ohne Mitwirkung bzw. Verantwortlichkeit eines Menschen ist daher aus juristi- scher Sicht kein sehr wahrscheinliches Zukunftsszenario. Schlussbemerkung Die Digitalisierung der Pflege bringt nicht nur aus ethischer, sondern auch aus rechtlicher Sicht zahlreiche Herausforderungen mit sich. Allerdings ist es nicht so, dass sich die Antworten auf diese Herausforderungen nicht Ein bloßes Ausreden auf die „nicht beherrschbare Maschine“ wird rechtlich nicht funktionieren.