Page - 169 - in Künstliche Intelligenz - Technologie | Anwendung | Gesellschaft

iit-Themenband – Künstliche Intelligenz 169 die kostenlose Bereitstellung ihrer KI- und Cloudplattformen den Zugriff auf große Datensätze zu erhalten (u.  a. Google: TensorFlow, Microsoft: Azure, Apple: Core ML). Die weltweit forcierte Sammlung von Daten unter der Überschrift Big Data wird auf dem Gebiet der Medizin erheblich dazu beitragen können, neue Erkenntnisse zu gewinnen. Zugleich ist es jedoch schwierig, all diese Daten, die aus verschiedenen Quellen stammen, gezielt auszuwerten. Hinderlich wirkt sich eine Vielzahl unter- schiedlicher Systeme, Methoden, Standards und Formate aus, in denen die Daten erhoben und gespeichert werden, sodass sich eine „Silodatenhaltung“ entwickelt hat. Erschwerend kommt hinzu, dass die schon erfassten Daten häufig ohne einheit- liche Struktur vorliegen. Eine Standardisierung wäre sinnvoll, ist aufgrund der Viel- zahl von Akteuren jedoch schwer umsetzbar. KI könnte dazu beitragen, dieses Dilemma zu überwinden, indem sie beispielsweise unstrukturierte Dokumente für Auswertungen nutzbar macht und eine Vielzahl verschiedener Quellen für Auswer- tungen integriert, ohne dass zuvor in großem Maßstab Datenaufbereitungen vorge- nommen werden müssten. Forschung und Entwicklungen der vergangenen Jahre haben gezeigt, dass KI die Diagnostik und Behandlung von Patienten beschleunigen und verbessern kann. Da entsprechende Algorithmen jedoch anhand von Patientendaten erstellt werden, besteht das Risiko, dass insbesondere Betroffene seltener Erkrankungen nicht im sel- ben Maß profitieren können wie jene sogenannter Volkskrankheiten. Bei aller Eupho- rie und allen Hoffnungen, die in jüngster Zeit mit KI verbunden sind, bleibt jedoch festzuhalten, dass der Praxistest der vorgestellten Deep-Learning-Algorithmen viel- fach noch aussteht. Der Abbruch von Projekten mit IBM Watson (Rhön Kliniken, MD Anderson Kliniken) verdeutlicht, dass die an die Technologie gerichteten hohen Erwartungen aktuell vielfach noch nicht erfüllt werden können. Für die Hersteller ergeben sich zudem weitere Herausforderungen in Bezug auf die Zulassung entsprechender KI-Produkte: DL basiert auf der stetigen Weiterentwick- lung des Algorithmus durch die Nutzung neuer Patientendaten. Es handelt sich somit um ein sich ständig veränderndes und sich weiterentwickelndes System. Zwar gibt es beispielsweise in der Radiologie mittlerweile erste Entwicklungen, die das Einspeisen neuer Untersuchungsalgorithmen in die Kliniksysteme mit vergleichsweise wenig Aufwand erlauben, die ständige Weiterentwicklung wirft jedoch auch Fragen der Haftung und insbesondere der Zulassung auf. Dies gilt auch in Bezug darauf, wie DL-Algorithmen ihre Entscheidungen treffen. Für Entwickler ist aufgrund der hohen Komplexität der Systeme nicht immer nachvoll- ziehbar, welche Datenmerkmale zu bestimmten Ergebnissen führen (Black-Box-Prob- lem). Somit ist es schwierig, eventuelle Fehleinschätzungen der KI aufgrund zufälliger Korrelationen in den Trainingsdaten zu identifizieren. Dies kann ungewollte Folgen haben – schlimmstenfalls zum Schaden der Patienten (Bornstein 2016).