Charité und Vivantes fordern kritischen Umgang mit KI-Systemen

Generative KI kann radiologische Prozesse im Krankenhaus unterstützen, schafft aber zugleich neue Risiken für Diagnostik, Behandlung und IT-Sicherheit. Experten von Charité und Vivantes warnen davor, KI-Anwendungen ungeprüft in klinische Abläufe zu übernehmen.

Im radiologischen Umfeld können Large Language Models und generative KI den Dokumentationsaufwand senken, Bilddaten analysieren und Therapieentscheidungen unterstützen. Zugleich lassen sich ärztliche Abbilder, Arztbriefe, Gutachten und Röntgenbilder fälschen. Eine Studie des Mount Sinai Hospital zeigte, dass Radiologen aus zwölf Kliniken in sechs Ländern echte Röntgenbilder kaum von KI-generierten Fälschungen unterscheiden konnten.

Ein zentrales Problem ist die Verlässlichkeit der Modelle. Tobias Penzkofer von der Charité verweist darauf, dass KI nach Wahrscheinlichkeiten arbeitet und seltene Diagnosen benachteiligt werden können, wenn Trainingsdaten darauf nicht ausreichend ausgelegt sind. Tim Papalla von Vivantes beschreibt ein Beispiel aus der Lungenintervention, bei dem postoperative Pneumothoraxe in Bilddaten häufig übersehen wurden.

Weitere Risiken entstehen durch fehlerhafte oder unvollständige Trainingsdaten, Domänenverschiebungen, abweichende Geräte, andere Patientengruppen oder veränderte Versorgungseinheiten. Hinzu kommt Automation Bias, wenn Anwender KI-Empfehlungen wegen scheinbar plausibler Begründungen unkritisch übernehmen.

Vivantes setzt deshalb auf mehrstufige Testphasen, eigene Validierungen, begrenzte Praxistests und dauerhafte Feedbackloops. Nikos Stroglidis-Sieber, Leiter der Abteilung Digital Solutions & Patienten-Anwendungen bei Vivantes, fordert eine eigene Organisationsstruktur für KI-Einführungen, bevor Anwendungen aktiviert werden. Auch nach der Einführung bleiben kontinuierliche interne Qualitätskontrollen notwendig.