Charité und Vivantes warnen vor Sicherheitsrisiken durch KI in der Radiologie

Generative KI kann Kliniken entlasten, schafft aber neue Risiken für Diagnostik, Behandlung und IT-Sicherheit. Experten von Charité und Vivantes warnen, dass KI-Anwendungen nicht ohne lokale Prüfung in klinische Abläufe übernommen werden sollten.

Besonders sichtbar werden die Risiken bei KI-generierten Fälschungen. Ein KI-generiertes Abbild von Prof. Peter Vajkoczy warb für ein angebliches Alzheimer-Heilmittel. Eine Studie des Mount Sinai Hospital zeigte zudem, dass Radiologen aus zwölf Kliniken in sechs Ländern echte Röntgenbilder kaum von KI-generierten Fälschungen unterscheiden konnten. Werden solche Daten in Krankenhausinformationssysteme oder elektronische Patientenakten eingeschleust, entstehen zusätzliche Cybersicherheitsrisiken.

Ein weiteres Problem ist die Verlässlichkeit der Modelle. KI-Systeme arbeiten wahrscheinlichkeitsbasiert und können seltene Erkrankungen benachteiligen, wenn Trainingsdaten oder Optimierungsziele darauf nicht ausreichend ausgerichtet sind. Fehlerhafte, unvollständige oder nicht passende Datensätze erhöhen das Risiko von Fehlinterpretationen. Vivantes berichtet etwa von übersehenen postoperativen Pneumothorax-Befunden bei einer KI-Anwendung zur Lungenintervention.

Hinzu kommen Domänenverschiebungen, unterschiedliche Dokumentationsstandards und veränderte Patientengruppen. Modelle können schlechter funktionieren, wenn sie auf anderen Geräten, in anderen Versorgungseinheiten oder bei anderen Zielgruppen eingesetzt werden. Charité und Vivantes betonen deshalb mehrstufige Testphasen, klare Verantwortlichkeiten, interne Qualitätskontrollen und dauerhafte Feedbackschleifen. Die europäische KI-Verordnung soll zusätzlich Transparenz und Nachvollziehbarkeit stärken.