Scoping Review: EU-Regelwerk für KI-Medizinprodukte ist prinzipienstark, aber kennzahlenschwach

Ein Scoping Review mit 126 Publikationen aus den Jahren 2022 bis 2025 zeigt, dass das zentrale Problem bei der Regulierung medizinischer KI in der EU nicht in fehlenden Regeln liegt, sondern in deren fehlender Operationalisierung. Prinzipien wie Robustheit, Fairness und menschliche Aufsicht sind vorgeschrieben, einheitliche Kennzahlen und prüfbare Nachweise dafür fehlen jedoch weitgehend.

Federführend von Svenja Reisinger, Promovierende an der Professur für Digital Public Health, und in Zusammenarbeit mit der Deutschen Akkreditierungsstelle (DAkkS) entstanden, bündelt die Arbeit erstmals systematisch die fragmentierte Literatur zur risikoadjustierten Konformitätsbewertung. Die Befunde gliedern sich in sechs Themenfelder: Schnittstelle zwischen AI Act und MDR/IVDR, Risikoklassifizierung, Lebenszyklus-Governance, Haftung und Marktüberwachung.

Besonders problematisch ist die Zertifizierung lernender Systeme. KI, die sich durch Updates, Neutraining oder Data Drift fortlaufend verändert, passt schlecht zu einer einmaligen Konformitätsbewertung. Unklar geregelte Überwachungspflichten drohen die Verantwortung auf klinisches Personal zu verlagern, das die Leistung solcher Systeme im Alltag kaum prüfen kann.

Auffällig ist, dass nur 6 der 126 ausgewerteten Arbeiten empirisch sind. Das Feld ist normativ weit entwickelt, empirisch aber dünn.

Die Autoren empfehlen harmonisierte Nachweisanforderungen zu Robustheit, Bias und Unsicherheit, klare Lebenszyklus-Verantwortung sowie den gezielten Kapazitätsaufbau bei benannten Stellen.