KI im Klinikalltag: Ohne klare Prüfstandards kein Vertrauen

Künstliche Intelligenz ist aus der Medizin nicht mehr wegzudenken. Ihr Einsatz birgt Chancen, aber auch erhebliche Risiken. Fehlentscheidungen können Leben kosten. Deshalb sind einheitliche Anforderungen, klare Qualitätskriterien und belastbare Prüfverfahren notwendig. Regulatorische Vorgaben wie die MDR und der EU AI Act schaffen die entsprechenden rechtlichen Rahmenbedingungen. Sie verankern Kriterien wie Genauigkeit und Robustheit und ordnen KI-Systeme nach Risikoklassen ein.

Die klinischen Anforderungen gehen jedoch noch weiter: KI muss vor ihrem Einsatz in Studien validiert werden. Das internationale Framework „Clinical Evaluation of AI for Health“ empfiehlt dafür einen vierphasigen Prozess – von der Konzeption bis zum kontinuierlichen Monitoring. Ergänzend spielen ethische und gesundheitsökonomische Aspekte eine Rolle.

In der Praxis müssen Qualitätskriterien prüfbar sein. Werkzeuge wie Relevanzkarten oder Concept Activation Vectors helfen dabei, die Erklärbarkeit sicherzustellen. Erklärbare KI ist der Schlüssel, um das Vertrauen von Ärzt:innen und Patient:innen zu gewinnen. Globale Ansätze wie „SemanticLens” gehen noch einen Schritt weiter und analysieren komplette Entscheidungsprozesse.

Ein im BSI-Projekt 540 entwickeltes Prüfschema bewertet Kriterien wie Leistungsfähigkeit, Robustheit und Unsicherheit. Dabei werden Messwerte mit Referenzwerten verglichen und gewichtet.

Der nächste Schritt ist die Standardisierung. Nationale und internationale Organisationen wie DIN, ISO und ITU arbeiten bereits an entsprechenden Normen für Prüfung und Zertifizierung. Das Ziel besteht darin, ein harmonisiertes Vorgehen zu etablieren, das Sicherheit und Innovation verbindet.