‚Model Identity Certificate‘ soll Transparenz bei medizinischer KI sichern
KI hält Einzug in den Klinikalltag, doch Vertrauen bleibt Mangelware. Die CARS-Konferenz setzt deshalb auf ein digitales Gütesiegel für medizinische KI-Modelle. Ziel ist ein „model identity certificate“, das nachvollziehbare Qualität belegt. Gefordert sind transparente Quellen, belastbare Standards und interdisziplinäre Kontrolle. Denn wer Algorithmen bei OP-Entscheidungen nutzt, muss wissen, ob sie auf Evidenz basieren und nicht auf Profitinteresse.
- IT
- QM
Die diesjährige CARS-Konferenz in Berlin rückte ein zentrales Thema in den Fokus: Vertrauen in KI-Systeme im Gesundheitswesen. Insbesondere sogenannte „Modell Guided Medicine“-Anwendungen stehen im Mittelpunkt, also KI-gestützte Modelle, die personalisierte Daten aus Patientenakten, Genetik und Bildgebung kombinieren, um Behandlungsentscheidungen zu unterstützen.
Laut Professor Dr. Heinz Lemke, Mitbegründer der CARS, ist der künftige Einsatz solcher Systeme ohne standardisierte Nachvollziehbarkeit nicht verantwortbar. Für chirurgische Anwendungen, etwa bei robotergestützten Tumoroperationen, stellt sich die Frage, auf welchen Grundlagen die Modelle operieren, ob sie evidenzbasiert arbeiten oder auf kommerziellen Interessen beruhen.
Um diese Lücke zu schließen, schlägt CARS ein „Model Identity Certificate“ (MIC) vor. Dieses Zertifikat soll Herkunft, Qualität und Transparenz von KI-Modellen dokumentieren. Es wäre ein Schritt hin zu einem digitalen Vertrauenssiegel, das den klinischen Einsatz solcher Systeme wissenschaftlich absichert. Damit würde auch der regulatorische Zugang erleichtert, etwa für Behörden wie die FDA.
Professor Dr. Thomas Schmitz-Rixen von der Deutschen Gesellschaft für Chirurgie unterstreicht, das KI nicht zur Blackbox im OP werden darf. Kliniker:innen brauchen verlässliche Kriterien, um den Einsatz solcher Systeme verantworten zu können. CARS fordert daher die Wissenschaftsgemeinschaft auf, fächerübergreifende Standards zu entwickeln.
Die CARS-Konferenz fand zum 40. Mal statt und betonte erneut die Rolle medizinischer Informatik für die Zukunft der Patientenversorgung.
management-krankenhaus.de
Gebündelt, stets aktuell und immer handverlesen werden alle Neuigkeiten gesammelt und anwenderbezogen aufbereitet.