Fehlende Datenvielfalt gefährdet KI-Qualität in der Medizin

KI-Anwendungen im Gesundheitswesen müssen ihren Nutzen für Patienten nachweisbar belegen. Das war die zentrale Forderung beim w-HIT Breakfast „AI in Healthcare“ am 22. September 2026 in Wien, organisiert vom österreichischen Netzwerk Women in Health IT.

Fachleute aus Medizin, Recht, Technologie und Patientenorganisationen diskutierten Voraussetzungen für einen verantwortungsvollen KI-Einsatz. Markus Holzer, Gründer von Contextflow, betonte, Vertrauen setze voraus, dass Anwender die Grenzen eines Systems kennen. KI verändere Arbeitsabläufe etwa in der Radiologie, ersetze aber nicht die ärztliche Verantwortung. Anwendungen wie Cancer4D von Aileen Health zeigen bereits, wie KI Therapieentscheidungen bei Brustkrebs unterstützen kann.

Ein zentrales Problem ist, dass die Qualität von KI von der Vielfalt ihrer Trainingsdaten abhängt. Gruppen wie Frauen und Kinder sind in Gesundheitsdaten oft unterrepräsentiert. KI dürfe bestehende blinde Flecken nicht reproduzieren, so der Konsens.

Auch die Patientenperspektive kam zur Sprache. Viele Patienten nutzen KI bereits zur Symptomrecherche. Die Fachleute sahen es als ihre Aufgabe, KI-Ergebnisse verständlich zu machen. w-HIT-Präsidentin Irene Fialka forderte zudem mehr weibliche Beteiligung in Forschung, Entwicklung und Entscheidungspositionen.