MIT-Forscherin warnt: KI kann medizinische Versorgung verzerren
KI-Systeme können in der Medizin Fehlentscheidungen treffen, besonders bei Frauen. Die MIT-Forscherin Marzyeh Ghassemi fordert strengere Kontrollen und diverse Datensätze, sieht aber auch Chancen für mehr Gerechtigkeit…
- Data und KI
- Medizin
- QM
Die MIT-Professorin Marzyeh Ghassemi untersucht die Risiken von Künstlicher Intelligenz im Gesundheitswesen. In Studien zeigte ihr Team, dass bereits kleine Schreibfehler in Patient:innenakten die Empfehlungen von KI-Systemen deutlich verändern können. Das kann dazu führen, dass notwendige Behandlungen nicht erfolgen. Besonders betroffen sind laut den Ergebnissen Frauen, auch wenn Hinweise auf das Geschlecht aus den Daten entfernt wurden.
Ghassemi weist darauf hin, dass diskriminierende Muster in der Medizin durch KI verstärkt, aber auch sichtbar gemacht werden. In einer früheren Untersuchung konnte ihr Team zeigen, dass eine KI den ethnischen Hintergrund von Menschen anhand von Röntgenbildern erkennt. Sie fordert deshalb, dass Systeme mit vielfältigen, repräsentativen Daten trainiert werden und Ärztinnen und Ärzte die Befugnis behalten, Empfehlungen der KI zu überstimmen.
Neben allen Risiken sieht die Forscherin die Chance, dass der breite Einsatz von KI Vorurteile im Gesundheitssystem aufdecken und langfristig abbauen kann. Sie betont jedoch, dass gesetzliche Standards erforderlich sind, um eine sichere und faire Nutzung zu gewährleisten.
