Von Bias über Präzision bis Datenschutz: Herausforderungen der KI-Entwicklung im Gesundheitswesen

Reinhard Heckel, Professor für Maschinelles Lernen an der TUM, erklärt, wie entscheidend die Qualität und Auswahl der Daten für das Training von KI-Systemen ist, um Verzerrungen zu vermeiden und Datenschutz zu gewährleisten, insbesondere im medizinischen Kontext.

Daten sind das Herzstück moderner KI-Systeme, erklärt Professor Reinhard Heckel von der Technischen Universität München. Gerade bei großen Sprachmodellen wie ChatGPT ist die Qualität und Quantität der Daten entscheidend, da diese Modelle nur die Fragen beantworten können, auf die sie trainiert wurden. Die Herausforderungen sind vielfältig: Wie kann sichergestellt werden, dass die KI keine Verzerrungen, sogenannte Bias, aufweist und wie kann der Datenschutz, insbesondere bei medizinischen Daten, gewährleistet werden? Die Auswahl der Trainingsdaten ist dabei ganz entscheidend, um unerwünschte Stereotypen zu vermeiden. Im medizinischen Kontext ist darüber hinaus die Genauigkeit der Daten von entscheidender Bedeutung, da sie sich direkt auf die Ergebnisse auswirkt. Gleichzeitig wird das Problem von Sprachen mit geringer Datenverfügbarkeit deutlich, das die Leistung von KI-Modellen in diesen Sprachen beeinträchtigt. Trotz der Anonymisierung von Patientendaten bleibt das Risiko, dass aus diesen Daten Rückschlüsse gezogen werden können, bestehen, was eine umfassende Aufklärung der Patienten erfordert. Wie werden wir in Zukunft mit diesen Herausforderungen umgehen? …