KI auf Abwegen: Handschriftliche Notizen führen zu Fehldiagnosen
Kritischer Schwachpunkt entdeckt: KI-Systeme wie GPT-4o lassen sich durch handschriftliche Einträge auf medizinischen Bildern leicht in die Irre führen – mit potenziell gravierenden Folgen für die Diagnostik.
- IT
- Medizin
Forschende der Universitäten Mainz und Dresden haben eine zentrale Schwachstelle in multimodalen KI-Modellen identifiziert. In Tests mit Claude und GPT-4o zeigte sich: Bereits kleine visuelle Zusätze wie handschriftliche Anmerkungen oder Wasserzeichen auf histologischen Bildern beeinflussten die Bildanalyse massiv – oft mit falscher medizinischer Bewertung als Folge. Besonders problematisch: Die KI folgte fehlerhaften Textangaben selbst dann, wenn sie in Widerspruch zu den Bildinhalten standen. Für die Praxis bedeutet das: Versehen medizinischer Abbildungen mit Markierungen – etwa für Lehre oder Dokumentation – kann KI-Systeme fehlleiten. Da die untersuchten Modelle nicht gezielt für histopathologische Zwecke trainiert wurden, könnte spezialisierte Software robuster reagieren. Die Erkenntnisse unterstreichen die Notwendigkeit gezielter Qualitätsprüfungen, bevor KI-Tools in der klinischen Praxis eingesetzt werden.
msn.com
Gebündelt, stets aktuell und immer handverlesen werden alle Neuigkeiten gesammelt und anwenderbezogen aufbereitet.