Studie zeigt KI-Fallstricke: Röntgenbilder enthüllen kuriose Verzerrungen
Eine Studie enthüllt, wie KI-Modelle in der medizinischen Bildgebung irrelevante Zusammenhänge erkennen und beispielsweise den Bierkonsum von Patienten anhand von Knie-Röntgenbildern „vorhersagen“. Diese Fehlschlüsse, verursacht durch Shortcut Learning, zeigen die Grenzen aktueller KI-Ansätze und deren Neigung, oberflächliche Muster in Trainingsdaten zu priorisieren.
- IT
KI in der medizinischen Bildgebung stößt an ihre Grenzen, wie eine Studie des Dartmouth College zeigt. Modelle, die über 25.000 Knie-Röntgenaufnahmen analysierten, leiteten bizarre Zusammenhänge wie den Bier- oder Bohnengenuss der Patienten ab, anstatt medizinisch relevante Merkmale zu erkennen. Dieses Phänomen, bekannt als Shortcut Learning, verdeutlicht, wie KI-Systeme oft versteckte Muster in Daten – etwa Unterschiede in der Röntgenausrüstung – priorisieren und dadurch verzerrte Ergebnisse liefern. Die Forscher warnen vor einer scheinbaren Genauigkeit solcher Modelle, da diese oft auf Datensatzartefakten beruhen und bei neuen Daten versagen. Um diese Herausforderungen zu bewältigen, sei es essenziell, KI-Systeme besser zu verstehen und deren Trainingsdaten gezielt zu hinterfragen…
winfuture.de
Gebündelt, stets aktuell und immer handverlesen werden alle Neuigkeiten gesammelt und anwenderbezogen aufbereitet.
