TU München deckt Schwächen von KI in der Notaufnahme auf: Potenzial ja, aber Praxis zeigt gravierende Defizite

Eine Studie der TU München zeigt auf, dass Large-Language-Models in der Praxis, insbesondere in der Notaufnahme, derzeit noch erhebliche Schwächen aufweisen. Trotz guter theoretischer Prüfungsleistungen schneiden die Modelle bei der autonomen Diagnosestellung und als Second Reader deutlich schlechter ab als menschliche Ärzte.

Die Technische Universität München hat die Praxistauglichkeit von Large-Language-Models (LLMs) in der Notaufnahme untersucht. Dabei nutzten die Forscher anonymisierte Daten von 2.400 Patienten mit Bauchschmerzen, um zu testen, wie gut LLMs in der Lage sind, eigenständig Diagnosen zu stellen oder als unterstützendes Werkzeug für Ärzte zu fungieren. Die Ergebnisse zeigen, dass die KI-Modelle im autonomen Einsatz nur knapp die Hälfte der Fälle korrekt lösen konnten. Auch als Zweitmeinung zur ärztlichen Diagnose schnitten sie signifikant schlechter ab. Die Studienautoren betonen, dass der Einsatz solcher Modelle im Klinikalltag aktuell noch mit großer Vorsicht zu genießen ist, da sie deutlich hinter der menschlichen Expertise zurückbleiben. Weitere Forschung sei notwendig, bevor LLMs sicher und effektiv in der medizinischen Praxis eingesetzt werden können…