Dresdner Forschende entwickeln Konzept für selektive KI-Autonomie in der Medizin

Forschende am Else Kröner Fresenius Zentrum für Digitale Gesundheit der TU Dresden und am Dresdner Universitätsklinikum haben einen vollständig lokal betriebenen KI-Agenten entwickelt, der klinische Diagnosen zuverlässig unterstützt und dabei Datenschutz sowie Nachvollziehbarkeit gewährleistet. Die Ergebnisse erschienen in der Fachzeitschrift Nature Medicine.

Das System basiert auf dem im Juni 2026 vorgestellten KI-Agenten MIRA. In einer Simulationsumgebung interagierten zwei KI-Agenten miteinander: einer in der Arztrolle, einer in der Patientenrolle. Grundlage waren anonymisierte elektronische Patientendaten zu Erkrankungen wie Blinddarmentzündung, Lungenentzündung oder Lungenembolie. Das leistungsstärkste lokal betriebene Modell erzielte in zwei Tests eine diagnostische Genauigkeit von 84 und 90 Prozent. Für 181 zufällig ausgewählte Fälle stimmten automatisierte Bewertung und ärztlicher Konsens in über 90 Prozent überein.

Als zuverlässigster Indikator für korrekte Diagnosen erwies sich die Konsistenz. Kam die KI bei wiederholter Bearbeitung desselben Falls zum gleichen Ergebnis, war die Diagnose häufiger korrekt. Interne Wahrscheinlichkeitswerte des Modells waren dagegen weniger aussagekräftig, was ein Stresstest mit reduzierter Informationslage bestätigte.

Daraus leiten die Forschenden ein Konzept mit selektiver Autonomie ab: Zuverlässige Fälle bearbeitet das System eigenständig, unsichere gibt es zur Überprüfung an medizinisches Fachpersonal weiter. Der lokale Betrieb ermöglicht Kliniken, Datenschutz, Modellversionen und Zugriffsrechte institutionell zu steuern.

Offene Fragen bleiben: Die Studie zeigt Hinweise auf geringere Genauigkeit bei simulierten Fällen älterer Patienten. Zudem basieren alle Ergebnisse auf retrospektiven Simulationen. Klinische Erprobung unter Realbedingungen sowie die Reduktion des Rechenaufwands für die Zuverlässigkeitsbewertung sind nächste Schritte. An der Studie waren auch Wissenschaftler des Nationalen Centrums für Tumorerkrankungen Heidelberg beteiligt.