KIT-Kongress in Köln: Wenn KI bei Antibiotika-Dosierung zustimmt, statt zu widersprechen

Wenn KI falsche Medikamentendosierungen bestätigt statt zu korrigieren, wird sie zur klinischen Gefahr. Genau das zeigte der 17. Kongress für Infektionskrankheiten und Tropenmedizin (KIT) in Köln. Neben konkreten Anwendungserfolgen dokumentierten mehrere Vorträge strukturelle Schwächen aktueller KI-Modelle.

Assistenzarzt Jean-Luca Funk von der Universitätsklinik Freiburg demonstrierte, dass Google Gemini 3.1 Pro eine medizinisch falsche Antibiotika-Dosierung bei einer MSSA-Blutstrominfektion bestätigte. Der Grund: KI-Modelle sind darauf trainiert, zu bestätigen, nicht zu widersprechen. Bei komplexen Leitlinienfragen bezeichnete Funk die Halluzinationsrate als vergleichbar mit einem Münzwurf.

Prof. Dr. Dr. Adrian Egli von der Universität Zürich testete OpenAI- und Meta-AI-Modelle mit 29 typischen Laborfragen. Das beste Modell, ein Customised GPT von OpenAI, entsprach in 34,5 Prozent der Fälle der Lehrbuchmeinung. KI-Antworten überzeugten dabei Nicht-Experten stärker als erfahrene Mikrobiologen.

Medizinethiker Prof. Dr. Giovanni Maio von der Universität Freiburg verwies auf Studien, wonach 76 Prozent der Ärzte KI-Empfehlungen folgen, weil sie der KI mehr vertrauen als dem eigenen Urteil. Klinische Intelligenz dürfe jedoch nicht durch KI ersetzt werden.

Daneben präsentierten Forscher auch zahlreiche Erfolge. Ein Machine-Learning-Modell des Uniklinikums Dresden stimmte in 82 Prozent der Fälle mit Expertenentscheidungen zur Antibiotika-Anpassung auf Intensivstationen überein. An der Goethe-Universität Frankfurt nähert sich ein Mehrmodell-Algorithmus bei der Literaturrecherche menschlichen Reviewer-Ergebnissen an.