Medizinisches Einheitsdenken durch KI: Das unterschätzte Risiko der Digitalisierung

Prof. Dr. Theodor Klotz warnt in seinem Gastkommentar vor einem strukturellen Risiko, das mit der flächendeckenden Einführung von KI in Praxen und Kliniken entsteht. Wenn Millionen Ärztinnen und Ärzte weltweit dieselben wenigen KI-Systeme nutzen, kann ein einzelner Systemfehler unbemerkt und gleichzeitig überall wirken.

Klotz benennt vier konkrete Schwachstellen. Erstens behandelt KI nicht alle Patienten gleich. Studien zeigen, dass identische Beschwerden je nach Herkunft oder Einkommenslage in der Akte unterschiedliche Empfehlungen erzeugen können. Zweitens neigen diese Systeme dazu, dem Nutzer zu gefallen statt zu widersprechen, und bestätigen so im Zweifel auch Irrtümer. Drittens reicht laut Untersuchungen bereits ein winziger Anteil gezielt eingeschleuster Falschinformationen aus, um Antworten eines medizinischen KI-Systems messbar zu verfälschen. Viertens beeinflussen Voreinstellungen, welches Medikament zuerst angezeigt wird, was Millionen Verschreibungen lenken kann. Hinter solchen Voreinstellungen können laut Klotz auch wirtschaftliche Interessen stehen.

Als Korrektiv schlägt er vor, medizinische Leitlinien von statischen Dokumenten in laufend aktualisierte, maschinenlesbare Wissensbasen umzuwandeln, die Fachgesellschaften pflegen. Damit bliebe die inhaltliche Kontrolle über das KI-Wissen bei der Ärzteschaft.

Für Patienten sieht Klotz keinen Grund zur Panik, betont aber, dass die ärztliche Verantwortung als letzte Instanz erhalten bleiben muss. Patienten sollten aktiv nachfragen, wie Empfehlungen zustande kommen.