KI-Zweitmeinung: Innovation mit Chancen und Risiken

Der Einsatz von KI für Zweitmeinungen in der Medizin stößt auf wachsendes Interesse, wirft aber erhebliche Fragen hinsichtlich Sicherheit, Genauigkeit und Verantwortung auf.

Immer mehr Menschen erwägen, künstliche Intelligenz bei medizinischen Fragen einzusetzen. Eine aktuelle Umfrage zeigt, dass bereits sechs Prozent der Deutschen KI-basierte Tools wie Symptomchecker-Apps nutzen. In Zukunft können sich 51 Prozent vorstellen, solche Technologien für eine Zweitmeinung zu nutzen. Während viele in KI eine Chance für die Medizin sehen, gibt es berechtigte Bedenken. Forscher der Technischen Universität München warnen vor grober Fahrlässigkeit beim Einsatz von Large Language Models (LLMs) in der Diagnostik. In einer Studie erwiesen sich KI-gestützte Systeme als deutlich weniger präzise als menschliche Ärzte und hielten sich häufig nicht an Behandlungsleitlinien. Die Ergebnisse zeigen, dass KI in der Medizin zwar Potenzial hat, ihr Einsatz aber streng überwacht und reguliert werden muss, um Patienten zu schützen. „Large Language Models könnten in Zukunft wichtige Werkzeuge für Ärztinnen und Ärzte werden, mit denen sich beispielsweise ein Fall diskutieren lässt. Wir müssen uns aber immer der Grenzen und Eigenheiten dieser Technologie bewusst sein und diese beim Erstellen von Anwendungen berücksichtigen“ sagt Daniel Rückert, Professor für Artificial Intelligence in Healthcare and Medicine an der TUM…