KI-Sprachmodelle in der Medizin: Potenzial versus Risiko

Der Einsatz von Sprachmodellen wie GPT-4 in der Medizin bietet großes Potenzial, stellt aber auch erhebliche Sicherheits- und Regulierungsherausforderungen dar, die dringend gelöst werden müssen.

Große Sprachmodelle wie GPT-4 werden zunehmend in der Medizin eingesetzt, um die Diagnose, Behandlung und Pflege von Patienten zu unterstützen. Trotz ihres Potenzials gibt es erhebliche Bedenken hinsichtlich ihrer Sicherheit, da die Ergebnisse variieren können und das Risiko von „Halluzinationen“ besteht, bei denen die Modelle erfundene Aussagen generieren. Die Zulassung von KI-basierten Anwendungen als Medizinprodukte stellt die Behörden in den USA und der EU vor große Herausforderungen. Experten wie Prof. Dr. Jakob N. Kather und Prof. Dr. Stephen Gilbert von der TU Dresden betonen die Notwendigkeit, geeignete Bewertungsmethoden zu entwickeln und bestehende gesetzliche Vorgaben durchzusetzen, um einen sicheren Einsatz dieser Technologien in der medizinischen Praxis zu gewährleisten…