LLM in der Medizin: Experten fordern klare Rahmenbedingungen

Forschende warnen vor den Risiken unzureichend regulierter LLM-Anwendungen in der Medizin und fordern klare rechtliche Vorgaben, um deren sichere Nutzung zu gewährleisten.

Große Sprachmodelle (Large Language Models, LLMs) wie GPT-4 könnten die Gesundheitsversorgung revolutionieren, doch ihr Einsatz birgt erhebliche Risiken. Forscherinnen und Forscher des Else Kröner Fresenius Zentrums für Digitale Gesundheit an der Technischen Universität Dresden, darunter die Professoren Jakob N. Kather und Stephen Gilbert, betonen in der Fachzeitschrift The Lancet Digital Health die Notwendigkeit klarer rechtlicher Rahmenbedingungen für LLM-basierte Gesundheitsanwendungen. Diese Modelle gewinnen in Bereichen wie Diagnostik, Telemedizin und medizinischer Entscheidungsunterstützung zunehmend an Bedeutung, ihre unregulierte Verfügbarkeit auf dem Markt stellt jedoch eine Gefahr dar. Die Forscher fordern die konsequente Durchsetzung bestehender Vorschriften und die Entwicklung angepasster Bewertungsmethoden, um die Sicherheit dieser Technologien zu gewährleisten und die Zukunft der KI in der Medizin nachhaltig zu sichern…