Ärztetag warnt vor Risiken des „Digital Omnibus“ für Patientenschutz und Haftung

Der Deutsche Ärztetag sieht im geplanten „Digital Omnibus“ der EU-Kommission erhebliche Risiken für Patientensicherheit, ärztliche Aufsicht und den Schutz persönlicher Behandlungsdaten. Die Delegierten fordern, dass Hochrisiko-KI in Medizinprodukten nur unter ärztlicher Kontrolle eingesetzt wird. Ohne ärztliche Freigabe dürfe es keine KI-Entscheidung geben.

Hintergrund ist der Plan der EU-Kommission, den regulatorischen Aufwand für Medizinprodukte-Hersteller zu senken. Medizinprodukte mit KI sollen weitgehend von Vorschriften der KI-Verordnung befreit werden. KI-bezogene Anforderungen, die die Medizinprodukteverordnung bislang nicht abdeckt, sollen dort integriert werden. Die Bundesärztekammer kritisiert, dass damit auch Vorgaben für Hochrisiko-KI-Systeme, darunter menschliche Aufsicht, geschwächt werden könnten.

Der Ärztetag fordert, dass Ärztinnen und Ärzte erkennen können, ob ein Medizinprodukt KI enthält. Sie müssten KI-Systeme nicht verwenden, deren Ergebnisse ignorieren, rückgängig machen oder den Betrieb unterbrechen können. Zudem dürften Ärzte nicht für Fehler, Fehlfunktionen oder unzutreffende Ergebnisse haften, wenn KI bestimmungsgemäß eingesetzt wird.

Kritisch sieht der Ärztetag auch geplante Änderungen beim Begriff anonymisierter Daten. Anonymisierung dürfe nur gelten, wenn Personen nach dem Stand der Technik nicht re-identifiziert werden können. Das Ärzteparlament fordert Bundesgesundheitsministerium, gematik, BSI und Bundesdatenschutzbeauftragte auf, entsprechend auf den EU-Gesetzgeber einzuwirken.