KBV-Rechtsexperte: Medizinische KI nur mit Zertifikat und klarer Zweckbindung

Künstliche Intelligenz verändert den Berufsalltag von Ärztinnen und Ärzten. Christoph Weinrich von der Kassenärztlichen Bundesvereinigung unterscheidet dabei zwischen medizinischer und administrativer KI. Maßgeblich ist hierbei der europäische AI Act, welcher medizinische KI-Systeme als Hochrisikoprodukt einstuft. In Praxen dürfen daher nur zertifizierte Medizinprodukte im vorgesehenen Anwendungsbereich zum Einsatz kommen, während Chatbots unzulässig sind.

Eine zentrale Vorgabe für den Einsatz in der Praxis ist die menschliche Letztaufsicht. Mediziner müssen alle Ergebnisse prüfen, denn wer sich ungeprüft auf die Technik verlässt, erhöht das Haftungsrisiko. Die Verantwortung bleibt letztlich immer bei den Behandelnden. Praxen müssen zudem ihre Informationspflichten beachten und Patienten über den Einsatz von KI-Systemen aufklären. Bei administrativen Anwendungen reicht meist ein Hinweis aus, weil die Dokumentationspflicht ohnehin gesetzlich besteht. Bei medizinischer KI gehört der Einsatz zur Aufklärung über wesentliche Umstände der Behandlung. Der Datenschutz ist ebenfalls strikt zu beachten. Cloudbasierte Systeme müssen daher ohne Ausnahme den Vorgaben der europäischen Datenschutzgrundverordnung entsprechen. Praxen sollten sich dies vom Hersteller bestätigen lassen, da marktgängige Anwendungen diese Anforderungen laut Weinrich erfüllen.