Medizinische KI in der Cloud: Warum Krankenhäuser direkte Chatbot-Nutzung vermeiden sollten

Krankenhäuser dürfen Gesundheitsdaten mit KI-Systemen nur unter engen datenschutzrechtlichen und sicherheitstechnischen Bedingungen verarbeiten. Direkte Eingaben in webbasierte Chatbots mit Modellen wie GPT-4, Claude oder Gemini kommen nicht infrage. Als praktikabler Weg bleiben vor allem logisch getrennte Instanzen bei großen Cloud-Anbietern.

Schon bei Beschaffung und Entwicklung müssen Krankenhäuser auf die Architektur des KI-Modells achten. Patientendaten dürfen weder in das Training noch in die Optimierung eines Modells einfließen. Anbieter sollen eigene Instanzen bereitstellen, damit Daten getrennt von anderen Mandanten verarbeitet werden. Wer vollständige Kontrolle anstrebt, muss Open-Source-Modelle wie Llama oder Mistral selbst oder in Deutschland hosten.

Mit externen Dienstleistern müssen Krankenhäuser Verträge zur Auftragsverarbeitung nach Art. 28 Abs. 3 DSGVO schließen. Zusätzlich müssen sie Anforderungen aus § 203 Abs. 4 StGB vertraglich absichern, auch für Subdienstleister. Microsoft bietet dafür eine Zusatzvereinbarung an. Für AWS und Google Cloud nennt der Text keine entsprechende Standardregelung.

Sobald Cloud-Diensteanbieter Gesundheitsdaten verarbeiten, verlangt § 393 SGB V nach dieser Einordnung ein C5-Typ2-Testat und eine Niederlassung in Deutschland. Microsoft Azure, AWS und Google Cloud erfüllen diese Anforderungen für ihre Plattformen. OpenAI und Anthropic erfüllen sie nach aktuellem Stand nicht. Für cloudbasierte medizinische KI erscheint damit derzeit vor allem Azure OpenAI Services als tragfähig, auch wenn der US CLOUD Act Restrisiken offenlässt.