Kennzeichnungspflicht für KI-Inhalte: Was Kliniken seit August beachten müssen

Krankenhäuser, die KI-Systeme wie ChatGPT, Gemini oder Adobe-Produkte nutzen, sind seit dem 02. August an die Transparenzpflichten des EU AI Acts gebunden. Eine pauschale Kennzeichnungspflicht für alle KI-Inhalte besteht nicht, und für Inhalte, die vor diesem Datum entstanden sind, gilt keine rückwirkende Pflicht.

Bei Bildmaterial gilt, KI-generierte oder wesentlich manipulierte Bilder, Videos und Audios, die reale Personen, Orte oder Ereignisse täuschend echt darstellen, sind als Deepfakes kennzeichnungspflichtig. Unwesentliche Korrekturen wie Helligkeits- oder Farbanpassungen sowie abstrakte oder eindeutig unrealistische Motive sind ausgenommen.

Für Texte greift die Pflicht nur unter drei kumulativen Bedingungen: Der Text informiert über Angelegenheiten von öffentlichem Interesse, wurde ganz oder überwiegend durch KI erzeugt und unterlag keiner echten menschlichen redaktionellen Kontrolle. Gesundheitsbezogene Inhalte zählen ausdrücklich zum öffentlichen Interesse. Prüft das Krankenhaus einen KI-Text substanziell auf Richtigkeit, Vollständigkeit und mögliche Irreführung, entfällt die Kennzeichnungspflicht. Werbetexte, Marketingmaterial und interne Kommunikation sind grundsätzlich ausgenommen.

Wo eine Kennzeichnung erforderlich ist, muss sie klar, sichtbar und barrierefrei sein. Zulässige Bezeichnungen sind „KI-generiert“ bzw. „AI Generated“ und bei bearbeiteten Inhalten „KI-manipuliert“ bzw. „AI Modified“. Bei Bildern gehört die Kennzeichnung direkt ins Bild, bei Videos an den Anfang, bei Audioinhalten muss sie hörbar sein, bei Texten gut sichtbar nahe der Überschrift.

Autor Martin Schleicher, Teamleiter Online Marketing bei der Paul Gerhardt Diakonie gAG in Berlin, empfiehlt Kliniken, zunächst interne Prozesse und Regeln zu etablieren und die Pflichten konsequent, aber pragmatisch umzusetzen. Er weist darauf hin, dass eine KI-Kennzeichnung zwar Transparenz schafft, böswillige Manipulation jedoch nicht verhindert.