KI in der Gesundheitsversorgung: Qualität und Nutzenvorteile als Schlüsselfaktoren

Zu viele Patient:innen, zu viel Bürokratie: Das Personal in Kliniken ist chronisch überlastet, und der Einsatz künstlicher Intelligenz erscheint vielen daher verlockend. Vor diesem Hintergrund diskutierten Jens Schneider (Universitätsklinikum Halle / Geschäftsführer der TeleSan GmbH) und Anna Kula, Ärztin und Clinical Solutions Consultant bei Wolters Kluwer, über tragfähige Ansätze zur technologischen Unterstützung. Die Runde moderierte die Journalistin Claudia Dirks.

Hohe Risiken von Schatten-KI

Dass ungeprüfte KI-Tools, darunter kostenfreie Lösungen, am Arbeitsplatz Einsatz finden, sei mit erheblichen Risiken verbunden, unterstrich Kula. Sie sind nicht von der jeweiligen Einrichtung anerkannt und oft weder transparent noch validiert – es ist unklar, woher die Informationen stammen, ob die zugrunde liegende Datenbasis evidenzbasiert ist, wie belastbar die Qualität der Informationen ist, und wie oft sie aktualisiert werden. Für Wolters Kluwer habe die Weiterentwicklung etablierter Lösungen einen hohen Stellenwert – allerdings mit einem klaren Fokus auf Qualität und Zuverlässigkeit.

Generative KI für UpToDate

Das interdisziplinäre Team von UpToDate^®, dem evidenzbasierten System zur klinischen Entscheidungsfindung, beschäftigt sich seit vielen Jahren mit der Entwicklung und dem Einsatz modernster Technologien – einschließlich Künstlicher Intelligenz – und verfolgt dabei einen konsequent verantwortungsvollen Ansatz. „Schwerpunkte bilden dabei Qualität, Transparenz und klinische Expertise“, so Kula. Die Funktionalitäten der generativen KI wurden von Mediziner:innen entwickelt und sind daher konsequent an den Bedürfnissen der klinischen Praxis ausgerichtet. Sie werden fortlaufend von einem Team aus klinischen Expert:innen, Entwickler:innen und KI-Spezialist:innen überprüft. Dank eines konsequenten „Expert-in-the-Loop“-Ansatzes kann die generative KI erfolgreich eingesetzt werden. Die KI-Lösung basiert auf UpToDate-Inhalten – das bedeutet, dass sie ausschließlich auf von klinischen Expert:innen verfasste, kontinuierlich aktualisierte und evidenzbasierte Inhalte von UpToDate zurückgreift. 

In einer kurzen Live-Demo erklärte Kula, wie die Lösung in der Praxis funktioniert. Ein deutschsprachiger Anwendungsfall zeigte, wie das System die klinische Fragestellung transparent aufschlüsselt und seine Schlussfolgerungsschritte offenlegt, sodass Nutzer:innen nachvollziehen können, woher die Informationen stammen. Diese Transparenz ist in der Medizin von entscheidender Bedeutung: Ärzt:innen sollten jederzeit in der Lage sein, die zugrunde liegenden Quellen schnell zu überprüfen  Etwa 180 Schritte waren erforderlich, um die Antwort zu generieren. Zudem zeigt die Demo Annahmen auf, die es den Nutzer:innen ermöglichen, bei Bedarf einen Schritt zurückzutreten und wichtige Details zur Frage zu ergänzen oder zu ändern, um gegebenenfalls eine bessere Antwort zu erhalten. Anschließend gelangt das System zu einer konsolidierten Antwort inkl. Quellenangaben und Links zu UpToDate.

Blick auf die Durchsetzung von KI

Jens Schneider ist nicht nur am Universitätsklinikum Halle tätig, sondern auch als Vorstand der Deutschen Gesellschaft für KI in der Medizin (DGKIMED). Im Hinblick auf Schatten-KI merkte Schneider an, Ärzt:innen seien auch Privatmenschen – und was privat funktioniere, werde von manchen ebenfalls beruflich eingesetzt … der gefühlte Nutzen führe dazu. Die zahlreichen bislang analogen Prozesse in Diagnose, Therapie und Entlassung „schreien förmlich“ nach der Digitalisierung.

Diese Lücke zwischen Bedarf und Angebot müsse gefüllt werden. Welche Lösungen gut seien, bleibe weiter auszudifferenzieren. Dabei, so Schneider, habe die Einhaltung regulatorischer Vorgaben wie Informationssicherheit und Datenschutz Vorrang, auch wenn sich manche eine höhere Geschwindigkeit bei der Durchsetzung wünschten. Und: eine Art Beipackzettel müsse transparent das „Wie und Wozu“ der Lösung erklären – „so schaffen wir Vertrauen und Akzeptanz“.

Neuer Arbeitsstandard

KI ermögliche mehr Effizienz und setze wertvolle Zeit frei. Sie entwickle sich daher zum neuen Arbeitsstandard für Mediziner:innen, fuhr Schneider fort. Um Akzeptanz zu erreichen, müsse der Nutzen klar vermittelt, und Haftungsfragen müssten geklärt werden. Zur Unterstützung von Entwicklungsaktivitäten fordere die DGKIMED für Industrie und Kliniken einen geschützten Raum. Dort könnten Kommunikation und Austausch auf dem Weg zu tragfähigen Lösungen stattfinden. Weiterführende Informationen zum Thema finden Sie hier: „Von der Evidenz zur KI: Warum die Herkunft von Daten bei der klinischen Entscheidungsunterstützung essenziell ist“.