AKEK will eigene Richtlinien für den Einsatz von KI in Ethikkommissionen entwickeln
KI kann Ethikkommissionen bei Begutachtungs- und Verwaltungsprozessen unterstützen, die Verantwortung muss jedoch beim Menschen bleiben. Darin waren sich die Teilnehmenden der 44. AKEK-Jahrestagung in Berlin einig…
- Data und KI
- QM
Die Arbeit der Ethikkommissionen wird sich durch Künstliche Intelligenz in den kommenden Jahren wesentlich verändern. Der Arbeitskreis Medizinischer Ethikkommissionen in der Bundesrepublik Deutschland (AKEK) will diese Entwicklung nach den Worten seines Vorsitzenden Georg Schmidt nicht nur begleiten, sondern aktiv mitgestalten. Dafür sollen die Ethikkommissionen eigene Richtlinien für den Umgang mit den neuen Werkzeugen entwickeln.
Auf der 44. Jahrestagung des AKEK in Berlin waren sich die Teilnehmenden einig, dass KI Begutachtungs- und Verwaltungsprozesse unterstützen kann. Die Verantwortung für die Entscheidungen muss jedoch beim Menschen bleiben. Der AKEK will dazu weitere Treffen vereinbaren.
Dirk Heckmann, Inhaber des Lehrstuhls für Recht und Sicherheit der Digitalisierung an der Technischen Universität München und Mitglied des Bayerischen Verfassungsgerichtshofs, plädiert dafür, menschliche Urteilskraft und technische Unterstützung optimal zu verbinden. Die Maschine übernehme Routineaufgaben und bereite Informationen auf, der Mensch bringe Expertise und Urteilskraft ein. Zunächst gelte es, genau festzulegen, für welche Aufgaben KI eingesetzt werden soll.
Heckmann warnt davor, Effizienz zum Selbstzweck zu machen. Es dürfe nicht das Ziel sein, mit KI in derselben Beratungszeit einfach mehr Fälle zu bearbeiten. Die gewonnene Zeit müsse vielmehr der Qualität der Begutachtung zugutekommen, etwa bei der sorgfältigen Prüfung besonders komplexer Einzelfälle.
Marcello Ienca, Professor für Ethik von KI und Neurowissenschaften an der Technischen Universität München und stellvertretender Direktor des Instituts für Geschichte und Ethik der Medizin, hält den Einsatz von KI für unstrittig. Entscheidend seien die Bedingungen, unter denen dies geschehe. Ethikkommissionen müssten weiterhin ihrer Schutzpflicht gegenüber den Studienteilnehmenden nachkommen.
Ienca verweist auf die Chancen von KI. Da Ethikkommissionen ihre Bewertungen schnell vornehmen müssen, besteht die Gefahr, dass wichtige Details übersehen werden. Hier könne KI einen Beitrag leisten. Sie könne Dokumente systematisch abgleichen sowie Vollständigkeit und Verständlichkeit von Unterlagen prüfen. Zudem könne sie Informationen für unterschiedliche Zielgruppen aufbereiten, die Gleichbehandlung von Anträgen verbessern und wiederkehrende Mängel identifizieren.
Vertraulichkeit, Transparenz und menschliche Verantwortung müssten gewährleistet sein, so Ienca. Die beste Ethikkommission sei weder eine, die grundsätzlich auf KI verzichtet, noch eine, die ihre Entscheidungen der Technik überlässt. Ienca formuliert es so. „Wer validierte KI ignoriert, verfehlt die Sorgfalt. Aber wer sie unkritisch nutzt, verspielt das Vertrauen.“
Sonja Mathes, Ärztin am Universitätsklinikum der Technischen Universität München, fragt, welche Arbeitsschritte sich automatisieren oder auslassen lassen, ohne die Qualität zu gefährden. Auch Qualität und Gestaltung eingereichter Unterlagen könnten sich verändern. Kommissionen müssen KI-generierte Texte deshalb kritisch prüfen.
Mathes war am Aufbau des neuen Studientools eTIC+ (Electronic Trial Information Companion Plus) beteiligt. Es ersetzt ab sofort schrittweise bis zum Jahresende das bisherige Onlinetool eTIC zur Erstellung von Antragsunterlagen für Ethikkommissionen.
Gebündelt, stets aktuell und immer handverlesen werden alle Neuigkeiten gesammelt und anwenderbezogen aufbereitet.