Maschinen mit Grenzen: Warum Vertrauen und Transparenz die wahren Schlüssel zur KI in der Medizin sind

Künstliche Intelligenz (KI) ist im Begriff, die medizinische Praxis grundlegend zu verändern. Im Interview mit der ETH-Forscherin Kerstin Lenhof wird deutlich, dass der Begriff KI oftmals missverstanden wird: Statt ein einheitliches Werkzeug zu sein, vereint er vielfältige Systeme mit unterschiedlichen Eigenschaften. Die Erwartung, dass Maschinen menschliche Arbeit ersetzen, greift zu kurz. Vielmehr verändern sich die Aufgaben, und neue Rollen entstehen – insbesondere im Umgang mit und der Überwachung von KI-Systemen.

Besondere Potenziale sieht Lenhof bei der Integration großer Datenmengen, der schnellen Entscheidungsfindung in Akutsituationen sowie der Entlastung durch Automatisierung repetitiver Aufgaben. In der personalisierten Krebstherapie eröffnet interpretierbare KI neue Wege zur Mustererkennung und Therapieanpassung. Gleichzeitig betont sie die Herausforderungen bei begrenzter Datenlage, der Gefahr von Overfitting und dem Bedarf an fairer, standardisierter Datengrundlage.

Zwei Formen von Transparenz rücken in den Fokus: technische Interpretierbarkeit und nachvollziehbare Informationsbasis über Herkunft, Training und Einschränkungen der Modelle. Nur durch klare Regularien, klinische Validierung und gesellschaftliche Akzeptanz kann Vertrauen in KI-Systeme entstehen.

Lenhof plädiert für ein Zusammenspiel von technischer Präzision und menschlicher Kompetenz. Sie sieht KI als Co-Pilotin in der klinischen Entscheidungsfindung, aber nur unter der Bedingung eines robusten ethischen und regulatorischen Rahmens. KI soll unterstützen, nicht ersetzen. Damit sie das kann, müssen alle Beteiligten verstehen, wie sie funktioniert und wo ihre Grenzen liegen.