Herausforderungen für KI – Warum RAG in der Medizin kaum genutzt wird

Obwohl große Sprachmodelle wie GPT in vielen Bereichen erfolgreich eingesetzt werden, bleibt ihr Einsatz in der Medizin begrenzt. Ein aktueller Übersichtsartikel, an dem Forscher aus Genf, Tokio, Singapur und China beteiligt sind, nennt die Gründe. RAG-Systeme, die externe Datenquellen wie Leitlinien oder elektronische Krankenakten in die Antwortgenerierung einbeziehen, versprechen präzisere und aktuellere Antworten. Dennoch bleibt ihr klinischer Einsatz selten, da die Systeme teuer, komplex und oft nicht robust genug für sicherheitskritische Anwendungen sind. Zu den größten Hürden zählen die Vertrauenswürdigkeit der genutzten Daten, der hohe Rechenbedarf, die fehlende Mehrsprachigkeit und der Datenschutz. Auch die Verarbeitung multimodaler Daten, wie Bilder oder Audiodateien, stellt eine große Herausforderung dar. Trotz vielversprechender Ansätze wie lokal betreibbaren Modellen bleibt der klinische Alltag für RAG-Systeme eine anspruchsvolle Umgebung…