KI-Chatbots im Klinikalltag: Chancen und Grenzen im Praxistest
Ein Praxistest zeigt Stärken und Risiken von KI-Chatbots im Klinikalltag. Verlässlichkeit bleibt fraglich…
- Data und KI
- Digitale Klinik
- Medizin
KI-Chatbots halten zunehmend Einzug in die klinische Versorgung. Sie bieten Unterstützung bei Diagnose und Therapieplanung und bestehen teils sogar Facharztprüfungen.
Ein Test von Dr. Peter Bonis, Chief Medical Officer bei Wolters Kluwer Health, zeigt jedoch gravierende Schwächen. Der Chatbot lieferte bei einer Standardfrage fehlerhafte Antworten, ohne wichtige Risikogruppen wie Schwangere zu berücksichtigen. Neben inhaltlichen Mängeln bestehen Probleme durch Halluzinationen, wechselnde Ergebnisse und Verzerrungen. Diese Risiken sind für Ärztinnen, Ärzte und Patientinnen potentiell dann gefährlich, wenn falsche Informationen unkritisch übernommen werden.
Dagegen betont die Mehrheit der Experten, dass GenAI großes Potenzial hat, wenn Qualitätskontrollen, klare Regeln und Prozesse greifen. Nur unter gesicherter klinischer Genauigkeit können Chatbots zu einer sinnvollen Ergänzung im Behandlungsalltag werden.
Weiterführende Informationen: Lesen Sie in unserem Leitartikel „KI im Krankenhaus 2025 – Chancen und Herausforderungen heute“, wie digitale Systeme Diagnostik, Therapie und Klinikorganisation verändern. Der Beitrag zeigt Potenziale und Risiken generativer KI und ordnet ein, welche Schritte für eine sichere Nutzung im Klinikalltag erforderlich sind.
Gebündelt, stets aktuell und immer handverlesen werden alle Neuigkeiten gesammelt und anwenderbezogen aufbereitet.
