KI-Chatbots in der psychischen Gesundheitsversorgung

Forschende der Medizinischen Fakultät der Universität Duisburg-Essen haben systematisch untersucht, welche Risiken KI-Chatbots für die psychische Gesundheit bergen. Ihre Ergebnisse erschienen als Übersichtsartikel in der Fachzeitschrift „npj Digital Medicine“. Grundlage war die Sichtung von mehr als 3.100 Veröffentlichungen, von denen 119 Arbeiten detailliert ausgewertet wurden.

Die Forschenden gliedern die Risiken in fünf Kategorien: direkte psychische und psychiatrische Gefahren etwa bei Suizidalität, Risiken für Verhalten und Beziehungen durch emotionale Bindungen, kognitive Abhängigkeit als Gefahr für Denkvermögen und Bildung, Sicherheitsrisiken durch Fehlinformationen sowie strukturelle Risiken wie Datenschutzprobleme.

Drei Aspekte stehen dabei besonders im Fokus: die Verminderung kritischen Denkens durch Nutzung als Lernhilfe, die Gefahr emotionaler Abhängigkeit und das Auftreten KI-assoziierter Psychosen.

PD Dr. Alexander Bäuerle, Bereichsleitung klinische Forschung und digitale Gesundheit an der LVR-Universitätsklinik Essen, warnt, dass bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen hilfreiche Unterstützung und Problemverstärkung verschwimmen könnten. Die Autoren sehen dringenden Forschungsbedarf, um KI-gestützte Anwendungen im Bereich psychischer Gesundheit auf einer sicheren Grundlage weiterzuentwickeln.