Chatbots können Abhängigkeit fördern – Fachleute sehen dringenden Handlungsbedarf

Der Suizid des US-Teenagers Adam Raine nach intensiver ChatGPT-Nutzung hat die Diskussion um Risiken von KI-Chatbots neu entfacht. Seine Eltern verklagen OpenAI und werfen dem Unternehmen vor, Abhängigkeit bewusst gefördert zu haben. Schweizer Psychiaterinnen und Psychiater warnen, dass Kinder und Jugendliche besonders anfällig sind. Zwei Altersgruppen gelten als gefährdet, acht- bis zehnjährige Kinder und 13- bis 15-Jährige. Fachleute berichten von Betroffenen, die durch den intensiven Einsatz von Chatbots psychotische Symptome entwickelten oder Realität und Fantasie nicht mehr klar trennten.

Laut Studien haben bereits 71 Prozent der Jugendlichen in der Schweiz Erfahrungen mit KI gemacht, ein Drittel nutzt Chatbots regelmäßig. Viele junge Patientinnen und Patienten suchen zunächst Rat bei KI-Systemen und erscheinen mit falschen Diagnosen in der Therapie. Ärztinnen und Ärzte kritisieren fehlende Qualitätssicherung und warnen vor verspäteter Inanspruchnahme professioneller Hilfe.

Trotz bestehender Schutzmechanismen räumt OpenAI ein, dass diese bei längerer Nutzung versagen können. Das Unternehmen kündigte Verbesserungen und mehr Zusammenarbeit mit Fachleuten an. Kinder- und Jugendpsychiater Oliver Bilke-Hentsch hält dies für unzureichend. Er fordert staatliche Eingriffe und eine Altersbeschränkung ab 16 Jahren. Chatbots seien mit Suchtmitteln vergleichbar, ihre langfristigen Folgen noch kaum absehbar.