Penn-State-Studie: Wie KI-Zweitmeinungen das Bild vom Arzt prägen

Eine Studie der Penn State University zeigt, dass KI-Zweitmeinungen die Arzt-Patienten-Beziehung direkt beeinflussen und das mit konkreten Folgen für Telemedizin und digitale Beratungsangebote. Stimmt ein KI-System dem Arzt zu, gilt dessen Einschätzung als glaubwürdiger. Widerspricht die KI, empfinden Patienten den Arzt als nachlässiger und die medizinische Situation als unsicherer.

Für die Studie entwickelten die Forscher einen KI-Chatbot, der als Arzt namens „Dr. Alex“ auftrat und 135 Teilnehmer in einer Online-Sitzung nach dem Ansatz der kognitiven Verhaltenstherapie beriet. Ein zweiter KI-Assistent namens CareBot stimmte der Empfehlung von Dr. Alex entweder zu oder widersprach ihr. Die Ergebnisse wurden im International Journal of Human-Computer Studies veröffentlicht.

Mehr als die Hälfte der Teilnehmer nahm den KI-simulierten Arzt als menschenähnlich wahr. Dieser Anthropomorphismus verstärkte die beobachteten Effekte: Positive wie negative Auswirkungen auf das Vertrauen traten vor allem dann auf, wenn der Arzt als besonders menschlich wahrgenommen wurde. Besonders ausgeprägt war der negative Effekt bei Personen, die KI grundsätzlich für präziser und objektiver halten als Menschen.

Die Forscher schlagen konkrete Kommunikationsstrategien vor. Ärzte könnten Widersprüche der KI implizit ansprechen, Gründe für Uneinigkeit erläutern und dabei ihre eigene Handlungskompetenz betonen. Als Beispiel nennt Sundar den Hinweis auf Datenlücken im KI-System, etwa wenn dessen Trainingsdaten die Bevölkerungsgruppe des Patienten nicht ausreichend abbilden.