KI-Chatbots

Gefährliche Gesprächspartner bei Psychosen

Artikel drucken
AI © shutterstock
© shutterstock

Eine aktuelle Querschnittsanalyse testete drei ChatGPT-Versionen (GPT-5 Auto, GPT-4o, kostenlose Version) anhand von 79 Prompts mit psychotischem Inhalt: ungewöhnliche Gedankeninhalte, Misstrauen, Größenwahn, Wahrnehmungsstörungen und inkohärente Äußerungen. Alle Versionen lieferten in erheblichem Ausmaß unangemessene Antworten – mit Odds Ratios zwischen 9,08 (GPT-5 Auto) und 43,37 (kostenlose Version).

Besonders kritisch: Ein wesentlicher Anteil der Antworten verstärkte psychotische Symptome aktiv, anstatt sie zu erkennen. Die Autor:innen empfehlen daher, Patient:innen im Beratungsgespräch gezielt nach der Nutzung von KI-Sprachmodellen zu fragen.

Quelle
Shen E, et al. JAMA Psychiatry 2026 doi: 10.1001/jamapsychiatry.2026.0249

Das könnte Sie auch interessieren