Einige ChatGPT-Nachrichten können sich auf psychische Notfälle beziehen

Laut BBC-Berichten hat OpenAI neue Schätzungen zur Anzahl der ChatGPT-Benutzer veröffentlicht, die Anzeichen möglicher psychischer Notfälle, darunter Psychosen oder Selbstmordgedanken, aufweisen.

Das Unternehmen schätzt, dass etwa 0,07 Prozent der wöchentlich aktiven ChatGPT-Nutzer Nachrichten zu psychischen Notfällen erhalten. Dies deutet darauf hin, dass diese Fälle „extrem selten“ seien. Da die Zahl der wöchentlich aktiven ChatGPT-Nutzer jedoch kürzlich 800 Millionen erreichte, könnte dieser winzige Prozentsatz laut OpenAI-CEO Sam Altman Hunderttausende ausmachen.

Das Unternehmen schätzte außerdem, dass 0,15 Prozent der ChatGPT-Benutzer an Gesprächen teilnahmen, die „klare Hinweise auf eine mögliche Selbstmordplanung oder -absicht“ enthielten.

In seiner Erklärung zu den Vorhersagen wies das Unternehmen darauf hin, dass ChatGPT mit den jüngsten Updates des Chatbots so konzipiert sei, dass er „sicher und einfühlsam auf mögliche Anzeichen von Wahnvorstellungen reagiert“ und „indirekte Anzeichen einer möglichen Selbstverletzung oder eines Suizidrisikos“ erkennt.

„Auf einer Plattform mit Hunderten Millionen Nutzern mögen 0,07 Prozent wie ein kleiner Prozentsatz erscheinen, aber es könnte tatsächlich ziemlich viel sein“, sagte Jason Nagata, außerordentlicher Professor an der University of California.

„KI kann den Zugang zu Unterstützung bei psychischen Problemen erweitern und die psychische Gesundheit in gewisser Weise unterstützen, aber wir müssen uns der Einschränkungen bewusst sein“, sagte Nagata.