OpenAI, das Unternehmen hinter dem beliebten Chatbot ChatGPT, hat einen Schritt unternommen, um den wachsenden Bedenken hinsichtlich des Einflusses künstlicher Intelligenz auf die psychische Gesundheit Rechnung zu tragen, indem es einen Expertenrat eingerichtet hat, der sich auf das Wohlbefinden der Benutzer und die KI-Sicherheit konzentriert. Diese achtköpfige Gruppe wird die Aufgabe haben, Standards für einen gesunden Umgang mit KI in verschiedenen Altersgruppen zu definieren.
Die Ankündigung erfolgte zusammen mit einer kontroversen Aussage von OpenAI-CEO Sam Altman auf X (ehemals Twitter). Während Altman behauptete, das Unternehmen habe „schwerwiegende psychische Gesundheitsprobleme“, die von seinen Produkten herrühren, erfolgreich gemildert, gab er auch bekannt, dass ChatGPT bald mehr Inhalte für Erwachsene zulassen würde, einschließlich sexuell eindeutigem Material in Gesprächen. Dieser Schritt kommt für OpenAI zu einem prekären Zeitpunkt, da das Unternehmen mit seiner ersten Klage wegen unrechtmäßiger Tötung konfrontiert ist, in der behauptet wird, ChatGPT habe zum Selbstmord eines Teenagers beigetragen.
Der neue Rat von OpenAI besteht aus Wissenschaftlern renommierter Institutionen wie dem Digital Wellness Lab des Boston Children’s Hospital und der Digital Mental Health Clinic in Stanford. Hinzu kommen Spezialisten für Psychologie, Psychiatrie und Mensch-Computer-Interaktion. Das Unternehmen betont sein Engagement für eine verantwortungsvolle Entwicklung und erklärt, dass es „für die Entscheidungen, die wir treffen, weiterhin verantwortlich bleibt, aber weiterhin von diesem Rat lernen wird … während wir fortschrittliche KI-Systeme auf eine Weise entwickeln, die das Wohlbefinden der Menschen unterstützt.“
Trotz dieses proaktiven Schritts bleibt das Vertrauen der Öffentlichkeit in die Rolle der KI für die psychische Gesundheit gering. Eine aktuelle YouGov-Umfrage unter 1.500 Amerikanern ergab, dass nur 11 % offen dafür waren, KI für das psychische Wohlbefinden einzusetzen, und nur 8 % zeigten Vertrauen in ihre Sicherheit und Wirksamkeit. Diese Skepsis spiegelt umfassendere Ängste im Bereich der psychischen Gesundheit wider.
Experten haben ernsthafte Bedenken hinsichtlich der potenziellen Fallstricke generativer KI-Begleiter geäußert, einschließlich der Entstehung einer „KI-Psychose“ bei häufigen Nutzern von Chatbot-Interaktionen. Trotz des Mangels an schlüssigen Beweisen für den Nutzen von KI für die psychische Gesundheit wenden sich immer mehr Amerikaner auf der Suche nach Antworten und Unterstützung an KI, was eine Debatte über ihre ethischen Implikationen anheizt.
Bundesaufsichtsbehörden untersuchen derzeit die Auswirkungen generativer KI, insbesondere von Chatbots, die als therapeutische Hilfsmittel vermarktet werden, angesichts einer Zunahme psychischer Krisen, insbesondere bei Teenagern. Mehrere Staaten haben Verbote für KI-gestützte Chatbots erlassen, die für therapeutische Zwecke beworben werden. Kalifornien hat eine besonders proaktive Haltung eingenommen, indem es Gesetze erlassen hat, die KI-Unternehmen dazu verpflichten, Sicherheitsprobleme zu melden, jugendliche Nutzer vor sexuell eindeutigen Inhalten zu schützen und Mechanismen zur Bekämpfung von Selbstmordgedanken und Selbstverletzung einzurichten.
Die Gründung des OpenAI-Rates verdeutlicht den wachsenden Druck auf KI-Entwickler, sich mit den tiefgreifenden gesellschaftlichen Auswirkungen ihrer Technologie auseinanderzusetzen, insbesondere in sensiblen Bereichen wie der psychischen Gesundheit. Es bleibt abzuwarten, ob diese Bemühungen die Bedenken der Öffentlichkeit zerstreuen und Vertrauen in die KI als verantwortungsvolles Instrument zur Befriedigung komplexer menschlicher Bedürfnisse aufbauen werden.
