OpenAI, la société à l’origine du chatbot populaire ChatGPT, a pris une mesure pour répondre aux préoccupations croissantes concernant l’influence de l’intelligence artificielle sur la santé mentale en créant un conseil d’experts axé sur le bien-être des utilisateurs et la sécurité de l’IA. Ce groupe de huit membres sera chargé de définir des normes pour des interactions saines avec l’IA dans différents groupes d’âge.
L’annonce est arrivée parallèlement à une déclaration controversée du PDG d’OpenAI, Sam Altman, sur X (anciennement Twitter). Tout en affirmant que la société avait réussi à atténuer les « graves problèmes de santé mentale » découlant de ses produits, Altman a également révélé que ChatGPT autoriserait bientôt davantage de contenu pour adultes, y compris du contenu sexuellement explicite dans les conversations. Cette décision intervient à un moment précaire pour OpenAI, alors qu’elle fait face à son premier procès pour mort injustifiée, alléguant que ChatGPT a contribué au suicide d’un adolescent.
Le nouveau conseil d’OpenAI comprend des universitaires d’institutions prestigieuses telles que le Digital Wellness Lab du Boston Children’s Hospital et la Digital Mental Health Clinic de Stanford. Ils sont rejoints par des spécialistes de la psychologie, de la psychiatrie et de l’interaction homme-machine. L’entreprise souligne son engagement en faveur du développement responsable, déclarant qu’elle « reste responsable des décisions que nous prenons, mais [continuera] à apprendre de ce conseil… alors que nous construisons des systèmes d’IA avancés de manière à soutenir le bien-être des gens ».
Malgré cette mesure proactive, la confiance du public dans le rôle de l’IA en matière de santé mentale reste faible. Une récente enquête YouGov menée auprès de 1 500 Américains a révélé que seuls 11 % d’entre eux étaient disposés à utiliser l’IA pour leur bien-être mental, et seulement 8 % exprimant leur confiance dans son innocuité et son efficacité. Ce scepticisme reflète des inquiétudes plus larges dans le domaine de la santé mentale.
Les experts ont exprimé de sérieuses inquiétudes quant aux pièges potentiels des compagnons d’IA générative, notamment l’émergence d’une « psychose de l’IA » parmi les utilisateurs fréquents d’interactions avec les chatbots. Malgré ce manque de preuves concluantes sur les bienfaits de l’IA sur la santé mentale, un nombre croissant d’Américains se tournent vers l’IA pour obtenir des réponses et du soutien, alimentant ainsi le débat sur ses implications éthiques.
Les régulateurs fédéraux examinent désormais l’impact de l’IA générative, en particulier des chatbots commercialisés comme outils thérapeutiques, dans un contexte de crise de santé mentale, notamment chez les adolescents. Plusieurs États ont interdit les chatbots alimentés par l’IA et annoncés à des fins thérapeutiques. La Californie a adopté une position particulièrement proactive en promulguant une législation obligeant les sociétés d’IA à signaler les problèmes de sécurité, à protéger les utilisateurs adolescents des contenus sexuellement explicites et à établir des mécanismes pour lutter contre les idées suicidaires et l’automutilation.
La formation du conseil d’OpenAI met en évidence la pression croissante exercée sur les développeurs d’IA pour faire face aux profonds impacts sociétaux de leur technologie, en particulier dans des domaines sensibles comme la santé mentale. Il reste à voir si ces efforts atténueront les inquiétudes du public et renforceront la confiance dans l’IA en tant qu’outil responsable pour répondre aux besoins humains complexes.
