Компания OpenAI, создатель популярного чат-бота ChatGPT, предприняла шаги для решения нарастающих опасений по поводу влияния искусственного интеллекта на психическое здоровье путем создания экспертного совета, который будет сосредоточен на благополучии пользователей и безопасности ИИ. В этот восьмичленный совет войдут специалисты, которым предстоит определить стандарты здорового взаимодействия с ИИ в разных возрастных группах.
Анонс был сделан одновременно с вызвавшей противоречия публикацией генерального директора OpenAI Сэма Альтмана на платформе X (ранее Twitter). В то время как он заявлял о том, что компания успешно снизила «серьезные проблемы психического здоровья», вызванные ее продуктами, Альтман также сообщил, что ChatGPT вскоре разрешит больше контента для взрослых, включая сексуально откровенную информацию в диалогах. Данное решение поступает в критический момент для OpenAI, поскольку компания сталкивается с первым судебным иском о причинении смерти по неосторожности, в котором утверждается, что ChatGPT способствовал самоубийству подростка.
В новый совет OpenAI вошли преподаватели из престижных учебных заведений, таких как Лаборатория цифровой благополучия Бостонской детской больницы и Клиника цифрового психического здоровья Стэнфордского университета. Их дополняют специалисты в области психологии, психиатрии и взаимодействия человека с компьютером. Компания подчеркивает свою приверженность ответственному развитию, заявляя, что «мы остаемся ответственными за принимаемые нами решения, но будем продолжать учиться у этого совета… при создании продвинутых систем ИИ таким образом, чтобы они способствовали благополучию людей.»
Несмотря на эти проактивные шаги, доверие общественности к роли ИИ в психическом здоровье остается низким. Недавний опрос YouGov среди 1500 американцев показал, что только 11% были готовы использовать ИИ для поддержания психического здоровья, при этом лишь 8% выразили уверенность в его безопасности и эффективности. Эта скептицизм отражает более широкие тревоги в сфере психического здоровья.
Эксперты высказали серьезные опасения по поводу потенциальных рисков генеративных ИИ-компаньонов, включая возникновение «ИИ-психоза» среди частых пользователей чат-ботов. Несмотря на отсутствие убедительных доказательств о пользе ИИ для психического здоровья, все больше американцев обращаются к ИИ за ответами и поддержкой, что способствует дебатам об этических аспектах этого вопроса.
Федеральные регуляторы теперь тщательно изучают влияние генеративных ИИ, в частности чат-ботов, рекламируемых как терапевтические инструменты, на фоне роста кризисов психического здоровья, особенно среди подростков. Несколько штатов приняли запреты на использование ИИ-управляемых чат-ботов, которые рекламируются для целей терапии. Калифорния заняла особенно активную позицию, приняв закон, который обязывает компании, работающие с ИИ, сообщать о проблемах безопасности, защищать подростковых пользователей от сексуально откровенного контента и устанавливать механизмы реагирования на суицидальные мысли и попытки самоубийства.
Формирование совета OpenAI подчеркивает растущее давление на разработчиков ИИ, чтобы разобраться с глубокими общественными последствиями их технологии, особенно в таких чувствительных областях, как психическое здоровье. Остается открытым вопрос, удастся ли этим усилиям снизить опасения общественности и заслужить доверие к ИИ как ответственному инструменту для решения сложных человеческих потребностей.
