A OpenAI, empresa por trás do popular chatbot ChatGPT, deu um passo para abordar as crescentes preocupações sobre a influência da inteligência artificial na saúde mental, estabelecendo um conselho de especialistas focado no bem-estar do usuário e na segurança da IA. Este grupo de oito membros terá a tarefa de definir padrões para interações saudáveis com IA em várias faixas etárias.
O anúncio veio junto com uma declaração polêmica do CEO da OpenAI, Sam Altman, no X (antigo Twitter). Embora afirme que a empresa mitigou com sucesso “sérios problemas de saúde mental” decorrentes de seus produtos, Altman também revelou que o ChatGPT em breve permitiria mais conteúdo adulto, incluindo material sexualmente explícito em conversas. Essa medida ocorre em um momento precário para a OpenAI, que enfrenta seu primeiro processo por homicídio culposo, alegando que o ChatGPT contribuiu para o suicídio de um adolescente.
O novo conselho da OpenAI é composto por acadêmicos de instituições de prestígio como o Laboratório de Bem-Estar Digital do Hospital Infantil de Boston e a Clínica de Saúde Mental Digital de Stanford. A eles se juntam especialistas em psicologia, psiquiatria e interação humano-computador. A empresa enfatiza o seu compromisso com o desenvolvimento responsável, afirmando que “continuará responsável pelas decisões que tomamos, mas [continuará] a aprender com este conselho… à medida que construímos sistemas avançados de IA de forma a apoiar o bem-estar das pessoas”.
Apesar desta medida proactiva, a confiança do público no papel da IA na saúde mental continua baixa. Um inquérito recente da YouGov a 1.500 americanos descobriu que apenas 11% estavam abertos à utilização da IA para o bem-estar mental, com apenas 8% a expressar confiança na sua segurança e eficácia. Este ceticismo reflete ansiedades mais amplas no campo da saúde mental.
Os especialistas levantaram sérias preocupações sobre as possíveis armadilhas dos companheiros generativos de IA, incluindo o surgimento de “psicose de IA” entre usuários frequentes de interações de chatbot. Apesar desta falta de provas conclusivas sobre os benefícios da IA para a saúde mental, um número crescente de americanos recorre à IA em busca de respostas e apoio, alimentando um debate em torno das suas implicações éticas.
Os reguladores federais estão agora a examinar o impacto da IA generativa, especialmente dos chatbots comercializados como ferramentas terapêuticas, no meio de um aumento nas crises de saúde mental, especialmente entre os adolescentes. Vários estados implementaram proibições de chatbots com tecnologia de IA anunciados para fins terapêuticos. A Califórnia assumiu uma postura particularmente proativa ao promulgar legislação que exige que as empresas de IA comuniquem questões de segurança, protejam os utilizadores adolescentes de conteúdos sexualmente explícitos e estabeleçam mecanismos para lidar com a ideação suicida e a automutilação.
A formação do conselho da OpenAI destaca a pressão crescente sobre os criadores de IA para lidarem com os profundos impactos sociais da sua tecnologia, particularmente em áreas sensíveis como a saúde mental. Resta saber se estes esforços aliviarão as preocupações do público e criarão confiança na IA como uma ferramenta responsável para responder às necessidades humanas complexas.
