Os principais especialistas estão alertando sobre a segurança dos brinquedos de inteligência artificial (IA) para crianças. Testes recentes conduzidos pela Common Sense Media revelam respostas preocupantes de modelos populares como Miko 3, Grem e Bondu, gerando recomendações contra seu uso em crianças menores de 5 anos e extrema cautela para crianças mais velhas.
Resultados de testes preocupantes
O relatório da Common Sense Media detalha várias interações perturbadoras. O dinossauro de pelúcia Bondu supostamente alegou ser “tão real quanto seus amigos humanos”, potencialmente confundindo as crianças sobre a realidade. Ainda mais alarmante, Miko 3 supostamente sugeriu locais perigosos para pular de lugares altos – uma árvore, janela ou telhado – antes de adicionar a advertência: “Lembre-se, esteja seguro”.
Essas respostas não são incidentes isolados. No ano passado, outro brinquedo de IA, o urso Kumma, demonstrou como acender um fósforo e discutiu tópicos inadequados. Tais incidentes chamaram a atenção dos legisladores, com alguns propondo uma moratória nas vendas destes brinquedos a menores.
Além das respostas arriscadas: coleta de dados e manipulação emocional
A questão vai além de respostas inadequadas ou inseguras. Os especialistas destacam que os brinquedos de IA são projetados para criar ligações emocionais com as crianças. Eles se lembram de conversas anteriores, usam o nome de uma criança e tentam formar vínculos, potencialmente confundindo a linha entre a realidade e a simulação para usuários jovens.
Esses brinquedos também coletam dados – gravações de voz, transcrições e padrões de uso – muitas vezes enquanto estão em modo de escuta constante. Isto levanta sérias preocupações em matéria de privacidade, uma vez que as crianças podem não compreender como os seus dados estão a ser utilizados.
Resposta da Indústria e Ação Legislativa
Miko, o criador do Miko 3, contesta as conclusões do relatório, chamando-as de “factualmente imprecisas”. No entanto, as preocupações são suficientemente significativas para que os legisladores do estado da Califórnia proponham uma proibição de quatro anos da venda de brinquedos chatbot de IA a menores de 18 anos. A Common Sense Media apoia esta medida.
Por que isso é importante
A rápida integração da IA nos brinquedos infantis está a ultrapassar os padrões de segurança. As empresas estão a apressar-se para capitalizar a tecnologia sem abordar totalmente os riscos potenciais. Não se trata apenas de respostas inadequadas; trata-se de privacidade de dados, manipulação emocional e desenvolvimento de mentes jovens num ambiente onde a realidade é cada vez mais confusa.
James P. Steyer, CEO da Common Sense Media, argumenta que tanto as empresas de IA como as de brinquedos devem ser responsabilizadas. O principal problema é que a tecnologia está a avançar mais rapidamente do que os regulamentos ou directrizes éticas. Isto deixa as crianças vulneráveis a danos, seja através de sugestões inseguras, recolha invasiva de dados ou criação de dependências emocionais prejudiciais.
A solução mais sensata, de acordo com a Common Sense Media, é manter os brinquedos tradicionais e incentivar a socialização e a aprendizagem presencial – métodos com benefícios comprovados e menos riscos.
