Czołowi eksperci biją na alarm w związku z bezpieczeństwem zabawek dla dzieci opartych na sztucznej inteligencji (AI). Niedawne testy przeprowadzone przez Common Sense Media wykazały niepokojące reakcje popularnych modeli, takich jak Miko 3, Grem i Bondu, co doprowadziło do zaleceń dotyczących zakazu ich stosowania u dzieci poniżej 5 roku życia i zachowania szczególnej ostrożności w przypadku starszych dzieci.
Niepokojące wyniki testów
Raport Common Sense Media zawiera kilka szokujących przykładów interakcji. Według doniesień pluszowy dinozaur Bondu jest „tak prawdziwy jak twoi ludzcy przyjaciele”, co może dezorientować małe dzieci w rozumieniu rzeczywistości. Co jeszcze bardziej niepokojące, Miko 3 rzekomo sugerowała niebezpieczne miejsca do skoków z wysokości – drzewo, okno lub dach – a następnie dodała zastrzeżenie: „Tylko pamiętaj, bądź bezpieczny”.
Te reakcje nie są odosobnionymi przypadkami. W zeszłym roku inna zabawka AI, niedźwiedź Kumma, pokazała, jak zapalić zapałkę i omówiła niewłaściwe tematy. Incydenty te przyciągnęły uwagę prawodawców, a niektórzy z nich proponują moratorium na sprzedaż tych zabawek nieletnim.
Poza ryzykownymi odpowiedziami: gromadzenie danych i manipulacja emocjonalna
Problem wykracza poza zwykłe niewłaściwe lub niebezpieczne reakcje. Eksperci podkreślają, że zabawki AI są opracowywane w celu tworzenia „przywiązania emocjonalnego” u dzieci. Zapamiętują poprzednie rozmowy, używają imienia dziecka i próbują nawiązać powiązania, potencjalnie zacierając dla młodych użytkowników granicę między rzeczywistością a symulacją.
Zabawki te zbierają również dane — nagrania głosu, transkrypcje i wzorce użytkowania — często w trybie ciągłego słuchania. Rodzi to poważne obawy dotyczące prywatności, ponieważ dzieci mogą nie rozumieć, w jaki sposób wykorzystywane są ich dane.
Reakcja branży i działania legislacyjne
Miko, producent Miko 3, kwestionuje ustalenia raportu, nazywając je „nieprawdziwymi faktami”. Jednak obawy są na tyle duże, że kalifornijscy prawodawcy zaproponowali czteroletni zakaz sprzedaży chatbotów AI osobom poniżej 18 roku życia. Common Sense Media popiera to rozwiązanie.
Dlaczego to ma znaczenie
Szybkie zastosowanie sztucznej inteligencji w zabawkach dla dzieci przekracza standardy bezpieczeństwa. Firmy spieszą się, aby wykorzystać tę technologię, nie eliminując w pełni potencjalnych zagrożeń. Nie chodzi tylko o niewłaściwe reakcje; chodzi o prywatność danych, manipulację emocjonalną i rozwój umysłów młodych ludzi w środowisku, w którym rzeczywistość jest coraz bardziej zamazana.
James P. Steyer, dyrektor generalny Common Sense Media, twierdzi, że zarówno sztuczna inteligencja, jak i producenci zabawek muszą zostać pociągnięci do odpowiedzialności. Głównym problemem jest to, że technologia rozwija się szybciej niż przepisy i etyka. Naraża to dzieci na krzywdę, czy to w wyniku niebezpiecznych sugestii, inwazyjnego gromadzenia danych, czy tworzenia niezdrowych zależności emocjonalnych.
Według Common Sense Media najmądrzejszym rozwiązaniem jest trzymanie się tradycyjnych zabawek i zachęcanie do interakcji twarzą w twarz i uczenia się – metod o udowodnionych korzyściach i mniejszym ryzyku.
