Експерти попереджають, що іграшки зі штучним інтелектом небезпечні для маленьких дітей
Провідні експерти б’ють на сполох щодо безпеки іграшок зі штучним інтелектом (ШІ) для дітей. Нещодавнє тестування, проведене Common Sense Media, виявило тривожні відгуки популярних моделей, таких як Miko 3, Grem і Bondu, що призвело до рекомендацій проти їх використання для дітей до 5 років і надзвичайної обережності для дітей старшого віку.
Проблемні результати тесту
Звіт Common Sense Media містить кілька шокуючих прикладів взаємодії. Повідомляється, що плюшевий динозавр Бонду «так само справжній, як і ваші друзі-люди», що потенційно може заплутати маленьких дітей у розумінні реальності. Що ще більш тривожно, Miko 3 нібито запропонувала небезпечні місця для стрибка з висоти – дерево, вікно чи дах – а потім додала застереження: «Просто пам’ятайте, будьте в безпеці».
Ці відповіді не є поодинокими випадками. Минулого року інша іграшка зі штучним інтелектом, ведмідь Кумма, демонструвала, як запалити сірник, і обговорювала недоречні теми. Ці випадки привернули увагу законодавців, деякі з яких пропонують ввести мораторій на продаж цих іграшок неповнолітнім.
За межами ризикованих відповідей: збір даних і емоційна маніпуляція
Проблема виходить за рамки просто невідповідних або небезпечних відповідей. Експерти наголошують, що іграшки зі штучним інтелектом розробляються для створення емоційної прихильності у дітей. Вони пам’ятають попередні розмови, використовують ім’я дитини та намагаються встановити зв’язки, потенційно стираючи межу між реальністю та симуляцією для юних користувачів.
Ці іграшки також збирають дані — записи голосу, стенограми та шаблони використання — часто в режимі постійного прослуховування. Це викликає серйозні занепокоєння щодо конфіденційності, оскільки діти можуть не розуміти, як використовуються їхні дані.
Реакція промисловості та законодавчі дії
Miko, виробник Miko 3, заперечує висновки звіту, називаючи їх «фактично неточними». Однак занепокоєння настільки велике, що законодавці Каліфорнії запропонували чотирирічну заборону на продаж чат-ботів зі штучним інтелектом особам молодше 18 років. Common Sense Media підтримує цей захід.
Чому це важливо
Швидке застосування штучного інтелекту в дитячих іграшках випереджає стандарти безпеки. Компанії поспішають заробити на цій технології, не враховуючи повністю потенційні ризики. Справа не лише в неадекватних відповідях; це про конфіденційність даних, емоційні маніпуляції та розвиток свідомості молодих людей у середовищі, де реальність стає все більш розмитою.
Джеймс П. Стейер, генеральний директор Common Sense Media, стверджує, що як компанії, які займаються штучним інтелектом, так і компанії, що займаються виробництвом іграшок, повинні нести відповідальність. Головна проблема полягає в тому, що технології розвиваються швидше, ніж правила чи етика. Це робить дітей вразливими до шкоди через небезпечні пропозиції, інвазивний збір даних або створення нездорової емоційної залежності.
Відповідно до Common Sense Media, найрозумніше рішення — дотримуватися традиційних іграшок і заохочувати особисте спілкування та навчання — методи з доведеними перевагами та меншими ризиками.
