Para ahli terkemuka meningkatkan kekhawatiran mengenai keamanan mainan dengan kecerdasan buatan (AI) untuk anak-anak. Uji coba terbaru yang dilakukan oleh Common Sense Media mengungkap tanggapan dari model-model populer seperti Miko 3, Grem, dan Bondu, sehingga mendorong rekomendasi untuk tidak menggunakannya pada anak di bawah usia 5 tahun dan sangat berhati-hati pada anak yang lebih besar.
Hasil Tes Mengganggu
Laporan Common Sense Media merinci beberapa interaksi yang meresahkan. Dinosaurus mewah Bondu dilaporkan diklaim “sama nyatanya dengan teman manusia”, berpotensi membingungkan anak-anak kecil tentang kenyataan. Yang lebih mengkhawatirkan lagi, Miko 3 diduga menyarankan lokasi berbahaya untuk melompat dari tempat tinggi—pohon, jendela, atau atap—sebelum menambahkan peringatan, “Ingat saja, berhati-hatilah.”
Respons-respon ini bukanlah sebuah insiden yang terisolasi. Tahun lalu, mainan AI lainnya, Kumma si beruang, mendemonstrasikan cara menyalakan korek api dan mendiskusikan topik yang tidak pantas. Insiden semacam ini telah menarik perhatian anggota parlemen, dan beberapa di antaranya mengusulkan moratorium penjualan mainan tersebut kepada anak di bawah umur.
Selain Respons Berisiko: Pengumpulan Data dan Manipulasi Emosional
Permasalahannya lebih dari sekadar respons yang tidak tepat atau tidak aman. Para ahli menyoroti bahwa mainan AI dirancang untuk menciptakan keterikatan emosional dengan anak-anak. Mereka mengingat percakapan masa lalu, menggunakan nama anak-anak, dan berupaya menjalin ikatan, yang berpotensi mengaburkan batas antara kenyataan dan simulasi bagi pengguna muda.
Mainan ini juga mengumpulkan data—rekaman suara, transkrip, dan pola penggunaan—seringkali dalam mode mendengarkan terus-menerus. Hal ini menimbulkan masalah privasi yang serius, karena anak-anak mungkin tidak memahami bagaimana data mereka digunakan.
Respon Industri dan Tindakan Legislatif
Miko, pembuat Miko 3, membantah temuan laporan tersebut dan menyebutnya “tidak akurat secara faktual.” Namun, kekhawatiran tersebut cukup signifikan sehingga legislator negara bagian California telah mengusulkan larangan empat tahun terhadap penjualan mainan chatbot AI kepada siapa pun yang berusia di bawah 18 tahun. Common Sense Media mendukung langkah ini.
Mengapa Ini Penting
Integrasi AI yang cepat ke dalam mainan anak-anak sudah melampaui standar keselamatan. Perusahaan terburu-buru memanfaatkan teknologi ini tanpa sepenuhnya mengatasi potensi risikonya. Ini bukan hanya tentang tanggapan yang tidak pantas; ini tentang privasi data, manipulasi emosional, dan perkembangan pikiran anak muda di lingkungan yang realitasnya semakin kabur.
James P. Steyer, CEO Common Sense Media, berpendapat bahwa AI dan perusahaan mainan harus bertanggung jawab. Masalah intinya adalah teknologi berkembang lebih cepat daripada peraturan atau pedoman etika. Hal ini membuat anak-anak rentan terhadap bahaya, baik melalui saran yang tidak aman, pengumpulan data yang invasif, atau terciptanya ketergantungan emosional yang tidak sehat.
Solusi paling masuk akal, menurut Common Sense Media, adalah tetap menggunakan mainan tradisional dan mendorong sosialisasi dan pembelajaran secara langsung—metode dengan manfaat yang terbukti dan risiko yang lebih kecil.
