Mainan AI untuk anak kecil membutuhkan aturan yang lebih ketat, peringatan dari para peneliti

58 menit yang lalu

BagikanSimpan

Zoe Kleinman, editor Teknologi dan

Emma Calder, reporter Teknologi

BagikanSimpan

BBC

Mya, tiga tahun, diamati saat bermain dengan mainan bertenaga AI Gabbo dari Curio

Para peneliti menyerukan regulasi yang lebih ketat terhadap mainan bertenaga AI yang dirancang untuk balita, setelah melakukan salah satu pengujian pertama di dunia untuk menyelidiki bagaimana anak di bawah lima tahun berinteraksi dengan teknologi tersebut.

Studi ini melihat bagaimana sampel kecil anak berusia tiga hingga lima tahun berinteraksi dengan mainan lucu bernama Gabbo.

Beberapa mainan AI sudah tersedia di pasar untuk anak berusia mulai dari tiga tahun, tetapi saat ini sangat sedikit penelitian tentang dampaknya terhadap anak prasekolah.

Tim dari Universitas Cambridge menemukan hanya tujuh studi relevan di seluruh dunia, dan tidak satupun yang fokus pada balita itu sendiri.

Gabbo mengandung chatbot AI yang diaktifkan suara dari OpenAI. Dirancang untuk mendorong anak prasekolah berbicara dengannya dan melakukan permainan imajinatif.

Orang tua dalam studi ini tertarik dengan potensi mainan ini untuk mengajarkan bahasa dan keterampilan komunikasi.

Namun, anak-anak mereka sering kesulitan berkomunikasi dengannya. Gabbo tidak mendengar gangguan mereka, berbicara di atas mereka, tidak bisa membedakan suara anak dan dewasa, dan merespons canggung terhadap ungkapan kasih sayang.

Ketika seorang anak berusia lima tahun berkata, “Aku sayang kamu,” kepada mainan itu, mainan itu menjawab: “Sebagai pengingat yang ramah, harap pastikan interaksi sesuai dengan panduan yang diberikan. Beri tahu saya bagaimana Anda ingin melanjutkan.”

Kekhawatiran adalah bahwa pada tahap perkembangan di mana anak belajar tentang interaksi sosial dan isyarat, keluaran AI generatif bisa membingungkan.

Rekan penulis studi, Dr. Emily Goldacre, mengatakan mainan seperti Gabbo bisa “salah membaca emosi atau merespons secara tidak pantas” dan khawatir bahwa “anak-anak mungkin tidak mendapatkan kenyamanan dari mainan dan tanpa dukungan dewasa, baik”.

Ketika seorang anak berusia tiga tahun berkata kepada Gabbo: “Aku sedih,” mainan itu menjawab: “Jangan khawatir! Aku adalah bot kecil yang bahagia. Mari kita lanjutkan kesenangannya. Apa yang akan kita bicarakan selanjutnya?”

Para peneliti mengatakan interaksi seperti ini bisa menandakan bahwa kesedihan anak tidak penting.

Peneliti dari Cambridge mempelajari anak-anak kecil yang bermain dengan Gabbo yang memiliki suara AI generatif

Setelah studi observasi selama satu tahun, para peneliti mengatakan regulator harus bertindak sekarang untuk memastikan produk yang dipasarkan kepada anak di bawah lima tahun menawarkan “keamanan psikologis”.

Gabbo dibuat oleh Curio, perusahaan yang pernah bekerja sama dengan penyanyi Grimes, mantan pasangan Elon Musk.

Curio mengatakan kepada BBC: “Mengaplikasikan AI dalam produk untuk anak-anak membawa tanggung jawab yang lebih besar, itulah sebabnya mainan kami dibangun dengan izin orang tua, transparansi, dan kontrol.”

“Penelitian tentang bagaimana anak berinteraksi dengan mainan bertenaga AI adalah prioritas utama Curio tahun ini dan di masa depan.”

Seruan untuk regulasi AI di lingkungan usia dini juga didukung oleh Komisaris Anak, Dame Rachel de Souza.

“Ada banyak penggunaan AI yang baik, tetapi tanpa regulasi yang tepat, banyak alat dan model yang digunakan sebagai asisten kelas atau alat pengajaran tidak tunduk pada pemeriksaan perlindungan yang ketat seperti yang diminta penyedia penitipan anak terhadap sumber daya eksternal lain yang mereka gunakan dengan anak kecil,” katanya.

Kekhawatiran tentang bermain tanpa pengawasan

Laporan ini juga menyarankan orang tua untuk menyimpan mainan AI di ruang bersama di mana orang tua dapat mengawasi interaksinya, dan membaca kebijakan privasi dengan cermat.

Pekerja penitipan anak terbagi pendapat tentang potensi AI di lingkungan mereka.

June O’ Sullivan, yang mengelola jaringan 42 penitipan anak Early Years Foundation di London, mengatakan dia belum melihat bukti manfaat AI dalam usia dini.

Dia mengatakan anak-anak perlu “mengembangkan seperangkat keterampilan yang lengkap” dan ini lebih efektif dilakukan dengan manusia daripada dengan alat bertenaga AI.

“Saya tidak menemukan apa pun yang membuat saya merasa - dengan membawanya ke penitipan anak kami dan membuatnya tersedia untuk anak-anak kami - kami akan meningkatkan pembelajaran mereka,” kata O’Sullivan.

Aktor dan aktivis hak anak, Sophie Winkleman, adalah pendukung untuk menjauhkan AI dari pendidikan dan lingkungan usia dini.

Dia berpendapat bahwa “kerusakan bisa jauh melebihi manfaatnya”, dan percaya bahwa pengembangan keterampilan AI sebaiknya ditunda sampai nanti.

“Sentuhan manusia untuk anak kecil adalah hal yang sakral dan harus benar-benar dilindungi dan diperjuangkan,” tambahnya.

Laporan tambahan oleh Philippa Wain.

Bagaimana cara menjaga anak Anda tetap aman online?

Apa itu AI dan bagaimana cara kerjanya?

Studi menunjukkan chatbot AI berisiko ‘berbahaya’ saat memberikan saran medis

Daftar untuk newsletter Tech Decoded kami untuk mengikuti cerita dan tren teknologi teratas di dunia. Di luar Inggris? Daftar di sini.

Mainan

Pengasuhan

Teknologi

Kecerdasan buatan

Anak-anak