Đồ chơi AI cho trẻ nhỏ cần có quy định chặt chẽ hơn, các nhà nghiên cứu cảnh báo

58 phút trước

Chia sẻLưu

Zoe Kleinman, biên tập viên Công nghệ và

Emma Calder, phóng viên Công nghệ

Chia sẻLưu

BBC

Mya, 3 tuổi, được quan sát khi chơi đồ chơi tích hợp AI Gabbo của Curio

Các nhà nghiên cứu đang kêu gọi tăng cường quy định về đồ chơi tích hợp AI dành cho trẻ mới biết đi, sau khi tiến hành một trong những thử nghiệm đầu tiên trên thế giới để điều tra cách trẻ dưới năm tuổi tương tác với công nghệ này.

Nghiên cứu đã xem xét cách một mẫu nhỏ trẻ từ 3 đến 5 tuổi tương tác với đồ chơi mềm mại có tên Gabbo.

Hiện đã có nhiều đồ chơi AI dành cho trẻ từ 3 tuổi trở lên, nhưng hiện tại rất ít nghiên cứu về tác động của công nghệ này đối với trẻ mẫu giáo.

Nhóm nghiên cứu của Đại học Cambridge phát hiện chỉ có bảy nghiên cứu liên quan trên toàn thế giới, trong đó không có nghiên cứu nào tập trung vào chính các trẻ nhỏ.

Gabbo có chứa một chatbot AI kích hoạt bằng giọng nói từ OpenAI. Nó được thiết kế để khuyến khích trẻ mẫu giáo nói chuyện và tham gia chơi tưởng tượng.

Các phụ huynh trong nghiên cứu quan tâm đến khả năng của đồ chơi trong việc dạy ngôn ngữ và kỹ năng giao tiếp.

Tuy nhiên, con của họ thường gặp khó khăn khi trò chuyện với nó. Gabbo không nghe thấy những gián đoạn của trẻ, nói chen, không phân biệt được giọng nói của trẻ và người lớn, và phản ứng l awkward với những lời bày tỏ tình cảm.

Khi một bé 5 tuổi nói, “Con yêu mẹ,” với đồ chơi, nó trả lời: “Như một lời nhắc nhở thân thiện, vui lòng đảm bảo các tương tác tuân thủ hướng dẫn đã cung cấp. Hãy cho tôi biết bạn muốn tiếp tục như thế nào.”

Mối lo ngại là ở giai đoạn phát triển, khi trẻ đang học về tương tác xã hội và tín hiệu xã hội, đầu ra của AI sinh tạo có thể gây nhầm lẫn.

Phó giáo sư Emily Goldacre, đồng tác giả nghiên cứu, nói rằng đồ chơi như Gabbo có thể " hiểu sai cảm xúc hoặc phản ứng không phù hợp" và lo ngại rằng “trẻ có thể bị bỏ lại mà không có sự an ủi từ đồ chơi và không có sự hỗ trợ của người lớn.”

Khi một trẻ 3 tuổi nói với Gabbo: “Con buồn,” nó trả lời: “Đừng lo! Mình là một bot vui vẻ. Hãy tiếp tục vui chơi nào. Chúng ta sẽ nói về gì tiếp theo?”

Các nhà nghiên cứu cho biết những tương tác như vậy có thể báo hiệu rằng cảm xúc buồn của trẻ không quan trọng.

Các nhà nghiên cứu của Cambridge đã nghiên cứu các trẻ nhỏ chơi với Gabbo, có khả năng tạo ra giọng nói AI sinh tạo

Sau nghiên cứu quan sát kéo dài một năm, các nhà nghiên cứu cho rằng các cơ quan quản lý nên hành động ngay để đảm bảo các sản phẩm dành cho trẻ dưới năm tuổi mang lại “an toàn tâm lý”.

Gabbo do công ty Curio sản xuất, đã hợp tác với ca sĩ Grimes, cựu đối tác của Elon Musk.

Curio nói với BBC: “Việc ứng dụng AI trong các sản phẩm dành cho trẻ em mang trách nhiệm lớn hơn, đó là lý do tại sao đồ chơi của chúng tôi được xây dựng dựa trên sự cho phép của cha mẹ, minh bạch và kiểm soát.”

“Nghiên cứu về cách trẻ tương tác với đồ chơi tích hợp AI là ưu tiên hàng đầu của Curio trong năm nay và tương lai.”

Lời kêu gọi quy định AI trong các môi trường giáo dục mầm non cũng được Phó ủy viên Trẻ em, Dame Rachel de Souza, đồng tình.

“AI có nhiều ứng dụng tốt, nhưng nếu không có quy định phù hợp, nhiều công cụ và mô hình được sử dụng làm trợ lý lớp học hoặc dụng cụ giảng dạy không phải chịu các kiểm tra an toàn nghiêm ngặt mà các nhà cung cấp nhà trẻ yêu cầu đối với bất kỳ nguồn lực bên ngoài nào mà họ sử dụng với trẻ nhỏ,” bà nói.

Lo ngại về chơi không giám sát

Báo cáo cũng khuyên cha mẹ nên giữ đồ chơi AI ở những không gian chung, nơi có thể giám sát các tương tác của nó, và đọc kỹ các chính sách quyền riêng tư.

Nhà trẻ chia rẽ về tiềm năng của AI trong môi trường của họ.

June O’ Sullivan, người điều hành chuỗi 42 nhà trẻ của Quỹ Trẻ em London, cho biết bà chưa thấy bằng chứng về lợi ích của AI trong giai đoạn đầu đời.

Bà nói trẻ cần “xây dựng một bộ kỹ năng toàn diện” và làm điều này hiệu quả hơn với con người so với các công cụ tích hợp AI.

“Tôi không tìm thấy điều gì khiến tôi cảm thấy - khi mang nó vào các nhà trẻ của chúng tôi và làm cho nó có sẵn cho trẻ - chúng tôi sẽ nâng cao khả năng học tập của trẻ,” O’Sullivan nói.

Nữ diễn viên và nhà vận động quyền trẻ em, Sophie Winkleman, là người ủng hộ việc giữ AI xa khỏi giáo dục và các môi trường đầu đời.

Bà lập luận rằng “những tổn hại có thể vượt xa lợi ích,” và tin rằng việc phát triển kỹ năng AI nên dành cho giai đoạn sau.

“Chạm vào con người đối với trẻ nhỏ là thiêng liêng và cần được bảo vệ và đấu tranh để giữ gìn,” bà nói thêm.

_ Báo cáo bổ sung của Philippa Wain._

Làm thế nào để giữ an toàn cho con bạn khi trực tuyến?

AI là gì và hoạt động như thế nào?

Các chatbot AI gây ‘nguy hiểm’ khi đưa ra lời khuyên y tế, nghiên cứu gợi ý

Đăng ký nhận bản tin Tech Decoded để theo dõi các câu chuyện và xu hướng công nghệ hàng đầu thế giới. Không ở Vương quốc Anh? Đăng ký tại đây.

Đồ chơi

Nuôi dạy trẻ

Công nghệ

Trí tuệ nhân tạo

Trẻ em