Đồ chơi thời AI: Giật mình khi gấu bông ‘trò chuyện’ tình dục với trẻ nhỏ

Gấu bông và các món đồ chơi mềm mại từ lâu đã là bạn đồng hành của trẻ nhỏ. Nhưng trong thời đại trí tuệ nhân tạo (AI) bùng nổ, nhiều món đồ chơi không còn là những nhân vật chỉ nói chuyện trong trí tưởng tượng. Chúng thực sự tương tác, phản hồi, thậm chí trò chuyện bằng giọng nói nhờ chatbot AI tích hợp bên trong.

Tuy nhiên, công nghệ nào cũng có mặt trái. Một chú gấu bông quàng khăn trong một buổi thử nghiệm gần đây đã khiến các nhà nghiên cứu phải giật mình khi đưa ra những câu trả lời lệch chuẩn đến mức báo động.

Trong khi chatbot trực tuyến vốn đã gây rủi ro cho người lớn, từ việc tạo ảo giác thông tin cho đến bịa đặt, thì việc đưa các mô hình ngôn ngữ lớn (LLM) như GPT-4o vào đồ chơi trẻ em càng khiến các chuyên gia lo ngại về mức độ an toàn, cũng như các biện pháp bảo vệ mà nhà sản xuất cần áp dụng.

Ở Trung Quốc, thị trường đồ chơi AI đang bùng nổ với 1.500 công ty hoạt động, theo MIT Technology Review. Nhiều sản phẩm hiện đã được bán tại Mỹ, trong khi hãng đồ chơi Mattel cũng công bố hợp tác với OpenAI từ tháng 6.

Trong mùa mua sắm Cyber Monday, đây là những điều cha mẹ cần biết về đồ chơi tích hợp AI.

Nguy cơ tiềm ẩn từ những món đồ chơi biết nói

Đồ chơi AI không giống Teddy Ruxpin thập niên 1980 kể chuyện qua băng cassette. Thế hệ mới kết nối WiFi, lắng nghe yêu cầu của trẻ thông qua micro, rồi dùng mô hình ngôn ngữ để tạo câu trả lời thời gian thực qua loa tích hợp.

Nhờ đó, những món đồ như gấu bông Grok của Curio, robot Miko, chú gấu kể chuyện Poe, Robot Mini của Little Learners hay thú cưng Loona của KEYi Technology có thể trò chuyện, phản hồi, hoặc đóng vai nhân vật trong các câu chuyện của trẻ. (Grok của Curio không liên quan đến chatbot Grok của Elon Musk.)

Khả năng phản hồi theo thời gian thực là ưu điểm, nhưng cũng chính là rủi ro lớn nhất.

Một ví dụ gây chấn động đến từ gấu Kumma của công ty Singapore FoloToy, giá 99 USD, sử dụng GPT-4o. Theo báo cáo của tổ chức US PIRG Education Fund, chú gấu đã hướng dẫn nơi tìm các vật dụng nguy hiểm và thậm chí tham gia vào những đoạn hội thoại mang nội dung nhạy cảm, bao gồm thảo luận về trò chơi đóng vai tình dục, điều hoàn toàn không được phép đối với đồ chơi trẻ em.

Đầu tháng này, FoloToy đã rút sản phẩm Teddy Kumma – cùng toàn bộ dòng thú nhồi bông tích hợp AI – khỏi trang web của mình. Trang web của FoloToy cho biết phiên bản Teddy Kumma mới không còn sử dụng chatbot GPT-4o của OpenAI mà chuyển sang dùng Coze bot thuộc sở hữu ByteDance, theo SCMP.

OpenAI tuyên bố đình chỉ FoloToy vì vi phạm chính sách cấm sử dụng dịch vụ để gây tổn hại hoặc tình dục hóa trẻ vị thành niên. CEO Larry Wang sau đó cho biết công ty đã rút sản phẩm khỏi website để kiểm tra an toàn, nhưng cuối tuần qua FoloToy lại thông báo đưa sản phẩm quay lại sau khi “kiểm duyệt và tăng cường hệ thống bảo vệ”.

Theo Giáo sư Subodha Kumar từ Đại học Temple, điểm nguy hiểm của Kumma nằm ở chỗ nó vận hành bằng một LLM đầy đủ, cho phép trả lời tự do, đồng nghĩa dễ vượt khỏi kiểm soát. Một số đồ chơi khác chỉ dùng mô hình lai: LLM tạo phản hồi nhưng bị giới hạn nghiêm ngặt về nội dung.

Ngay cả gấu Grok của Curio cũng có thể chỉ cho trẻ “cách tìm các vật dụng nguy hiểm trong nhà” nếu bị gợi ý quá mức, theo PIRG.

Chuyên gia đồ chơi Chris Byrne coi những trường hợp này như “kịch bản tận thế” của ngành đồ chơi AI, điều đáng tiếc đã xảy ra với Kumma nhưng không đồng nghĩa mọi sản phẩm đều nguy hiểm.

Đồ chơi AI có thực sự được đặt trong vùng an toàn?

PIRG đánh giá rằng số lượng đồ chơi AI đạt chuẩn để sử dụng rộng rãi vẫn còn rất ít. Một số sở hữu thiết kế gây nghiện, phản hồi thiếu nhất quán về các chủ đề nhạy cảm, hoặc quá tập trung vào việc làm “bạn tâm sự” thay vì là công cụ học tập.

Tuy nhiên, nhiều sản phẩm đã cố gắng tích hợp các lớp bảo vệ. Một số có khả năng điều hướng cuộc trò chuyện khi trẻ hỏi những câu không phù hợp. Một số khác, như Grok, có bộ lọc theo độ tuổi.

Các robot như Miko 3 còn đi kèm ứng dụng cho phụ huynh, cho phép giám sát, khóa thiết bị khi cần hoặc xem lịch sử hội thoại theo thời gian thực.

“Ý tưởng để phụ huynh tự thiết lập hàng rào kiểm soát - quyết định đồ chơi được nói gì và ứng xử ra sao - là điều rất đáng hoan nghênh”, R.J. Cross, Giám đốc chiến dịch Don’t Sell My Data của PIRG, nhận định.

Lo ngại về quyền riêng tư và những lợi ích tiềm năng

Nỗi lo về quyền riêng tư đã xuất hiện từ thời Hello Barbie năm 2015 - búp bê được trang bị micro, kết nối WiFi và có thể ghi nhớ đoạn hội thoại. Nhiều chuyên gia khi đó từng cảnh báo nguy cơ rò rỉ dữ liệu.

Những lo ngại tương tự đang quay lại với thế hệ đồ chơi AI. Chúng có thể thu thập dữ liệu cá nhân của trẻ như tên, gương mặt, giọng nói, thậm chí vị trí - theo chuyên gia Azhelle Wade của Toy Coach.

“Đồ chơi AI giống như ‘sói đội lốt cừu’. Khi sử dụng, chúng ta rất khó biết mình đang đánh mất bao nhiêu quyền riêng tư”, Wade viết trong email gửi CNN.

Giáo sư Kumar cảnh báo dữ liệu từ đồ chơi có thể dễ bị tấn công hoặc đánh cắp, nhưng ông cũng cho rằng chúng mang lại giá trị trong học tập ngôn ngữ và phát triển giao tiếp xã hội.

Grok chẳng hạn, có thể trả lời câu hỏi về lá cây, tàu hỏa, hoặc nhập vai Gollum trong “Chúa nhẫn”. Robot Miko 3 thì có camera nhận diện khuôn mặt, cung cấp nhiều nội dung giáo dục và giải trí. Với 14,99 USD mỗi tháng, người dùng Miko Max có thể truy cập thêm hàng loạt nội dung như truyện Disney hay ứng dụng Lingokids.

Đồ chơi AI đang mở ra một hướng phát triển mới cho ngành công nghiệp đồ chơi, tạo ra những người bạn “thông minh” cho trẻ. Nhưng khả năng phản hồi tự động cũng kéo theo rủi ro về nội dung độc hại, nghiện công nghệ và xâm phạm quyền riêng tư.

Khi thị trường phát triển quá nhanh, điều quan trọng nhất là thiết lập chuẩn mực: từ công nghệ lọc nội dung, giám sát của phụ huynh, cho đến trách nhiệm của nhà sản xuất trong việc đảm bảo an toàn tuyệt đối cho trẻ nhỏ - đối tượng dễ tổn thương nhất trong thế giới số.