Video AI ‘nhạy cảm’ về trẻ em hút triệu lượt thích: Lỗi hệ thống của TikTok?

Theo một nghiên cứu mới công bố của tổ chức phi lợi nhuận về an toàn trực tuyến Maldita.es (Tây Ban Nha), nhiều video do AI tạo ra cho thấy những bé gái vị thành niên trong trang phục bó sát, đồ lót hoặc đồng phục học sinh, đôi khi ở các tư thế mang tính gợi dục, đã cùng nhau thu về hàng triệu lượt thích trên TikTok.

Điều đáng nói là các nội dung này tồn tại dù quy định của TikTok nghiêm cấm tuyệt đối mọi hình thức khai thác, tình dục hóa trẻ vị thành niên.

Theo CNN, nhóm nghiên cứu cho biết họ đã phát hiện hơn một chục tài khoản thường xuyên đăng tải những video kiểu này. Tổng cộng, các tài khoản đó sở hữu hàng trăm nghìn người theo dõi. Phần bình luận dưới nhiều video thậm chí còn xuất hiện các đường dẫn dẫn tới các cuộc trò chuyện riêng trên Telegram, nơi quảng cáo việc mua bán nội dung khiêu dâm trẻ em, theo báo cáo.

Thách thức lớn với chính sách của TikTok

Carlos Hernández-Echevarría, Phó giám đốc kiêm Trưởng bộ phận chính sách công của Maldita.es, cho biết trong số 28 tài khoản bị phát hiện, 15 tài khoản đã được nhóm báo cáo thông qua công cụ báo cáo nội dung của TikTok vào tuần trước. Tuy nhiên, tính đến tối thứ Tư, vẫn còn 13 tài khoản tiếp tục hoạt động.

Maldita.es là một tổ chức phi lợi nhuận có trụ sở tại Tây Ban Nha, chuyên nghiên cứu thông tin sai lệch trên mạng và thúc đẩy tính minh bạch của truyền thông. Báo cáo của họ được công bố hôm thứ Năm và ngay lập tức gây chú ý trong bối cảnh các nền tảng công nghệ đang chịu áp lực ngày càng lớn về bảo vệ trẻ em trên không gian số.

Báo cáo đặt ra nghi vấn về năng lực của TikTok trong việc thực thi chính các quy định do nền tảng này ban hành, đặc biệt khi nội dung vi phạm liên quan đến hình ảnh trẻ em do AI tạo ra. Áp lực đối với các công ty công nghệ đang gia tăng khi nhiều quốc gia ban hành luật an toàn trực tuyến mới, trong đó có lệnh cấm mạng xã hội với người dưới 16 tuổi tại Australia, vừa chính thức có hiệu lực trong tuần trước.

“Chuyện này hoàn toàn không có gì mập mờ”, Hernández-Echevarría nói với CNN. “Không có một con người bình thường nào nhìn vào đó mà không thấy ghê tởm và muốn nội dung ấy bị gỡ bỏ ngay lập tức”.

TikTok nói gì về các quy định của mình?

TikTok khẳng định họ áp dụng chính sách “không khoan nhượng” đối với nội dung “thể hiện, cổ súy hoặc liên quan đến việc lạm dụng hay bóc lột tình dục trẻ em”. Trong bộ Nguyên tắc Cộng đồng, TikTok nêu rõ việc cấm các “tài khoản tập trung vào hình ảnh AI của người trẻ trong trang phục dành cho người lớn, hoặc trong các tư thế, biểu cảm mang tính tình dục”.

Một phần khác trong chính sách cũng nhấn mạnh TikTok không cho phép “nội dung tình dục liên quan đến người trẻ, bao gồm bất kỳ thứ gì thể hiện hoặc gợi ý hành vi lạm dụng hay hoạt động tình dục”, áp dụng cả với “hình ảnh do AI tạo ra” và “mọi thứ tình dục hóa hoặc ái vật hóa cơ thể người trẻ”.

Công ty cho biết họ sử dụng kết hợp các công cụ dựa trên thị giác, âm thanh, văn bản cùng với đội ngũ kiểm duyệt con người. Trong giai đoạn từ tháng 4 đến tháng 6 năm 2025, TikTok tuyên bố đã gỡ bỏ hơn 189 triệu video và cấm hơn 108 triệu tài khoản. Theo hãng, 99% nội dung vi phạm quy định về khỏa thân và phơi bày cơ thể, bao gồm cả nội dung liên quan đến người trẻ, đã được gỡ bỏ một cách chủ động; với nội dung do AI tạo ra, tỷ lệ gỡ bỏ chủ động là 97%.

Tuy vậy, người phát ngôn của TikTok không đưa ra bình luận cụ thể nào liên quan trực tiếp đến báo cáo của Maldita.es.

Trong một số trường hợp, chủ tài khoản đã sử dụng tính năng “AI Alive” của TikTok, cho phép biến ảnh tĩnh thành video động, để biến các hình ảnh AI thành clip. Những video khác dường như được tạo ra bằng các công cụ AI bên ngoài nền tảng.

Đáng lo ngại hơn, phần bình luận dưới nhiều video chứa các đường dẫn tới các nhóm Telegram riêng tư quảng cáo nội dung khiêu dâm trẻ em.

Maldita.es cho biết họ đã báo cáo 15 tài khoản và 60 video thông qua công cụ báo cáo của TikTok vào thứ Ba, ngày 2/12, phân loại nội dung là “hành vi mang tính gợi dục người trẻ”. Các tài khoản này có tổng cộng gần 300.000 người theo dõi và 3.900 video của họ đã thu hút hơn 2 triệu lượt thích.

Đến thứ Sáu, TikTok phản hồi rằng 14 tài khoản không vi phạm quy định và một tài khoản bị “hạn chế”. Nhóm nghiên cứu đã kháng nghị tất cả các quyết định, nhưng theo báo cáo, “chính xác 30 phút sau mỗi lần kháng nghị”, TikTok đều giữ nguyên kết luận ban đầu.

Trong số 60 video được báo cáo, TikTok cho rằng 46 video không vi phạm chính sách và chỉ gỡ bỏ hoặc hạn chế 14 video. Sau khi kháng nghị, TikTok gỡ thêm ba video và hạn chế thêm một video nữa. Sự khác biệt cụ thể giữa “hạn chế” và “gỡ bỏ” không được giải thích rõ ràng.

Vấn đề mang tính hệ thống, không chỉ của TikTok

Báo cáo lần này được công bố chỉ vài tháng sau một nghiên cứu khác, do tổ chức phi lợi nhuận Global Witness (Anh) thực hiện và công bố vào tháng 10, cho thấy TikTok đã gợi ý các từ khóa tìm kiếm mang tính tình dục cao cho người dùng trẻ tuổi.

Nghiên cứu đó phát hiện TikTok đề xuất các thuật ngữ “tình dục hóa mạnh” cho những người dùng khai báo 13 tuổi và đang duyệt nội dung ở “chế độ hạn chế”.

TikTok khi đó cho biết họ đã gỡ bỏ nội dung vi phạm và triển khai các cải tiến đối với tính năng gợi ý tìm kiếm. Tuy nhiên, báo cáo mới của Maldita.es cho thấy thách thức trong việc kiểm soát nội dung, đặc biệt là nội dung do AI tạo ra, vẫn còn rất lớn và hậu quả có thể đặc biệt nghiêm trọng khi đối tượng bị nhắm tới là trẻ em.

Trả lời CNN, người phát ngôn của Telegram, ông Remi Vaughn, nhấn mạnh nền tảng này “cam kết mạnh mẽ trong việc ngăn chặn nội dung lạm dụng tình dục trẻ em (CSAM) và áp dụng chính sách không khoan nhượng”.

Dù thừa nhận không nền tảng mã hóa nào có thể chủ động giám sát các nhóm riêng tư, Telegram cho biết họ tiếp nhận báo cáo từ các tổ chức phi chính phủ trên toàn thế giới để thực thi điều khoản sử dụng.

Telegram cũng cho biết trong năm 2025, hơn 909.000 nhóm và kênh công khai liên quan đến nội dung lạm dụng tình dục trẻ em đã bị xóa bỏ.