Video độc hại, đe dọa trẻ em trên YouTube

GD&TĐ - “Thử thách Momo” chỉ là phần nổi. YouTube vẫn đang loay hoay và bế tắc để xử lý các video rác độc hại, những thuật toán nhận diện thì bất lực… The telegraph ngày 5/3 cho hay.

Video độc hại, đe dọa trẻ em trên YouTube

Lo lắng đến sự an toàn của trẻ em trên mạng

Các chuyên gia đánh giá, phần lớn nội dung trên YouTube và YouTube Kids là lành mạnh. Nhưng nền tảng này cần phải có những bộ lọc tốt hơn nữa nhằm ngăn chặn nguy cơ có thể xảy ra, nhất là với trẻ em.

Trong khi đó, giải pháp dễ dàng nhất đối với các bậc phụ huynh có trẻ nhỏ có lẽ là loại bỏ YouTube khỏi mọi thứ, từ điện thoại, TV, máy chơi game, iPad... đồng thời hạn chế cho trẻ tiếp xúc với công nghệ.

Bên cạnh đó là giám sát kỹ con em của mình khi tham gia mạng xã hội và sử dụng Internet, hoặc sử dụng dịch vụ an toàn hơn, như Netflix hay kênh truyền hình dành cho thiếu nhi.

Thế giới đã ghi nhận trường hợp về cô bé Callie ở Anh hoảng loạn đến mức đập đầu vào tường, không dám đi vệ sinh một mình và nằm mơ thấy ác mộng sau khi tiếp xúc với Momo.

Một bé gái 5 tuổi khác cũng tại Anh đã tự cắt tóc mình sau khi nghe theo Momo xúi dại. Ngoài ra là 2 trường hợp tự sát của các em bé 12 và 16 tuổi ở các quốc gia châu Mỹ.

Google không thể kiểm soát hoàn toàn lượng video khổng lồ tải lên, khiến nội dung không lành mạnh vẫn xuất hiện trên YouTube, điển hình là hình ảnh Momo.

Cuối tháng 2, Telegraph cho biết: “Thử thách Momo” (Momo Challenge) bị phát hiện chèn bên trong một số video không chính thức, có nội dung lấy lại từ kênh hoạt hình Peppa Pig và game Fortnite. Trào lưu kinh dị này được cho là có nguồn gốc từ Anh, trong đó một phụ nữ có hình hài đầu người, mình gà, tóc đen, mắt lồi sẽ hướng dẫn cách tự làm hại bản thân. Những hình ảnh đáng sợ của Momo khiến nhiều người lo lắng, nhất là khi chúng được “ngụy trang” bên trong clip thiếu nhi và được cho là xuất hiện trên cả YouTube Kids - nền tảng YouTube tùy biến riêng cho trẻ em. Báo Independent của Anh còn cho biết, một số trường học tại nước này đã cảnh báo về trào lưu nguy hiểm, đồng thời khuyến cáo phụ huynh không nên để con em tự xem YouTube một mình.

Tuy nhiên, Trung tâm An toàn Internet Anh (SIC) cho rằng việc “Thử thách Momo” có thể là tin giả, tung ra nhằm gây hoang mang. Còn theo Guardian, có vẻ như một số tổ chức cũng như phụ huynh đã cường điệu hóa vấn đề, dù hình ảnh kinh dị của Momo có thể gây đau khổ và ám ảnh cho những đứa trẻ đã xem chúng.

Các chuyên gia cho rằng, Momo có thể là trò lừa bịp, một câu chuyện gây sốc được tạo ra bởi kẻ xấu, trong đó lợi dụng hình ảnh đáng sợ để đánh vào tâm lý lo lắng đến sự an toàn của trẻ em trên mạng. Do đó, phụ huynh thay vì hoảng sợ, họ cần lo lắng về YouTube và YouTube Kids nhiều hơn, bởi đây mới là môi trường cần hạn chế con em mình tiếp xúc.

Tuy nhiên, nhiều báo cáo cho biết không ít video trên cả YouTube lẫn YouTube Kids có nội dung “chỉ dẫn” tự tử lồng ghép vào các bộ phim hoạt hình “vô thưởng vô phạt” và đa phần không liên quan đến “Thử thách Momo”

. Trong tài liệu đăng trên pedimom.com của Free Hess, bác sĩ nhi khoa người Mỹ, đã đưa một số dẫn chứng liên quan đến video có nội dung hướng dẫn tự làm hại bản thân trên YouTube Kids. Bà dẫn lại chia sẻ từ một phụ huynh khi người này phát hiện ở clip hoạt hình mà con trai nhỏ tuổi đang xem bất ngờ xuất hiện thanh niên “hướng dẫn rạch cổ tay đúng cách”.

Những nội dung độc hại như vậy được cho “chỉ là phần nổi của tảng băng chìm”. Theo chuyên gia James Bridle, trên ứng dụng YouTube Kids, các đoạn phim dạng “Thử thách Momo” chèn vào Peppa Pig, chuột Mickey bị tra tấn dã man với cảnh bạo lực hay đoạn khiêu dâm trá hình gán ghép với nàng công chúa Disney tìm rất dễ.

Loay hoay và bế tắc

Theo The Verge, YouTube đã và đang nỗ lực loại bỏ hàng triệu sản phẩm có nội dung độc hại, vi phạm chính sách người dùng trong nhiều năm qua. Thế nhưng, “chính họ vẫn loay hoay với các thuật toán nhận diện, vốn không hề hoàn hảo”, The Verge nhận định.

Bê bối gần đây nhất liên quan đến một nhóm tội phạm ấu dâm thường xuyên đăng bình luận xấu, mang tính kích dục bên dưới clip cho trẻ em tồn tại trong thời gian dài đã cho thấy điều đó. Chỉ khi bị phát hiện và bị chỉ trích, mạng chia sẻ video này mới khóa tính năng bình luận trên kênh có nội dung vị thành niên.

Điểm mấu chốt của YouTube là quá phụ thuộc vào hệ thống gắn cờ để tìm và lọc nội dung không phù hợp. Điều đó có nghĩa là, thay vì phát hiện nội dung xấu ngay từ khi chưa xuất bản, những clip này phải được ai đó xem và dùng công cụ báo cáo.

Theo một số chuyên gia, kiểm duyệt video trước khi có mặt trên nền tảng là cách duy nhất để giữ an toàn trước trò chơi khăm độc hại, nhưng YouTube chưa làm điều này hoặc hạn chế. Ngoài ra, khả năng đề xuất video thiếu chọn lọc cũng dễ khiến trẻ tự tìm đến nội dung không lành mạnh.

“Con trai 5 tuổi của tôi có niềm yêu thích đặc biệt sau khi nhìn thấy tàu hỏa. Tôi đã bật cho bé đoạn phim hoạt hình về cách hoạt động của nó. Sau vài phút rời đi và quay lại, tôi thấy bé đang vô tư xem một tai nạn tàu hỏa”, Keza MacDonald, biên tập viên Guardian, kể lại.

Bên cạnh các video “rác” vẫn xuất hiện đều đặn trên YouTube lẫn YouTube Kids, như những bài hát rẻ tiền và vô nghĩa, hay câu chuyện nhảm có kèm hình ảnh Elsa, Spider-Man, Peppa Pig để gây chú ý... Chúng được thiết kế hoàn toàn để lấy lượt xem và kiếm tiền từ đó, thay vì mang tính giải trí hoặc giáo dục.

Tin tiêu điểm

Minh họa/INT

Chính thức hóa thực tế

Thế giới
GD&TĐ - Đúng 5 ngày sau khi ông Vladimir Putin tái đắc cử Tổng thống lần thứ 5, Chính phủ Nga chính thức coi đất nước đang ở trong tình trạng chiến tranh.

Đừng bỏ lỡ