Đe dọa sự an toàn của trẻ em

(PLVN) - Thử thách tự tử, video bạo lực, phim hoạt hình người lớn, bài hát chết chóc… là những từ khóa khiến các bậc phụ huynh hoang mang vài năm trở lại đây, ngay cả khi cho con cái sử dụng những nền tảng được coi là “an toàn” với trẻ em. Song, đây mới chỉ là phần nổi của tảng băng chìm khi nói đến bạo lực “mềm” trên mạng xã hội. 
Hình ảnh trẻ em bắt nạt nhau hoặc làm trò mua vui trên Youtube.
Hình ảnh trẻ em bắt nạt nhau hoặc làm trò mua vui trên Youtube.

Đáng báo động là thực trạng trẻ em đang ngày càng phụ thuộc vào công nghệ, trở thành đối tượng của tội ác, “con mồi” cho những kẻ cơ hội trục lợi, kiếm tiền… 

Khởi đầu của những ám ảnh kinh hoàng 

Trào lưu thử thách Cá voi xanh từng gây ám ảnh thế giới với những vụ việc tự tử thương tâm; thì trào lưu Momo mới nổi gần đây đã thực sự làm dư luận hoang mang, bởi hình thức tương tự - xúi giục người tham gia làm những hành động nguy hiểm, cái kết thường là tự sát.

Song, trào lưu này còn nguy ngại hơn khi đối tượng là những em nhỏ ngây thơ, vô hại, với bộ lọc thông tin chưa hoàn thiện, không hề có chút kháng cự gì trước những nguy hiểm rình rập xung quanh những “trò chơi chết người” này.

Xuất hiện ở Facebook, sau đó lan rộng qua WhatsApp, thử thách Momo khiến nhiều cha mẹ không khỏi lo lắng sau vụ việc một bé gái 12 tuổi treo cổ tự tử ở Argentina. Đáng chú ý, cảnh sát đã phát hiện thấy rất nhiều video, hình ảnh cô bé đã ghi lại trong điện thoại, bao gồm cả video toàn bộ quá trình tự tử, cùng với một số tin nhắn được gửi tới tài khoản tên Momo trên ứng dụng WhatsApp.

Sau đó, cảnh sát đã tìm ra chủ tài khoản là một thanh niên khoảng 18 tuổi; người này cho biết có ý định sử dụng  hình ảnh từ video mà cô bé đã tự tử, để tuyên truyền và lan rộng trò chơi bệnh hoạn này.

Momo, tên gốc là Mother Bird, thực chất là một tác phẩm tượng điêu khắc được tạo ra bởi một nghệ nhân người Nhật Bản tên Keisuke Aiso, đã từng được trưng bày tại Vanilla Gallery (Nhật Bản) năm 2016 với đề tài những câu chuyện kinh dị. Đau lòng khi hình ảnh nghệ thuật bị sử dụng cho mục đích tiêu cực, tác giả cho biết đã tự tay phá hủy tác phẩm của mình. 

Mặt khác, đại diện Youtube Kids tuyên bố nhiều tài khoản đăng ký trò chơi nguy hiểm này trên Youtube Kids đã bị gỡ bỏ với khẳng định “không có hệ thống tự động nào là hoàn hảo nhưng chúng tôi đang làm việc chăm chỉ hơn hết để cung cấp trải nghiệm YouTube an toàn hơn cho trẻ em”.

Song, từ một bài báo cách đây gần một năm trên tờ The Guardian (Anh), biên tập viên chuyên viết về games và công nghệ - Keza MacDonald đã khuyến cáo người dùng rằng: “Sự thật là YouTube không bao giờ có ý định trở thành một nền tảng cho trẻ em và tôi cũng không có niềm tin vào khả năng thích ứng của Youtube đối với vai trò này.

Khi con tôi khoảng 5 tuổi rất thích tàu hỏa. Vợ chồng tôi từng để con xem video về tàu hỏa trong vài phút, và khi quay lại thì thấy nó đang xem một video về tai nạn tàu hỏa mà hệ thống tự giới thiệu”.

Không chỉ có thử thách Momo, từ lâu trên kênh Youtube cũng đã xuất hiện những trò chơi khiến người tham gia tự làm tổn hại bản thân như: thử thách “Tide Pod Challenge” (ăn các viên bột giặt đầy màu sắc), hay thử thách “Fire Challenge” (ngâm mình trong chất lỏng dễ cháy để tự “phát sáng”).

Từ đó, phiên bản Youtube Kids được ra đời năm 2015, với ý định ngăn chặn trẻ em xem những nội dung độc hại. Song thay vì thế, những nội dung độc hại như xúi giục tự tử, trẻ em bị hành hạ, các nhân vật hoạt hình yêu thích của trẻ bị bạo lực hóa hoặc tình dục hóa và nhiều những nội dung xấu khác lại được lồng ghép một cách tinh vi và có chủ đích vào những clip hoạt hình “vô thưởng vô phạt” như một trò đùa tinh nghịch. 

Từ năm 2017, trên nền tảng xuất bản trực tuyến Medium, nhà văn James Bridle đã chứng minh rằng, chúng ta có thể tìm thấy một loạt những câu chuyện kinh hoàng, lệch lạc, đầy ám ảnh thông qua ứng dụng Youtube Kids.

Cụ thể như những video đáng sợ về Peppa Pig đến nha sĩ hoặc Powerpuff Girls chiến đấu chống kẻ xấu nhưng kết thúc bằng những cảnh tàn sát máu me; hoặc các nhân vật trong phim hoạt hình Mickey Mouse bị tra tấn; hay những đoạn phim gợi dục kì cục của các nàng công chúa Disney…

Có trường hợp hy hữu, một ông bố đã quay lại hình ảnh hai đứa con mình bị dọa sợ đến mức khóc thét, tè dầm hoặc bị ép buộc làm tổn thương bản thân để tăng lượt xem; ông bố này đã bị mất quyền nuôi hai đứa con mình vì những trò chơi khăm hết sức phản cảm và độc ác đó.

Nhân vật Momo khiến trẻ em kinh sợ.
Nhân vật Momo khiến trẻ em kinh sợ.

Chưa kể đến, một vụ bê bối khác cũng gây chấn động không kém, đã được đăng trên tờ The Verge (Mỹ) khi họ phát hiện một loạt các bình luận mang hơi hướng ấu dâm trên những video của trẻ em, chúng còn lấy số điện thoại để chia sẻ thêm hình ảnh. Những “kẻ quấy rối” như trên rất khó để kiểm soát, đặc biệt trên thế giới ảo.

Cẩn thận với  “nền tảng lành mạnh dành cho trẻ em”

Theo Keza MacDonald, trên thực tế, hệ thống nhận diện và lọc nội dung xấu của Youtube không hề “hiệu quả” như tuyên bố hùng hồn của họ. Nguyên nhân lớn nhất bởi họ quá dựa dẫm vào hệ thống “gắn cờ” và “báo cáo spam”, tức chỉ khi một người đã xem video, nhận thấy có vấn đề và nhấn nút “báo cáo” lên Youtube Kids thì hệ thống mới bắt đầu xem xét để loại bỏ, nhưng phải khi có nhiều lượt “báo cáo” hơn thì một video mới bị gỡ bỏ.

Điều đó cho thấy, hệ thống của Youtube Kids không xây dựng thuật toán để nhận dạng và loại trừ nội dung độc hại mà chính là người xem làm điều này; dẫn đến một nghịch lý: khi người xem càng nhiều thì những nội dung này lại được đưa lên hàng đầu trong danh sách tìm kiếm hoặc giới thiệu cho người xem khác.

Giải thích điều này, TS. Phan Đình Tùng, nhà nghiên cứu khoa học dữ liệu cấp cao - trường Đại học Pennsylvania (Mỹ) cho biết: “Công nghệ trí tuệ thông minh nhân tạo đang bị đánh giá quá cao so với thực tế các công trình khoa học hiện nay, máy tính chưa thể thông mình như con người. Thuật toán như của Youtube chủ yếu dựa vào công nghệ nhận dạng và xử lý hình ảnh.

Ví dụ, khi quét qua một video có hai nhân vật đang dùng súng bắn nhau, máy tính có thể nhận ra từng chi tiết như người, súng, máu… nhưng để tư duy xa xôi hơn, kết nối các chi tiết nhằm phân biệt đây là một cảnh bạo lực ngoài đời thật hay một cảnh mô phỏng trên phim ảnh thì máy tính vẫn chưa thể làm được.

Cũng như Momo, con người lần đầu tiên nhìn thấy có thể cảm thấy sợ hãi và không muốn xem nữa; nhưng máy tính tự bản thân nó không có cảm xúc này, nên cần dựa trên dữ liệu phản hồi từ người dùng để đưa ra quyết định loại bỏ nội dung xấu hay không.”

 Vậy tại sao Youtube Kids không áp dụng chính sách kiểm duyệt trực tiếp, tức là mọi video phải được người kiểm duyệt xem hết, chấp thuận mới được đăng lên YouTube Kids? Theo nhiều chuyên gia, câu trả lời nằm ở chỗ hệ thống thuật toán của nền tảng mạng xã hội này vốn dựa trên sở thích của trẻ em, nhằm thu hút được càng nhiều lượt xem và kiếm tiền từ đó.

Keza cho biết thêm: “Nhiều người bạn của tôi có con nhỏ thường xuyên phàn nàn về những video đánh giá đồ chơi hay mở quả trứng có quà bên trong, những video bài hát trẻ con rẻ tiền, lặp đi lặp lại hàng giờ đến vô nghĩa.

Phần lớn video trên YouTube Kids không kinh tởm như những ví dụ trên, nhưng chúng cũng tệ hại hoặc ngớ ngẩn, mục đích của những video này chắc chắn không phải là để trẻ con giải trí hay học tập gì, mà chỉ muốn thu hút sự chú ý của chúng, rồi hệ thống sẽ chèn vào những quảng cáo, đề xuất”. 

Không cần phải là một nhà thông thái về công nghệ để hiểu rằng những ứng dụng mạng ảo đang gây ảnh hưởng lớn đến nhận thức và hành động của trẻ trong quá trình học hỏi, giải trí, mối quan hệ với bạn bè và cách cư xử trong thế giới thực.

Càng nhiều hơn những đứa trẻ luôn kè kè bên cạnh những thiết bị công nghệ như điện thoại di động, máy nghe nhạc iPod, iPad, truyền hình cáp, Internet, video game… rồi bị dẫn dắt bởi những nội dung độc hại và trở thành “con mồi” của “bạo lực mạng xã hội”.

Sau trào lưu Momo, nhiều phụ huynh có con nhỏ đã loại bỏ YouTube hay Youtube Kids trên mọi phương tiện công nghệ họ có như TV, điện thoại, iPad… Các bậc phụ huynh cũng ngày càng sát sao hơn trong việc cho con sử dụng mạng xã hội như thế nào, cũng như điều chỉnh cường độ truy cập internet vừa phải, luôn theo dõi và ở bên cạnh con trẻ khi cho chúng xem để con em vẫn có thể tiếp xúc với tri thức lành mạnh.

Ngoài ra, những hoạt động bổ ích như dẫn trẻ đi hoạt động ngoài trời như bơi lội, cầu lông, bóng đá, đi bộ, đạp xe… cũng giúp nâng cao khả năng sáng tạo và hướng trẻ vào những giá trị thiết thực của cuộc sống.

Đọc thêm