Tối 26/7, TikToker tên D. (có 53.900 người theo dõi) gây sốc trên livestream khi uống dung dịch lạ trong chai nước tẩy rửa, sau đó sùi bọt mép và bất tỉnh tại chỗ. Thời điểm xảy ra sự việc, video có hàng nghìn "mắt xem".
Dù chưa xác minh thực hư, điều khiến dân mạng lo ngại là dù thể hiện hành động tiêu cực, livestream của D. không bị ngắt kết nối. Nền tảng dường như không có động thái kiểm duyệt khi sau đó, các video cắt từ livestream này tiếp tục viral, được đẩy lên xu hướng.
Sự việc gây ra cuộc tranh luận sôi nổi trên mạng xã hội về vai trò của TikTok trong khâu kiểm duyệt khi để nội dung xấu lan truyền. Nhiều vấn đề cũng được đặt ra, trong đó có mối lo về nội dung độc hại không được kiểm soát, có khả năng tiếp cận và tác động xấu đến trẻ em khi nền tảng này giới hạn người dùng từ 13 tuổi trở lên.
Chuyện gì đã xảy ra?
Trước khi uống dung dịch lạ được cho là chất tẩy rửa, D. cho biết anh làm điều này xuất phát từ mâu thuẫn tình cảm và đã "nhắn tin xin lỗi ba mẹ".
Khi D. thực hiện hành động, livestream có 2.500 "mắt xem". Chỉ hơn 2 phút tiếp theo, lượng người xem tăng lên nhanh chóng và khi anh ngất xỉu, số "mắt xem" đạt 3.500 và bình luận tương tác cũng tăng chóng mặt.
Điều này cho thấy nội dung gây sốc đã được nền tảng đề xuất đến nhiều người dùng trong thời gian ngắn. Câu chuyện cũng trở thành chủ đề thảo luận sôi nổi sau một ngày.
 |
| Nội dung tự hại bị lọt qua kiểm duyệt của nền tảng TikTok gây lo ngại. Ảnh: Social Media Victims Law Center. |
Đây không phải lần đầu tiên TikTok gây tranh cãi khi lan truyền nội dung tiêu cực, tự hại. Thuật toán và cách phân phối nội dung của nền tảng từ lâu đã gây lo ngại với việc tự động gợi ý nội dung qua mục "For You" (Dành cho bạn) mà không cần thông qua tìm kiếm.
Trước đó, tối 12/7, TikTok lan truyền livestream cảnh người đàn ông đang đánh người phụ nữ ôm con nhỏ 1 tuổi. Cô gái được nhìn thấy co ro trong góc phòng, người đàn ông hỏi "Hết mệt chưa?" rồi liên tục tát vào mặt nạn nhân, còn cháu bé khóc thét vì sợ.
Video lan truyền nhanh chóng gây phẫn nộ. Thủ phạm là Trần Văn Trung, được biết đến với biệt danh Trung "cá chép". Ngay khi buổi phát sóng đang diễn ra, người nhà cô gái đã nhận ra vào báo cáo cơ quan chức năng. Người đàn ông bị bắt giữ sau 3 ngày.
 |
| Trung "cá chép" ngang nhiên livestream cảnh hành hung một cô gái ôm trẻ nhỏ. Ảnh cắt từ clip. |
Dù có cơ chế tiếp nhận báo cáo vi phạm từ người dùng, không phải lúc nào nội dung xấu cũng được nền tảng này xử lý nhanh chóng, thỏa đáng.
Cuối tháng 5/2024, tài khoản TikTok C* của nam thanh niên L.T.T. nhận phản ứng phẫn nộ trên mạng xã hội vì đăng tải video quay lén núp bóng phỏng vấn dạo, quay lén, zoom cận vào bộ phận nhạy cảm của các cô gái trên bãi biển ở khu vực Sầm Sơn (Thanh Hóa), Hạ Long (Quảng Ninh), Cát Bà (Hải Phòng).
Một số cô gái cho biết đã bình luận trực tiếp hoặc nhắn tin yêu cầu T. gỡ các video song bị làm ngơ, thậm chí đe dọa ngược. Nhiều dân mạng vào kênh, để lại bình luận phẫn nộ nhưng các clip vẫn tiếp tục tồn tại. Nhiều nạn nhân cho biết bị khủng hoảng tinh thần vì hình ảnh nhạy cảm lan truyền, bị trêu chọc.
Sự lan truyền nội dung "bẩn" chóng mặt trên TikTok không phải vấn đề riêng tại Việt Nam. Thực tế, nhiều quốc gia trên thế giới cũng đau đầu trong kiểm soát nội dung trên nền tảng video ngắn, đặc biệt những nội dung ảnh hưởng đến trẻ em.
Theo báo cáo được Trung tâm phi lợi nhuận Chống lại sự thù hận trên mạng Mỹ (CCDH) công bố vào tháng 12/2022, các nhà nghiên cứu phát hiện mất chưa đến 3 phút sau khi đăng ký tài khoản TikTok để người dùng bắt gặp nội dung liên quan đến tự tử và khoảng 5 phút tiếp theo để tìm thấy một cộng đồng quảng bá nội dung về rối loạn ăn uống, CNN đưa tin.
Các nhà nghiên cứu cho biết họ đã thiết lập 8 tài khoản mới tại Mỹ, Vương quốc Anh, Canada và Australia, với độ tuổi người dùng tối thiểu của TikTok giới hạn là 13. Khi các tài khoản bấm thích một nội dung về hình ảnh cơ thể và sức khỏe tâm thần, nền tảng sau đó đề xuất các video liên quan với tần suất khoảng 39 giây/lần trong khoảng thời gian 30 phút.
Báo cáo được đưa ra trong bối cảnh các nhà lập pháp tiểu bang và liên bang ở Mỹ tìm cách siết chặt TikTok vì những lo ngại về quyền riêng tư và bảo mật, cũng như xác định xem ứng dụng này có phù hợp với thanh thiếu niên hay không.
Imran Ahmed, Giám đốc điều hành của CCDH, cho biết trong báo cáo: "Kết quả nghiên cứu là cơn ác mộng của mọi bậc cha mẹ: trang web của những người trẻ tuổi tràn ngập nội dung độc hại, kinh hoàng có thể gây ảnh hưởng tích lũy đáng kể đến sự hiểu biết của họ về thế giới xung quanh cũng như sức khỏe thể chất và tinh thần của họ".
Lỗ hổng kiểm duyệt
TikTok có một hệ thống kiểm duyệt gắt gao nhưng cũng không tránh khỏi lỗ hổng. Trong nguyên tắc cộng đồng của TikTok, được cập nhật lần cuối vào tháng 3/2023, nền tảng lưu ý rằng: "Ưu tiên của chúng tôi là đảm bảo an toàn cho trẻ vị thành niên. Chúng tôi không cho phép nội dung có thể khiến trẻ em có nguy cơ bị bóc lột hoặc tổn hại về tâm lý, thể chất hoặc sự phát triển. Nội dung này bao gồm nội dung xâm hại tình dục trẻ em (CSAM)".
Tại Việt Nam, khi tìm kiếm từ khóa "tự tử", người dùng sẽ không được để xuất nội dung, thay vào đó là khẩu hiệu "Bạn không hề đơn độc", kèm theo là số điện thoại của Bộ Công an và Tổng đài quốc gia bảo vệ trẻ em. Điều đó cho thấy nỗ lực của nền tảng trong việc bảo vệ người dùng trước nội dung xấu.
Nền tảng cũng mạnh tay "chặn" những video có chứa từ ngữ miệt thị, gây thù hận, tục tĩu.
 |
| TikTok vẫn còn nhiều lỗ hổng trong kiểm duyệt nội dung. Ảnh: Rodrigo Bento/The Intercept Brazil. |
Tuy nhiên, theo The New York Times, sự cứng nhắc trong quy tắc ngôn ngữ gây rắc rối cho người dùng khi muốn truyền tải nội dung, đồng thời gây lúng túng trong xử lý những kẻ vi phạm cố tình lách luật.
Theo các chuyên gia, quy trình kiểm duyệt nội dung hai tầng của TikTok là một mạng lưới cố gắng thu thập tất cả nội dung bạo lực, thù hận, khiêu dâm hoặc lan truyền thông tin sai lệch.
Để "lách kiểm duyệt", người dùng TikTok đã chế ra hàng loạt từ lóng hoặc viết sai chính tả nhằm thay thế các cụm từ "vi phạm nguyên tắc cộng đồng". Ví dụ, trong livestream gây sốc của TikToker D., những từ khóa liên quan được cố tình viết lái đi. Video livestream gốc cũng được lồng ghép vào clip khác, che icon (biểu tượng mặt cười) để né kiểm duyệt.
Tính đến tối 27/7, khi tìm kiếm tên của TikToker D., hàng chục video "lách luật" này vẫn liên tục hiện ra. Một trong số video cắt từ livestream có gần 300.000 lượt xem và 2.700 lượt yêu thích. Dân mạng chia phe tranh luận, một bên cho rằng hành động của anh chàng là dại dột, nhiều người khác nhận định đây là "content bẩn", giả vờ diễn để tăng tương tác.
Tại Mỹ, Alessandro Bogliari, giám đốc điều hành của Influencer Marketing Factory, cho biết hệ thống kiểm duyệt của các nền tảng thông minh nhưng có thể mắc lỗi. Đó là lý do nhiều influencer mà công ty của ông thuê cho các chiến dịch tiếp thị sử dụng "algospeak" (từ lóng mới). Hơn thế, thuật toán của TikTok cho đến hiện tại vẫn hoạt động theo cách thức bí ẩn nhằm tối ưu hóa trải nghiệm và lôi kéo người dùng, theo The Guardian.
Jordan McSwiney, nghiên cứu viên cao cấp tại Trung tâm Dân chủ Thảo luận và Quản trị Toàn cầu thuộc Đại học Canberra (Australia), nhận định cách thức hoạt động của TikTok không phải là tạo điều kiện cho những cuộc tranh luận sâu sắc, hay thúc đẩy một không gian công cộng dân chủ lành mạnh. "Nó tập trung tạo ra nội dung khiến mọi người tiếp tục lướt web, bởi vì đó là doanh thu quảng cáo", ông nói.
Theo nhà tâm lý học xã hội Jonathan Haidt, trẻ em và thanh thiếu niên ngày nay phải đối mặt với một loại áp lực mà các thế hệ trước không hề biết đến: áp lực từ những lượt thích, bình luận và sự so sánh không hồi kết trên mạng xã hội. Điều này tạo ra một vòng xoáy độc hại, nơi lòng tự trọng bị gắn chặt với những con số ảo thay vì giá trị thực tế.
