Hơn 5.000 lượt người đã xem trước khi video khủng khiếp này bị gỡ bỏ khỏi mạng chia sẻ hình ảnh YouTube, theo Washington Post.
Video lan truyền hơn 5 giờ mới bị gỡ bỏ
Người đàn ông trong video được xác định là Justin Mohn, 32 tuổi, ở Levittown, bang Pennsylvania (Mỹ) - hôm 1/2 đã bị buộc tội giết người cấp đội một và lạm dụng tử thi. Cáo buộc được đưa ra sau khi thi thể của người cha, ông Michael Mohn, được tìm thấy trong ngôi nhà của gia đình đêm 30/1.
 |
| Justin Mohn, 32 tuổi, sống với cha mẹ ở Levittown, bang Pennsylvania (Mỹ). Ảnh: WPVI. |
Mohn bị cáo buộc không những chặt đầu cha ruột của mình mà còn khoe khoang tội ác đó lên mạng xã hội, theo CNN.
Cảnh sát cho biết video YouTube dài 14 phút cho thấy Justin Mohn cầm phần đầu bị cắt rời của cha mình lên và nêu rõ danh tính. Người đàn ông dường như đọc theo một kịch bản soạn sẵn, chỉ trích giới chức trách Mỹ.
Vụ việc là một trong vô số ví dụ về nội dung rợn người lan truyền trên mạng xã hội mà không có bộ lọc. Tuần trước, hình ảnh khiêu dâm do AI tạo ra của ngôi sao nhạc pop Taylor Swift đã được xem hàng triệu lần trên X (trước đây là Twitter) - và các video tương tự ngày càng xuất hiện nhiều hơn trên mạng với hình ảnh nữ giới chưa đủ tuổi vị thành niên và không có sự đồng ý. Một số người thậm chí live-stream (phát trực tiếp) các vụ giết người trên Facebook.
Đoạn video chặt đầu kinh hoàng được đăng tải vài giờ trước khi các giám đốc điều hành (CEO) hãng công nghệ lớn của Mỹ tới Capitol Hill để điều trần về bảo vệ an toàn trẻ em và mạng xã hội. Ông Sundar Pichai, CEO Alphabet, công ty mẹ của YouTube, không nằm trong số những giám đốc điều hành đó.
Trong một tuyên bố sau vụ việc, YouTube cho biết: "YouTube có các chính sách nghiêm ngặt cấm hình ảnh bạo lực và chủ nghĩa cực đoan bạo lực. Video đã bị xóa vì vi phạm chính sách hình ảnh bạo lực của chúng tôi và kênh của Justin Mohn bị chấm dứt hoạt động theo chính sách của chúng tôi về chủ nghĩa cực đoan bạo lực. Các đội của chúng tôi đang theo dõi chặt chẽ để loại bỏ bất kỳ hành động tải lại video nào”.
Thuật toán lạnh lùng
Theo New York Times, chính sách của YouTube nghiêm cấm hình ảnh bạo lực, bao gồm cả nội dung khuyến khích mọi người thực hiện hành vi bạo lực hoặc nhằm mục đích gây sốc hoặc khiến người xem cảm thấy ghê sợ.
Đây cũng không phải là lần đầu tiên một công ty công nghệ phải vật lộn với bạo lực đáng lo ngại hoặc kêu gọi bạo lực trên nền tảng của mình. Trong hơn một thập kỷ qua, những gã khổng lồ công nghệ đã phải vật lộn để loại bỏ những nội dung như vậy, cùng với những bài đăng mang tính phân biệt chủng tộc và phân biệt đối xử.
Vào năm 2019, sau khi một người đàn ông Australia phát trực tiếp trên Facebook vụ tấn công khiến 51 người thiệt mạng ở Christchurch, New Zealand, Facebook cho biết họ sẽ đặt ra nhiều hạn chế hơn đối với dịch vụ video trực tiếp.
 |
| Justin Mohn bị cáo buộc giết người và lạm dụng tử thi. Ảnh: Fox 29. |
Các nền tảng trực tuyến rõ ràng đang chậm chân trong vấn đề này. Và họ đang chưa thực sự “xắn tay” dẹp loạn, mà chỉ dựa vào các thuật toán và những đội thuê ngoài để kiểm duyệt nội dung thay vì điều động nhân viên có thể phát triển các chiến lược tốt hơn để giải quyết vấn đề.
Năm 2022, X đã loại bỏ các đội tập trung vào những vấn đề an ninh, chính sách công và nhân quyền sau khi tỷ phú Elon Musk tiếp quản mạng xã hội này.
Đầu năm ngoái, Twitch, một nền tảng phát trực tiếp thuộc sở hữu của Amazon, đã sa thải một số nhân viên tập trung vào câu chuyện sử dụng AI có trách nhiệm cũng như các vấn đề an toàn khác, theo các nhân viên cũ và đăng tải công khai trên mạng xã hội.
Microsoft cũng cắt giảm một nhóm chủ chốt tập trung vào phát triển sản phẩm AI đảm bảo đạo đức. Và Meta, công ty mẹ của Facebook, đã cắt giảm nhân viên nắm những vai trò phi kỹ thuật trong đợt sa thải mới nhất.
Những người chỉ trích thường xuyên cáo buộc các nền tảng truyền thông xã hội thiếu đầu tư vào vấn đề an toàn khi các video và bài đăng gây rối tương tự chứa đầy thông tin sai lệch vẫn tồn tại trực tuyến quá lâu - và lan sang các nền tảng khác.
“Các nền tảng như YouTube dường như chưa đầu tư đủ vào đội ngũ chuyên về vấn đề uy tín và an toàn - nếu so với những gì họ đã đầu tư vào việc bán quảng cáo - nên việc gỡ bỏ những video như vậy thường mất quá nhiều thời gian”, ông Josh Golin, giám đốc điều hành của Fair Play for Kids, tổ chức hoạt động nhằm bảo vệ trẻ em trực tuyến, nhận định.
Nhưng đó chỉ là một phần của vấn đề, ông Golin nói. Các thuật toán hỗ trợ các nền tảng này tập trung vào những video nhận được nhiều sự chú ý dưới dạng lượt chia sẻ và lượt thích. Điều đó cũng làm nảy sinh vấn đề đối với những video bạo lực rùng rợn như thế này.
James Steyer, người sáng lập và CEO của Common Sense Media, cho biết: “Ngay cả khi có biện pháp dán nhãn nội dung bạo lực, các công ty công nghệ cũng không thể kiểm duyệt và xóa chúng đủ nhanh, và thực tế đáng tiếc là trẻ em và thanh thiếu niên vẫn xem được những hình ảnh đó trước khi chúng bị gỡ xuống”.
Ông Steyer nói thêm rằng số lượng video cần kiểm duyệt quá lớn đối với YouTube và các nền tảng khác. Bên cạnh đó, những hình ảnh gây tổn thương có thể ảnh hưởng lâu dài đến sức khỏe và tinh thần của trẻ em.
Cho đến gần đây, các công ty công nghệ vẫn chưa phải chịu áp lực xem xét lại về việc đầu tư vào việc kiểm duyệt nội dung. Bất chấp những hứa hẹn từ các nhà lập pháp và cơ quan quản lý, các Big Tech phần lớn vẫn chưa bị “sờ gáy” - ngay cả khi các nhà hoạt động bảo vệ người tiêu dùng cảnh báo rằng mạng xã hội khiến người dùng trẻ tuổi đối mặt mọi nguy cơ, từ trầm cảm tới bị lạm dụng tình dục…
Tuy nhiên, với cuộc điều trần “nảy lửa” của các CEO công nghệ đình đám trước Ủy ban Tư pháp Thượng viện Mỹ hôm 31/1, các công ty công nghệ được kỳ vọng sẽ đưa ra các công cụ và chính sách để bảo vệ trẻ em và giúp cha mẹ có nhiều quyền kiểm soát hơn đối với trải nghiệm trực tuyến của con.
Dù vậy, các bậc cha mẹ và nhóm ủng hộ an toàn trực tuyến cho biết nhiều công cụ do các nền tảng truyền thông xã hội phát triển chưa đi đủ xa vì chúng chủ yếu giao phó công việc bảo vệ thanh thiếu niên cho các bậc cha mẹ và trong một số trường hợp là chính người dùng trẻ tuổi. Những người ủng hộ nói rằng không thể để nền tảng công nghệ tự điều chỉnh được nữa.
Nghi phạm Justin Mohn trong vụ án mạng chấn động cuối cùng đã bị bắt giam tại Fort Indiantown Gap ở quận Lebanon, cách hiện trường vụ án khoảng 160 km. Anh ta bị buộc tội vào sáng sớm 31/1 và bị giam giữ mà không được bảo lãnh tại ngoại. Phiên tòa dự kiến diễn ra ngày 8/2.
Động cơ của vụ giết người vẫn đang được điều tra.
AI có cướp đi công việc của chúng ta?
Trong cuốn AI chuyện chưa kể, tác giả Tomoe Ishizumi cho rằng đây chỉ là công cụ tối ưu không hơn không kém. Có một điều chắc chắn rằng AI có thể thay thế phần lớn công việc mà con người đang làm hiện nay. Tuy nhiên, chúng ta không nên nghĩ máy móc sẽ cướp đi công việc của con người mà hãy nghĩ rằng máy móc sẽ làm những công việc vất vả để con người có thời gian sáng tạo hơn.
