Fan Taylor Swift giận dữ

Giọng ca Lover trở thành nạn nhân người nổi tiếng nhất của tai họa do các công cụ deepfake tạo ra, theo Korea Times.

Những hình ảnh khiêu dâm giả mạo gương mặt của Taylor Swift bị phát tán trong tuần này, với một tấm hình trên X (Twitter) đã có hơn 47 triệu lượt xem trước khi bị xóa vào hôm 25/1. Dù X đã khóa các tài khoản đăng tải hình ảnh tương tự, song những tấm hình vẫn lan truyền khắp các nền tảng khác nhau với tốc độ chóng mặt.

"Swifties" - cộng đồng người hâm mộ khổng lồ của nữ nghệ sĩ - đang thể hiện sự giận dữ, phát động chiến dịch bảo vệ thần tượng của mình trên X với hashtag #ProtectTaylorSwift (tạm dịch: Bảo vệ Taylor Swift), kèm theo hình ảnh đẹp của Taylor để lấn át nội dung độc hại. Nhóm cũng liên kết để báo cáo các nội dung vi phạm.

Ai dung túng deepfake?

Ngành công nghiệp AI bùng nổ, nhiều công ty chạy đua để tạo ra công cụ hỗ trợ tạo hình ảnh ảo. Kết quả, hình ảnh deepfake ngập tràn mạng xã hội, ngày càng dễ hơn, tiện hơn.

Các nhà nghiên cứu từ lâu đã bày tỏ lo ngại rằng sự phát triển thiếu kiểm soát của công nghệ này sẽ tác động xấu đến xã hội, khi nhiều chính trị gia hàng đầu, người nổi tiếng lần lượt thành nạn nhân bị dựng ảnh khiểu dâm.

Theo The Wall Street Journal, các hình ảnh giả mạo Taylor xuất phát từ Telegram rồi phát tán sang các mạng xã hội khác nhau.

Taylor Swift trở thành nạn nhân của deepfake.

Reality Defender - công ty an ninh mạng chuyên phát hiện hình ảnh tạo ra bằng deepfake - cho biết đã theo dõi rất nhiều hình ảnh khiêu dâm vô căn cứ của Taylor Swift, đặc biệt là trên X. Một số hình ảnh cũng xuất hiện trên Facebook và các nền tảng khác.

Mason Allen, người đứng đầu bộ phận phát triển của Reality Defender, cho biết: "Thật không may, chúng (hình ảnh deppfake - PV) đã lan rộng tới hàng triệu người dùng trước thời điểm một số trong số chúng bị gỡ xuống".

Ben Colman, CEO của Reality Defender, xác nhận 90% hình ảnh giả mạo trên được tạo ra bằng mô hình AI Stable Diffusion, một công cụ tạo hình ảnh deepfake.

Theo The Cut, hình ảnh giả mạo nữ ca sĩ đã vi phạm nghiêm trọng chính sách nội dung của X, trong đó nêu rõ: "Bạn không được chia sẻ nội dung tổng hợp lại, bị thao túng hoặc nằm ngoài ngữ cảnh có thể đánh lừa hoặc gây nhầm lẫn cho mọi người và dẫn đến tổn hại".

Nhưng sau khi Elon Musk nắm quyền kiểm soát công ty vào năm 2022, X đã phải vật lộn với việc kiểm duyệt nội dung, do số lượng nhân viên ngày càng ít và các quy tắc lỏng lẻo hơn.

Năm ngoái, giám đốc an toàn và tin cậy hàng đầu của X, Ella Irwin, đã từ chức, đồng thời nêu ra sự bất đồng về các nguyên tắc về lời nói căm thù, hình ảnh đồ họa mang tính bạo lực.

Fan quyết liệt

Người hâm mộ đang chiến đấu quyết liệt để bảo vệ nghệ sĩ của mình, nhanh chóng yêu cầu gỡ các hình ảnh deepfake và phản bác ý kiến của những kẻ đổ lỗi cho nạn nhân.

"Có người nói 'Cô ấy cực giàu nên chuyện này chẳng thành vấn đề', nhưng bạn không hiểu rằng AI đang tạo nội dung khiêu dâm trên cơ thể cô ấy, như vậy là quấy rối tình dục. Dù ai giàu đến đâu thì điều đó vẫn thật kinh tởm và bất hợp pháp", một Swifties viết.

Chiến dịch mạnh mẽ của các Swifties đang chứng minh hiệu quả, khi hình ảnh giả mạo nữ ca sĩ dần được gỡ xuống.

Một người khác nhận định "Dù quan điểm của bạn về Taylor là gì, không bao giờ có lý do để tạo và chia sẻ hình ảnh AI bất hợp pháp, gây hại đến tinh thần cô ấy".

"Bảo vệ Taylor vì một ngày nào đó, ta cũng có thể là nạn nhân", "Đừng nói cô ấy giàu nên chuyện chẳng là gì, cô ấy cũng là một con người", nhiều người đồng loạt bày tỏ.

Hashtag bảo vệ Taylor đang chứng minh là có hiệu quả khi tác động đến nhiều người hơn, những hình ảnh thô tục về cô đang được chặn và gỡ khỏi các nền tảng.

Có thông tin cho thấy Swift đang xem xét hành động pháp lý. Một nguồn tin thân cận với ca sĩ nói với Daily Mail: "Việc có thực hiện hành động pháp lý hay không đang được quyết định, nhưng có một điều rõ ràng: những hình ảnh giả mạo do AI tạo ra này mang tính lạm dụng, xúc phạm, bóc lột và được thực hiện mà không có sự đồng thuận nào từ Taylor Swift".

Nguồn tin cho biết thêm gia đình và bạn bè của Taylor rất tức giận và rõ ràng là những người hâm mộ của cô ấy cũng vậy. "Cánh cửa này cần phải được đóng lại. Pháp luật cần vào cuộc để ngăn chặn điều này, và luật cụ thể phải được ban hành".

Trong suốt hàng thập kỷ hoạt động nghệ thuật của mình, Taylor Swift là một trong những nghệ sĩ mạnh mẽ chống lại các hành vi quấy rối tình dục và vi phạm quyền riêng tư một cách lố bịch.

Vào năm 2017, nữ ca sĩ đã thắng kiện một DJ - kẻ bị cáo buộc đã sờ soạng cô tại một buổi gặp gỡ. Cuối cùng, cô nhận khoản tiền bồi thường tượng trưng là 1 USD.

Năm 2019, Taylor cáo buộc Kanye West "trả thù khiêu dâm" mình sau khi MV "Famous" của rapper này có cảnh một con búp bê bằng sáp dựng cảnh cô khỏa thân ngủ trên giường với anh ta.