|
|
Nhiều phụ nữ là nạn nhân của deepfake khiêu dâm. Ảnh: Wired. |
QTCinderella đã tạo dựng tên tuổi của mình bằng cách chơi game, nướng bánh và thảo luận về cuộc sống cá nhân trên nền tảng phát trực tuyến video Twitch, thu hút hàng trăm nghìn người xem cùng lúc. Cô tiên phong trong việc tôn vinh những người sáng tạo nội dung và gần đây đã xuất hiện với vai trò khách mời trong các chương trình về thể thao điện tử, theo The Washington Post.
QTCinderella nói rằng những bức ảnh khỏa thân không phải là một phần nội dung mà mình chia sẻ. Nhưng ai đó trên Internet đã tạo ra những hình ảnh như vậy bằng cách ghép mặt của QTCinderella vào các bộ phim khiêu dâm do máy tính tạo ra.
Lời cảnh báo của nữ streamer về một trang web chứa hàng nghìn hình ảnh khiêu dâm deepfake một lần nữa cho thấy mối đe dọa ngày càng tăng đối với phụ nữ trong kỷ nguyên AI.
QTCinderella chia sẻ trong một video phát trực tiếp: "Đối với những người nói rằng đó không phải là vấn đề lớn, bạn sẽ không bao giờ hiểu cảm giác khi nhìn thấy bức ảnh ghi lại hành động bạn chưa từng thực hiện được gửi đến cho gia đình mình".
96% deepfake trên Internet là nội dung khiêu dâm
Giờ đây, một phần nhờ vào các công cụ AI mới, dễ sử dụng, bất kỳ ai có quyền truy cập vào hình ảnh khuôn mặt của nạn nhân đều có thể tạo nội dung khiêu dâm giống như thật với cơ thể do AI tạo ra.
Các chuyên gia về lạm dụng cho biết các vụ quấy rối và tống tiền có khả năng gia tăng khi những kẻ xấu sử dụng mô hình AI để làm bẽ mặt, xấu hổ, trả thù mục tiêu, từ người nổi tiếng đến bạn gái cũ, thậm chí cả trẻ em.
Các nạn nhân có rất ít cơ hội để tự bảo vệ mình hay đòi lại công bằng trong những trường hợp này.
Tính đến năm 2019, 96% deepfake trên Internet là nội dung khiêu dâm, theo một phân tích của công ty AI DeepTrace Technologies, và hầu như tất cả deepfake khiêu dâm đều mô tả phụ nữ.
 |
| Sự phát triển của AI khiến deepfake khiêu dâm ngày càng phổ biến. Ảnh: CNN. |
Giáo sư luật và chuyên gia về lạm dụng trực tuyến Danielle Citron cho biết sự hiện diện của deepfake đã tăng lên kể từ đó, trong khi phản ứng từ các cơ quan thực thi pháp luật và nhà giáo dục bị tụt hậu phía sau. Ở Mỹ, chỉ 3 tiểu bang có luật giải quyết nội dung khiêu dâm deepfake.
"Đây là vấn đề phổ biến. Tuy nhiên, các công cụ AI mới đang được phát hành rộng rãi hơn mà không có bất kỳ sự công nhận nào về cách thức hoạt động xã hội và cách chúng được sử dụng", Citron nói.
Phòng thí nghiệm nghiên cứu của OpenAI đã tạo nên cơn sốt khi ra mắt mô hình tạo hình ảnh hàng đầu của mình, Dall-E. AI này vừa đem đến sự thích thú nhưng cũng đồng thời gây lo ngại về thông tin sai lệch, vấn đề bản quyền và sự thiên kiến.
Các đối thủ cạnh tranh Midjourney và Stable Diffusion cũng theo sát khi cung cấp mã cho bất kỳ ai tải xuống và sửa đổi.
Những kẻ lạm dụng giờ đây không cần phải quá am hiểu công nghệ để tạo deepfake khiêu dâm. Các ứng dụng “Hoán đổi khuôn mặt” có sẵn trong cửa hàng ứng dụng của Apple và Google. Làn sóng AI mới nhất làm cho deepfake dễ tiếp cận hơn nữa.
Hany Farid, giáo sư tại Đại học California, người chuyên phân tích hình ảnh kỹ thuật số, cho biết vì những mô hình AI được đào tạo từ hàng tỷ hình ảnh trên Internet, chúng có thể phản ánh những thành kiến xã hội, mặc định hình ảnh gợi dục của phụ nữ.
"Người phát triển công nghệ không nghĩ về điều này dưới quan điểm của phụ nữ, nạn nhân chủ yếu của phim khiêu dâm trái phép hoặc quấy rối trực tuyến", Farid nói.
Không có biện pháp nào hiệu quả 100%
Kristen Zaleski, Giám đốc pháp y tâm thần tại phòng khám nhân quyền Keck thuộc Đại học Nam California, cho biết những người xem hình ảnh khiêu dâm của bạn mà không có sự đồng thuận từ bạn - cho dù những hình ảnh đó là thật hay giả - đều là một hình thức bạo lực tình dục. Bà nói các nạn nhân thường phải đối mặt với sự phán xét từ chủ sử dụng lao động và cộng đồng xung quanh.
Zaleski từng là giáo viên ở một thị trấn nhỏ, nhưng đã bị đuổi việc sau khi phụ huynh biết về deepfake khiêu dâm được tạo ra theo hình ảnh của Zaleski mà không có sự đồng ý của bà.
"Các bậc phụ huynh ở trường không hiểu tại sao điều đó lại có thể xảy ra. Họ khăng khăng rằng mình không muốn con cái được dạy dỗ bởi tôi nữa", Zaleski nói.
Nhà nghiên cứu độc lập Genevieve Oh cho biết nguồn cung deepfake ngày càng tăng được thúc đẩy bởi nhu cầu. Bà cho biết số lượng clip mới trên trang web deepfake khiêu dâm tăng gần gấp đôi từ năm 2021 đến năm 2022, khi các công cụ hình ảnh AI phát triển nhanh chóng.
Những người tạo deepfake và nhà phát triển ứng dụng đều kiếm tiền từ nội dung bằng cách tính phí đăng ký hoặc kêu gọi quyên góp.
 |
| Số lượng clip mới trên trang web deepfake khiêu dâm tăng gần gấp đôi từ năm 2021 đến năm 2022. |
Chuyên gia về luật và lạm dụng trực tuyến Danielle Citron cho biết các mô hình học máy cũng có thể tạo ra các hình ảnh mô tả hành vi lạm dụng hoặc hãm hiếp trẻ em. Vì không có ai bị hại trong quá trình tạo nên nội dung, điều này cũng không vi phạm bất kỳ luật nào.
Nhưng sự tràn lan của những hình ảnh đó có thể thúc đẩy nạn nhân ngoài đời thực, Zaleski nói.
Một số mô hình hình ảnh tổng quát, bao gồm cả Dall-E, có các ranh giới gây khó khăn cho việc tạo hình ảnh rõ ràng. OpenAI giảm thiểu các hình ảnh khỏa thân trong dữ liệu đào tạo của Dall-E, chặn mọi người nhập một số yêu cầu nhất định và quét đầu ra trước khi hiển thị cho người dùng, trưởng nhóm nghiên cứu Aditya Ramesh của Dall-E nói với The Washington Post.
Người sáng lập David Holz cho biết một mô hình khác, Midjourney, sử dụng kết hợp các từ bị chặn và sự kiểm duyệt của con người. Ông cho biết công ty có kế hoạch tung ra bộ lọc nâng cao hơn trong những tuần tới để giải thích tốt về ngữ cảnh của các từ.
Tuy nhiên, Farid của Berkeley cho rằng không có biện pháp nào hiệu quả 100% trong kiểm soát dữ liệu đầu ra. Các mô hình AI mô tả phụ nữ với những tư thế và biểu cảm gợi dục do xu hướng phổ biến của chúng trên Internet, nguồn dữ liệu đào tạo AI, bất kể ảnh khỏa thân, khiêu dâm khác đã được lọc ra hay chưa.
Lý do khiến chúng ta thích tích trữ sách
Bất chấp sự ra đời của sách nói và sách điện tử, sách bìa cứng và bìa mềm vẫn tiếp tục tràn ngập thị trường dành cho những độc giả thích giao diện sách giấy. Trọng lượng khi cầm trên tay và cảm giác được lật giờ từng trang khiến họ thích thú. Với những người yêu sách, việc phải vứt bỏ một cuốn là chuyện đau lòng, dù họ đã đọc xong và biết rằng không bao giờ lật ra một lần nào nữa, theo Washington Post.
