Nữ sinh Hàn Quốc kêu cứu

Nhiều nữ sinh Hàn Quốc lo lắng khi nghe tin về các phòng chat chia sẻ nội dung deepfake trên Telegram. Ảnh minh họa: Shutterstock.

"Xóa hết ảnh có mặt cậu trên mạng xã hội đi, những kẻ dùng deepfake đang lộng hành lắm".

Park (13 tuổi), học sinh tại một trường THCS ở Seoul (Hàn Quốc), lo lắng khi nhận được tin nhắn như vậy từ một người bạn vào ngày 26/8.

Cô bé ngay lập tức chuyển tài khoản mạng xã hội về chế độ riêng tư. Nhưng cả ngày hôm đó, em vẫn rất sợ hãi khi nghĩ đến chuyện những bức ảnh của mình có thể đã bị tội phạm tình dục kỹ thuật số sử dụng.

Tại Hàn Quốc, tội phạm tình dục sử dụng deepfake không chỉ dừng lại ở khuôn viên trường đại học, mà đã lan đến các trường THCS, THPT và thậm chí là tiểu học. Điều này khiến nữ sinh Hàn Quốc bất an trong nhiều ngày qua, sợ rằng hình ảnh của mình rơi vào tay của những kẻ có mục đích xấu.

Hàng trăm trường học bị ảnh hưởng

Deepfake là một loại phương tiện được tạo ra bằng học sâu (deep learning) để tạo ra những hình ảnh, video và cả âm thanh giả mạo. Theo Korea Times, tội phạm deepfake thường thao túng hình ảnh, video của người khác để tạo ra nội dung khiêu dâm.

Khi phát hiện hình ảnh của mình bị ghép vào những sản phẩm đồi trụy, nạn nhân rất hoảng loạn, đau khổ và gặp chấn thương tâm lý trong thời gian dài.

Tại Hàn Quốc, nội dung được tạo ra bằng deepfake ngày càng bành trướng. Nạn nhân không chỉ dừng lại ở những người xuất hiện trên các phương tiện truyền thông xã hội, mà đã lan đến người quen ngoài đời của thủ phạm. Chúng lấy ảnh của nạn nhân để ghép vào những sản phẩm khiêu dâm nhằm phát tán vào các hội nhóm trên mạng.

Những nội dung như vậy đã được lan truyền qua rất nhiều hội nhóm Telegram được tổ chức theo quy mô trường học và khu vực. Đối với nữ sinh Hàn Quốc, điều kinh khủng nhất là các phòng chat Telegram được tổ chức theo từng trường.

Khi tìm kiếm các phòng chat chia sẻ nội dung deepfake tình dục trên Telemetrio - trang tìm kiếm của Telegram - người dùng có thể tìm thấy hàng trăm kết quả và nhiều kết quả trong số đó có tên trường đi kèm ở phần tiêu đề.

Theo Chosun Ilbo, học sinh Hàn Quốc đã tạo một danh sách thống kê các trường bị ảnh hưởng bởi nạn deepfake và chia sẻ lên nền tảng xã hội X (trước đây là Twitter).

Cụ thể, trong danh sách có tên gọi "Danh sách các trường có nạn nhân deepfake của Telegram", 447 trường tiểu học, THCS và THPT được nêu tên. Con số này được tính đến 18h ngày 26/8.

Còn theo báo cáo của Bộ Giáo dục Hàn Quốc, từ tháng 1/2024 đến nay, bộ nhận được báo cáo từ 186 học sinh và 10 giáo viên về việc họ bị ghép vào mặt vào nội dung khiêu dâm, sau đó bị phát tán lên các nền tảng mạng xã hội.

Thứ trưởng Bộ Giáo dục Oh Seok-hwan công bố kế hoạch thành lập lực lượng đặc biệt để xử lý tội phạm deepfake. Ảnh: Yonhap.

Ngành giáo dục vào cuộc

Thông tin về nạn deepfake lan rộng ở trường học, phó hiệu trưởng tại một trường THPT ở tỉnh Gyeonggi - trường có tên trong danh sách - xác nhận với Chosun Ilbo rằng các sản phẩm deepfake đã ảnh hưởng đến học sinh của trường.

"Do vấn đề này rất nghiêm trọng và có liên quan đến các trường học khác, chúng tôi quyết định hợp tác với cảnh sát để làm rõ vụ việc", vị phó hiệu trưởng thông tin.

Cùng ngày, hội đồng học sinh tại một trường THPT khác ở tỉnh Gyeonggi đăng tải bài viết lên tài khoản Instagram, nói rằng thông tin cá nhân và ảnh ghép deepfake của học sinh trong trường đã bị phát tán qua Telegram. Bài viết này cũng kêu gọi học sinh xóa mọi ảnh cá nhân đã đăng tải lên Instagram để tránh bị kẻ xấu sử dụng.

Bộ Giáo dục Hàn Quốc cũng đã hành động. Tại họp báo chính phủ hôm 28/8, Thứ trưởng Bộ Giáo dục Oh Seok-hwan công bố kế hoạch thành lập lực lượng đặc biệt để xử lý tội phạm deepfake trong bối cảnh công cụ này đang bị lạm dụng và lan truyền chóng mặt trong các trường học trên toàn quốc, theo Yonhap.

Theo đó, lực lượng này sẽ tiến hành điều tra các vụ việc liên quan deepfake, từ đó hợp tác với cơ quan chức năng để xử lý. Ngoài ra, lực lượng của Bộ Giáo dục sẽ duy trì mạng lưới liên lạc khẩn cấp với các văn phòng giáo dục trên toàn quốc, đồng thời tập trung vào việc hỗ trợ những học sinh, giáo viên bị tác động tâm lý.

Bộ cũng tuyên bố rằng học sinh phạm tội liên quan đến deepfake có thể phải đối mặt với hậu quả nghiêm trọng, bao gồm việc bị đuổi học.

Các cơ quan giáo dục địa phương cũng đã ban hành thông báo khẩn tới các trường học và học sinh để nâng cao nhận thức về vấn đề này. Các thông báo nêu rõ tội phạm deepfake không chỉ đơn giản là tò mò mà là vi phạm pháp luật nghiêm trọng, có thể bị xử lý theo quy định.

Tại thành phố Daejeon, văn phòng giáo dục ra văn bản cảnh báo về tội phạm tình dục kỹ thuật số và quyết định triển khai tuần giáo dục đặc biệt cho đến ngày 6/9.

Các trường học trong thành phố cũng được yêu cầu phải báo cáo sự cố cho cảnh sát, phòng giáo dục sẽ hỗ trợ trực tiếp cho những học sinh bị ảnh hưởng.

Trong 3 năm qua, số lượng thanh, thiếu niên liên quan các hành vi phạm tội về deepfake tại Hàn Quốc gia tăng nhanh chóng. Dữ liệu từ cảnh sát nước này cho thấy thanh, thiếu niên chiếm đến 69% (194 trường hợp) trong số những người bị bắt vì tạo và phát tán video giả.

Trong khi đó, Bộ Bình đẳng giới và Gia đình Hàn Quốc thông tin tính đến ngày 28/8, 781 người đã liên hệ với trung tâm hỗ trợ của bộ để tìm kiếm sự giúp đỡ vì bị ảnh hưởng bởi deepfake khiêu dâm. Điều đáng chú ý là 36,9% trong số này là trẻ vị thành niên.

Theo luật xử phạt tội phạm tình dục ở nước này, việc tạo hoặc phát tán tài liệu tình dục bằng deepfake có thể bị phạt tù đến 5 năm hoặc phạt tiền lên đến 50 triệu won (hơn 37.000 USD).

Dù vậy, thanh, thiếu niên Hàn Quốc - những người đã quen với việc chia sẻ ảnh trên các phương tiện truyền thông xã hội - thường không nhận ra việc tạo và chia sẻ nội dung deepfake là tội ác.