Aitana Lopez (25 tuổi) có mái tóc sáng màu, hoạt động với tư cách nhà sáng tạo nội dung có 325.000 người theo dõi trên Instagram. Cô được mô tả là "game thủ thực thụ", "người yêu thích giáo dục" và sống tại Barcelona, Tây Ban Nha.
Nhưng thực tế, Aitana chỉ là một sản phẩm do trí tuệ nhân tạo (AI) tạo ra.
Cô bán hình ảnh trên Fanvue - nền tảng đăng ký lưu trữ các nhà cung cấp mẫu ảo, cho phép đăng tải nội dung dành cho người lớn.
Công ty quản lý Aitana khoe rằng người mẫu AI này thu về hơn 33.000 USD/tháng và có thể kiếm được hơn 80.000 USD thông qua hợp tác với các thương hiệu, nội dung Fanvue và hoạt động tài trợ trong các story trên Instagram.
Câu chuyện về Aitana là nguồn cảm hứng để Madison và Laura, hai nhân viên công nghệ tại Melbourne, Australia mà ABC News đã đổi tên, bắt đầu xây dựng công cụ sáng tạo của riêng mình.
Cặp đôi này đắm mình vào thế giới hướng dẫn, học cách tạo ra hình ảnh AI và xây dựng kỹ thuật số. Một tháng sau, Margot Monet chào đời. Margot là một người mẫu AI tóc tím, trông khoảng đầu 20 tuổi.
Tài khoản Instagram của Margot chỉ có vài hình ảnh, nhưng cô hứa hẹn sẽ gửi cho người dùng một "bức ảnh độc quyền" nếu họ sẵn lòng "mua cho cô một tách cà phê".
 |
| Mẫu ảo Margot Monet với mái tóc tím và ở độ tuổi 20. |
Madison cho biết cô và người đồng sáng tạo đã thực hiện khoảng 50 phiên bản của Margot trước khi chọn sản phẩm cuối cùng. Trong khi các công cụ như ChatGPT có biện pháp bảo vệ, Madison cho biết các nền tảng khác cho phép tự do sáng tạo hơn trong việc định hình ngoại hình của Margot và tạo ra nội dung độc quyền mà họ có thể bán cho người hâm mộ của cô.
Nội dung độc quyền đó bao gồm ảnh khoả thân, hình bikini do AI tạo ra. Họ cũng cung cấp những bức ảnh hậu trường về cuộc sống thường ngày của Margot.
Madison "vô cùng choáng ngợp" trước phản ứng nhiệt tình của người dùng trực tuyến với câu chuyện của Margot. "Chỉ trong vài ngày, lượng người theo dõi cô ấy trên Instagram đã tăng vọt lên tới hàng nghìn người và thông báo của chúng tôi liên tục nhận được tin nhắn và cuộc gọi từ những người theo dõi".
Ở thời kỳ đỉnh cao, Margot có tới 4.000 follower.
Tuy nhiên, thay vì mang lại danh tiếng hoặc thu nhập dễ dàng, những người sáng tạo cho biết tài khoản này đã giới thiệu cho họ một khía cạnh đen tối hơn của con người kỹ thuật số so với những gì họ mong đợi.
Ngay sau khi tạo ra Margot, Madison và Laura nhận được những tin nhắn thúc ép từ những người đàn ông đang cố gắng theo đuổi mối quan hệ với Margot, mặc dù hồ sơ nêu rõ rằng cô ấy hoàn toàn không có thật.
Tài khoản của Margot còn nhận được tài liệu lạm dụng tình dục trẻ em do AI tạo ra từ một người lạ tự xưng là nghệ sĩ. Madison và Laura đã phải chuyển điện thoại sang chế độ máy bay vì quá hoảng sợ.
Hai người đã báo cáo sự việc lên Instagram. Cảnh sát Liên bang Australia cho biết Instagram sẽ tự động gắn cờ báo cáo này với Trung tâm Chống bóc lột trẻ em Australia.
Say mê, ám ảnh
Người mẫu AI là hiện tượng tương đối mới và vẫn chưa có nhiều nghiên cứu về mức độ phổ biến của họ. Tuy nhiên, một báo cáo từ Gartner - công ty nghiên cứu chuyên về xu hướng CNTT - dự đoán rằng đến năm 2035, "nền kinh tế số của con người" sẽ là thị trường trị giá 125 tỷ USD.
Các ứng dụng AI đồng hành (chatbot tự động tạo phản hồi cho người dùng) cũng đang ngày càng phổ biến, với một trong những nhà cung cấp lớn nhất, Replika, tuyên bố có hơn 10 triệu người đã tham gia nền tảng này.
Instagram hiện có rất nhiều người mẫu AI. Trong khi một số cung cấp nội dung dành cho người lớn, những người khác chỉ muốn tìm chỗ đứng trong thị trường người mẫu trực tuyến đông đúc.
Nhiều người có hàng chục hoặc hàng trăm nghìn người theo dõi. Phổ biến nhất là Lil Miquela với 2,5 triệu follower. Nhiều mẫu AI khó có thể phân biệt với con người khi chỉ nhìn thoáng qua, và đa số có đặc điểm tương tự nhau - trẻ trung, là phụ nữ và chú trọng đến thể dục.
 |
| Madison và Laura đã tạo ra Margot sau một thời gian nghiên cứu. |
Mối quan hệ với những mẫu AI và bạn đồng hành chatbot là lĩnh vực mà bác sĩ tâm thần Rahul Khanna quan tâm - người đã làm việc trong lĩnh vực này 12 năm và là giám đốc chương trình lâm sàng tại Transforming Trauma Victoria. Ông đã chứng kiến khách hàng hình thành mối quan hệ xã hội cận biên với những người có sức ảnh hưởng thực sự trong một hiện tượng được gọi là "limerence" - sự say mê hoặc sự gắn bó ám ảnh - và lo sợ điều này sẽ lặp lại với những người bạn đồng hành do AI tạo ra.
Tiến sĩ Khanna cho biết gần đây ông đã gặp một bệnh nhân có mối quan hệ đơn phương, sâu sắc với một người phụ nữ lớn tuổi có sức ảnh hưởng, người đăng tải các bài hướng dẫn làm bánh.
Người có ảnh hưởng đã đóng vai trò như một người mẹ trong tâm trí bệnh nhân. "Chất lượng mối quan hệ này quan trọng hơn bất kỳ mối quan hệ thực sự nào khác mà họ có", ông Khanna cho biết.
Tiến sĩ Khanna cũng lo ngại về các báo cáo cho rằng Google đang xây dựng các chatbot hỗ trợ AI mới dựa trên những người nổi tiếng và người có sức ảnh hưởng trên YouTube, cho phép mọi người tương tác với những người đóng thế kỹ thuật số. "Sự phát triển này có thể khiến mối nguy hiểm của các mối quan hệ xã hội và tình trạng si mê trở nên nghiêm trọng, đáng sợ hơn. Hiện tại, họ xây dụng AI dựa vào con người thực sự, do đó ranh giới sẽ trở nên mờ nhạt hơn nữa".
Ranh giới mối quan hệ là điều mà những người sáng tạo ra Margot đã nghĩ đến. Madison cho biết điều quan trọng là phải duy trì sự phân biệt rõ ràng giữa tưởng tượng và thực tế. "Mặc dù tính cách của Margot có thể gây ấn tượng với nhiều người đang tìm kiếm sự đồng hành hoặc nội dung khiêu dâm, nhưng điều quan trọng là phải hiểu được những hạn chế của những mối quan hệ như vậy", cô cho biết.
 |
| Trang Instagram của Margot từng có 4.000 theo dõi nhưng hiện không còn tồn tại. |
Chiếc hộp Pandora và ảo ảnh giữa sa mạc
Marc Cheong, giảng viên về hệ thống thông tin và đạo đức số tại Đại học Melbourne, cảnh báo bất kỳ mối quan hệ nào với con người kỹ thuật số đều có thể dẫn đến sự mất cân bằng quyền lực. Ông cho biết không giống như trong mối quan hệ bình thường giữa con người với nhau, những người tạo ra AI nắm giữ mọi quyền lực.
"Họ có thể xóa một tài khoản hoặc thay đổi cài đặt và tính cách cơ bản của người bạn đồng hành AI, bất kể người hâm mộ có cảm thấy kết nối hay không", ông nói.
Điều này thể hiện trong trường hợp của Replika sau khi nhà điều hành của trang này tắt tính năng khiêu dâm sau cảnh báo từ các cơ quan quản lý của Italy.
Giảng viên cao cấp Raffaele Ciriello của Đại học Sydney đã nghiên cứu hậu quả thông qua nền tảng trò chuyện trực tuyến Reddit. "Một triệu người đột nhiên mất đi bạn trai hoặc bạn gái, chủ yếu là bạn gái, vì hầu hết người dùng là nam giới".
Ciriello cho biết có báo cáo về hành vi tự làm hại bản thân và người dùng có ý định tự tử.
 |
| Người dùng có thể hình thành mối quan hệ ám ảnh, phụ thuộc với các mẫu AI. |
Tình huống này nhấn mạnh tầm quan trọng của những người bạn đồng hành kỹ thuật số. Trong số những người có sức ảnh hưởng trong lĩnh vực AI, nhiều tài khoản như của Margot cung cấp nội dung không an toàn hoặc khiêu dâm.
Phó giáo sư Grant Blashki của Đại học Melbourne - bác sĩ đa khoa và biên tập viên của cuốn sách Artificial Intelligence for Better or Worse - ví mua nội dung khiêu dâm AI giống như việc mở "hộp Pandora kỹ thuật số". Một trong những rủi ro là sự mới lạ này củng cố các hành vi gây nghiện và đặt ra những kỳ vọng không thực tế có thể ảnh hưởng đến hoạt động tình dục bình thường.
"Và tất nhiên, còn có những vấn đề đạo đức liên quan đến việc lạm dụng hình ảnh, đặc biệt là sử dụng hình ảnh của người khác mà không có sự đồng ý của họ", ông cho biết. Ngoài ra còn có nguy cơ mọi người sẽ ngày càng lún sâu vào những hình ảnh cực đoan hơn.
Tiến sĩ Blashki cho biết những người trẻ tuổi, nhóm chưa từng trải qua các mối quan hệ tình dục lành mạnh, có thể đặc biệt dễ bị ảnh hưởng - cả bởi nội dung khiêu dâm lẫn những người có ảnh hưởng AI.
Những người bạn đồng hành AI được coi là liều thuốc chữa lành nỗi cô đơn, nhưng Tiến sĩ Blashki ví chúng như "ảo ảnh giữa sa mạc".
"Càng đến gần, bạn càng nhận ra rằng thực ra không có nước thật nào ở đó cả, không có con người đích thực nào ở phía bên kia. Nó thực sự không làm dịu đi cơn khát".
Chia sẻ với Tri thức trực tuyến, đại diện FirstNews Trí Việt cho biết điểm chung của độc giả dòng sách chữa lành là người đã và đang chịu sự tổn thương mà không thể thoát ra được, hoặc không thể nói cùng ai. Lúc này, họ chọn sách chữa lành để vượt qua và phát triển bản thân. Còn đại diện truyền thông Huy Hoàng Books nhận định trước đây, độc giả thích đọc sách cuốn hút, kịch tính hoặc truyền tải thông điệp vĩ mô như nhân sinh, sắc tộc, thì giờ đây, những cuốn sách nhẹ nhàng, chữa lành tâm hồn dần có chỗ đứng riêng.
