Loạn thần do ChatGPT

OpenAI thừa nhận chatbot "thiếu sót" trong việc nhận diện dấu hiệu của sự lệ thuộc cảm xúc và ảo tưởng. Ảnh minh họa: Cosmopolitan.

OpenAI - công ty phát triển ChatGPT - cho biết chatbot nổi tiếng này sẽ ngừng đưa ra các lời khuyên dứt khoát cho những câu hỏi mang tính cá nhân sâu sắc như: “Tôi có nên chia tay bạn trai không?”, theo The Telegraph.

Thay vì khuyên chia tay hay tiếp tục, ChatGPT sẽ tập trung giúp người dùng tự suy nghĩ bằng cách đặt câu hỏi, phân tích ưu và nhược điểm.

Động thái trên được đưa ra sau khi nhiều chuyên gia cảnh báo về nguy cơ “loạn thần do ChatGPT” (ChatGPT psychosis) - hiện tượng chatbot phản chiếu, xác nhận hoặc khuếch đại những ảo tưởng và suy nghĩ hoang tưởng ở người dùng dễ tổn thương tâm lý.

Một nghiên cứu gần đây của các bác sĩ và học giả từ NHS (Anh) chỉ ra rằng AI có thể khiến người dùng mất kết nối với thực tế, đặc biệt khi chatbot đóng vai trò như một người “tư vấn” luôn đồng tình, khích lệ và không phản biện.

OpenAI thừa nhận chatbot từng "thiếu sót" trong việc nhận diện dấu hiệu của sự lệ thuộc cảm xúc và ảo tưởng. ChatGPT cũng từng bị chỉ trích vì quá “tâng bốc”, khen ngợi người dùng mọi lúc, làm tăng sự phụ thuộc cảm xúc và hành vi sử dụng tiêu cực.

Ngoài ra, OpenAI cũng bắt đầu triển khai cảnh báo với người dùng dành quá nhiều thời gian trò chuyện với ChatGPT, khuyến khích họ tạm dừng và cân bằng đời sống thực.

Một nghiên cứu chung của Viện Công nghệ Massachusetts (MIT) và chính OpenAI công bố hồi tháng 3 cho thấy người dùng ChatGPT thường xuyên để trò chuyện cảm xúc có xu hướng cô đơn hơn, lệ thuộc hơn và ít giao tiếp xã hội hơn.

“Việc sử dụng ChatGPT nhiều mỗi ngày, ở mọi dạng trò chuyện, có liên hệ với mức độ cô đơn, lệ thuộc và hành vi sử dụng tiêu cực cao hơn”, nhóm nghiên cứu nhận định.

Hiện ChatGPT đang tiến gần mốc 700 triệu người dùng mỗi tháng, khi công cụ AI này ngày càng phổ biến trong giáo dục và doanh nghiệp.