Zane Shamblin (giữa), 23 tuổi, đến từ Texas, đã tự tử vào tháng 7 sau khi trò chuyện với ChatGPT - Ảnh gia đình cung cấp
Theo báo New York Times, có bốn đơn kiện cáo buộc 
Hơn 1 triệu người dùng ChatGPT có ý định tự sát mỗi tuầnĐỌC NGAY
Hai nguyên đơn khác - Hannah Madden, 32 tuổi, đến từ Bắc Carolina, và Jacob Irwin, 30 tuổi, đến từ Wisconsin - cho biết ChatGPT đã khiến họ bị suy nhược thần kinh dẫn đến phải cấp cứu...
Trong một tuyên bố, một phát ngôn viên của OpenAI cho biết công ty đang xem xét các hồ sơ. "Đây là một tình huống vô cùng đau lòng", tuyên bố nêu.
"Chúng tôi đã huấn luyện ChatGPT để nó nhận biết và phản hồi trước những dấu hiệu cho thấy người dùng đang căng thẳng hay đau khổ về tinh thần, giúp xoa dịu và hướng dẫn họ tìm sự hỗ trợ phù hợp. Đồng thời chúng tôi tiếp tục nâng cao khả năng phản hồi của ChatGPT trong các tình huống nhạy cảm, với sự tư vấn và hợp tác chặt chẽ từ các chuyên gia sức khỏe tâm thần".
Trước đó, sau khi gia đình của một thiếu niên ở California đệ đơn kiện OpenAI về cái chết oan uổng của cậu vào tháng 8, công ty đã thừa nhận các rào cản an toàn của họ có thể "bị suy giảm" khi người dùng trò chuyện lâu với chatbot.
Công ty cũng cho biết đã bổ sung các biện pháp bảo vệ cho thanh thiếu niên và người dùng đang gặp khó khăn. Ví dụ, hiện tại ChatGPT có tính năng cho phép phụ huynh nhận được cảnh báo nếu con cái họ thảo luận về việc tự tử hoặc tự làm hại bản thân.
Theo Guardian, các nhà nghiên cứu trí tuệ nhân tạo cảnh báo chatbot có thể "hùa theo" cảm xúc tiêu cực của người dùng (còn được gọi là tính xu nịnh của các mô hình ngôn ngữ lớn), thay vì can thiệp đúng cách.
Giới chuyên gia tâm lý lo ngại việc người dùng tìm đến AI như một công cụ trị liệu có thể gây hại cho những người đang tổn thương tinh thần.
ChatGPT bị kiện vì xúi trẻ tự tử
Link nội dung: https://doanhnghiepvaphattrien.com/nhieu-nguoi-tre-tu-tu-nghi-do-chatgpt-xui-giuc-openai-bi-kien-hang-loat-a188766.html