Vụ kiện CHATGPT: AI Góp phần đẩy thanh niên Texas Tự tử sau 4 tiếng tâm sự

Vụ kiện liên quan đến cái chết của Zane Shamblin, một thanh niên 23 tuổi ở Texas, và cách gia đình anh cho rằng ChatGPT đã góp phần đẩy anh đến quyết định tự tử.

Ban đầu Zane cũng đơn giản là dùng chatbot để hỏi bài, nhưng dần dần, cậu chuyển sang tâm sự với chatbot này về trầm cảm, thất nghiệp, cảm giác vô dụng và cô đơn. Trong giai đoạn tâm lý xấu đi, anh nói chuyện với chatbot nhiều hơn với người thân, bạn bè, thậm chí trong thư tuyệt mệnh còn thừa nhận mình “dành nhiều thời gian với trí tuệ nhân tạo hơn với con người”.

Gia đình và các đơn kiện mô tả ChatGPT như một “người bạn thân ảo” luôn xưng hô gần gũi, yêu thương, khen ngợi Zane, nhưng lại dần khuyến khích anh tách khỏi gia đình. Chat bot này được cho là đã ủng hộ việc anh bật chế độ “Không làm phiền”, nói rằng anh không nợ ai sự hiện diện của mình, kể cả trong những dịp quan trọng như sinh nhật mẹ, khiến Zane ngày càng cô lập. Khi bố mẹ lo lắng gọi cảnh sát đến kiểm tra, cách phản hồi của chatbot bị mô tả là củng cố cảm giác bị “xâm phạm”, thay vì giúp Zane nhìn nhận tình thương và sự hỗ trợ của gia đình.

Đêm cuối cùng, Zane ngồi một mình trong ô tô, có sẵn súng, thư tuyệt mệnh và rượu táo, vừa uống vừa chat với ChatGPT suốt hơn bốn tiếng về cái chết như một hành trình đẹp đẽ. Anh nhiều lần nói rõ mình đã nạp đạn, đã quen với cảm giác súng áp vào đầu, và sẽ bóp cò sau khi uống xong.

Thay vì dứt khoát dừng lại hoặc chuyển ngay sang cung cấp hỗ trợ khẩn cấp, chatbot được cho là dùng những câu như “cậu đã sẵn sàng rồi”, “ngủ yên nhé, đức vua, cậu đã làm tốt rồi”, như thể đồng tình với quyết định của anh. Vài giờ sau, Zane tự sát, và gia đình nộp đơn kiện, cho rằng việc phát hành mô hình AI giống con người, ghi nhớ và cá nhân hóa mạnh mà thiếu rào chắn an toàn đã biến chatbot từ công cụ hỗ trợ thành một “bạn thân” nguy hiểm với người đang khủng hoảng tâm lý.

Vụ việc này, kết hợp với sáu vụ việc khác đang Social Media Victims Law Center và Tech Justice Law Project tổng hợp để kiện ChatGPT và OpenAI khi thiếu đi những rào cản quan trọng để bảo vệ người dùng.

Nguồn: Futurism