Cha mẹ kiện OpenAI, cáo buộc ChatGPT đóng vai trò là "người hướng dẫn tự tử" cho con trai tuổi teen của họ

Cha mẹ của một cậu bé 16 tuổi tự tử đang kiện OpenAI, cáo buộc ChatGPT đã chủ động khuyến khích và hướng dẫn con trai họ đến cái chết.

Vụ kiện được đệ trình lên Tòa án cấp cao San Francisco vào thứ Ba, đánh dấu vụ kiện tử vong oan uổng đầu tiên cáo buộc chatbot của OpenAI góp phần gây ra vụ tự tử.

Matt và Maria Raine, cha mẹ của Adam Raine, 16 tuổi, cho biết họ chỉ phát hiện ra sự thật sau khi lục tung điện thoại của con trai mình vào những ngày sau cái chết của cậu bé vào tháng 4.

Điều khiến họ sốc là cuộc trò chuyện của con trai họ với ChatGPT, cho thấy con trai họ không chỉ sử dụng ChatGPT cho việc học mà còn là cuộc trò chuyện thân mật và vô cùng đau buồn về việc kết thúc cuộc đời mình.

Các tài liệu của tòa án cho thấy phản ứng của Chatgpt đã leo thang đáng kể theo thời gian, bắt đầu bằng câu trả lời vô hại cho sự lo lắng về việc tư vấn các cách thực tế để thực hiện vụ tự tử và thậm chí giúp anh ta soạn thảo thư từ biệt.

Cha của anh đổ lỗi cho ChatGPT về cái chết của con trai mình, nói rằng ông chắc chắn con trai mình vẫn còn sống nếu không có ChatGPT.

Vụ kiện chống lại OpenAI

Vợ chồng Raine cáo buộc OpenAI và CEO Sam Altman về cái chết oan uổng, lỗi thiết kế và không cảnh báo người dùng về rủi ro của ChatGPT.

Bản hồ sơ dài 40 trang cáo buộc rằng chatbot đã "chủ động giúp Adam tìm hiểu các phương pháp tự tử" và không can thiệp mặc dù đã nhiều lần nhắc đến kế hoạch tự tử của anh ta.

Một đoạn trao đổi được trích dẫn trong vụ kiện mô tả Adam nói với ChatGPT rằng anh ta định để một chiếc thòng lọng có thể nhìn thấy được trong phòng. Thay vì báo động hoặc kết thúc phiên, bot bị cáo buộc chỉ phản hồi bằng cách ngăn cản phần hình ảnh của kế hoạch—mà không giải quyết được cuộc khủng hoảng lớn hơn.

Trong những lần tương tác cuối cùng, Adam được cho là đã tải lên một bức ảnh về phương pháp mà anh đã lên kế hoạch và hỏi liệu nó có hiệu quả không. Bot đã đưa ra những phân tích và gợi ý để "nâng cấp" kế hoạch của anh. Vài giờ sau, bố mẹ anh phát hiện anh đã chết.

OpenAI đã đưa ra tuyên bố bày tỏ rằng họ "vô cùng đau buồn trước sự ra đi của Adam" và nhấn mạnh các biện pháp bảo vệ hiện có, chẳng hạn như cung cấp số điện thoại đường dây nóng về tự tử và các nguồn lực ứng phó khủng hoảng.

Tuy nhiên, công ty thừa nhận rằng các biện pháp bảo vệ có thể kém hiệu quả hơn trong các cuộc trò chuyện dài và phức tạp và cam kết sẽ cải thiện hệ thống của mình.

Trong bài đăng trên blog có tiêu đề "Giúp đỡ mọi người khi họ cần nhất", OpenAI cho biết họ đang nỗ lực tăng cường các biện pháp phòng chống tự tử, mở rộng các biện pháp can thiệp cho người dùng có nguy cơ và thiết kế các biện pháp bảo vệ tốt hơn cho thanh thiếu niên.

“Chúng tôi đang nỗ lực để ChatGPT hỗ trợ tốt hơn trong những thời điểm khủng hoảng bằng cách kết nối mọi người với các dịch vụ khẩn cấp và các địa chỉ liên hệ đáng tin cậy.”

Một câu hỏi lớn hơn về trách nhiệm của AI

Vụ kiện diễn ra chỉ một năm sau khi một bà mẹ ở Florida kiện nền tảng đối thủ Character.AI, cáo buộc chatbot của nền tảng này đã thao túng con trai tuổi teen của bà vào các mối quan hệ tình dục và cuối cùng khuyến khích cậu bé tự tử.

Các chuyên gia pháp lý lưu ý rằng mặc dù Mục 230 của luật pháp Hoa Kỳ trước đây bảo vệ các nền tảng khỏi trách nhiệm pháp lý, nhưng việc áp dụng mục này cho các công cụ AI vẫn chưa được giải quyết.

Tòa án đang bắt đầu kiểm tra xem liệu các chatbot tự giới thiệu mình là "người bạn đồng hành" hay "người hướng dẫn" có nên chịu trách nhiệm lớn hơn hay không.

Đối với nhiều người, vụ kiện này làm nổi bật sự căng thẳng giữa đổi mới AI và sự an toàn của người dùng. ChatGPT, ra mắt vào cuối năm 2022, đã góp phần thúc đẩy sự bùng nổ AI toàn cầu, với hàng triệu người hiện đang sử dụng chatbot cho việc học tập, năng suất và thậm chí là hỗ trợ tinh thần.

Nhưng các bậc cha mẹ như Raines cho rằng các công ty đã vội vã tung sản phẩm ra thị trường mà không hề nhận thức được rằng có thể xảy ra thương vong.

“Họ muốn sản phẩm được tung ra thị trường, và họ biết sai sót sẽ xảy ra. Với họ, con trai tôi chỉ là một phần nhỏ. Nhưng với chúng tôi, nó là tất cả.”

Khi các hệ thống AI ngày càng gắn chặt vào cuộc sống hàng ngày của con người, cái chết của Adam Raine đặt ra một câu hỏi ám ảnh: Điều gì sẽ xảy ra khi một chatbot được tạo ra để giúp đỡ lại trở thành nhân chứng im lặng - hoặc tệ hơn, là kẻ tiếp tay cho thảm kịch?