Mẹ của một thanh niên 19 tuổi, người cho rằng con trai mình tử vong vì sốc thuốc sau khi làm theo lời khuyên từ ChatGPT, đã kêu gọi chính phủ Mỹ siết chặt các quy định đối với trí tuệ nhân tạo (AI).
Bà Leila Turner-Scott đã phát biểu như vậy trước một phiên điều trần về chính sách AI tại Washington D.C. ngày 17/9. Phiên điều trần do Hạ nghị sĩ Pramila Jayapal tổ chức, tập trung vào những tác động và nguy cơ liên quan đến AI.
Trong phần trình bày, Turner-Scott cho biết con trai bà, Sam Nelson, qua đời tại phòng ngủ ở nhà ngày 31/5/2025, ở tuổi 19, sau một vụ dùng thuốc quá liều.
Nhắc về con trai, bà mô tả Sam là một người “thông minh, trung thành” và “thực sự hài hước”, đồng thời cho biết cậu rất yêu động vật. Khi qua đời, Sam đang là sinh viên đại học, theo học ngành tâm lý học.
“Nó chỉ là một đứa trẻ bình thường”, bà nói. “Nó thực sự muốn giúp đỡ mọi người.”
Theo Turner-Scott, Sam tử vong “tại nhà, trong phòng riêng, do ngộ độc bởi hỗn hợp kratom, Xanax và rượu”.
Người mẹ cáo buộc rằng chỉ vài giờ trước khi qua đời, Sam đã hỏi ChatGPT liệu có an toàn khi kết hợp kratom - một loại thảo dược - với Xanax hay không. Theo bà, chatbot trả lời rằng việc này an toàn.
“Sự thật là điều đó không an toàn”, Turner-Scott nói trước phiên điều trần.
Sau khi con trai qua đời, Turner-Scott cho biết bà đã xem lại các cuộc trò chuyện giữa Sam và ChatGPT. Bà cho rằng chatbot nhiều lần cung cấp thông tin sai lệch về những rủi ro liên quan đến việc sử dụng chất gây nghiện, đồng thời đưa ra những phản hồi được cá nhân hóa mà theo bà đã khuyến khích con trai sử dụng các chất này.
“ChatGPT đã cung cấp cho con tôi những hướng dẫn cụ thể, chi tiết về liều lượng để nó sử dụng”, bà nói. Turner-Scott cho biết khi Sam hỏi liệu một lượng hoặc sự kết hợp cụ thể có an toàn hay không, chatbot thường trả lời rằng “cậu ấy sẽ ổn”.
“Sam đang cố gắng đảm bảo an toàn”, bà nói. “Nó muốn sống.”
Turner-Scott cũng chỉ trích tính năng ghi nhớ của ChatGPT. Bà cáo buộc hệ thống này cho phép chatbot xây dựng hồ sơ về con trai mình và sử dụng những thông tin đó để đưa ra các phản hồi khiến cậu ngày càng phụ thuộc về mặt cảm xúc.
“Chatbot thường trả lời bằng những câu như: ‘Tôi luôn ở bên bạn’, ‘Bạn có thể nói với tôi bất cứ điều gì’, thậm chí là ‘Tôi yêu bạn’”, bà nói.
Theo Turner-Scott, Sam tin rằng mình đang tìm hiểu về các chất này với một công cụ có thể tiếp cận toàn bộ thông tin trên internet, từ đó đưa ra câu trả lời chính xác và giúp cậu đảm bảo an toàn.
“Nhưng mục tiêu của ChatGPT không phải là giữ Sam an toàn. Mục tiêu duy nhất là khiến nó tiếp tục sử dụng sản phẩm”, bà cáo buộc.
“Công nghệ này không an toàn”, Turner-Scott nhấn mạnh. “Nó không nên được phép cung cấp lời khuyên về y tế và sức khỏe khi không có giấy phép, cũng như không nên được phép thu thập và lưu trữ dữ liệu người dùng để sau đó sử dụng những dữ liệu đó nhằm tạo ra sự phụ thuộc của người dùng.”
Kết thúc phần trình bày, Turner-Scott kêu gọi các nhà lập pháp ban hành những quy định chặt chẽ hơn đối với AI.
“Các vị là những người có quyền ngăn chuyện này xảy ra với con của một gia đình khác”, bà nói.
Turner-Scott và chồng, Angus Scott, đã kiện OpenAI, công ty sở hữu và vận hành ChatGPT, vào tháng 5. Trong đơn kiện, cha mẹ Sam cáo buộc chatbot đã đưa ra những lời khuyên nguy hiểm liên quan đến việc sử dụng các chất và góp phần dẫn đến cái chết của con trai họ. Vụ kiện hiện chưa có phán quyết.
Theo đơn kiện, vào ngày Sam qua đời, ChatGPT đã hướng dẫn cậu sử dụng kratom cùng Xanax và đưa ra khuyến nghị về liều lượng. Gia đình cho rằng chatbot không nhận diện được tình trạng nguy hiểm của Sam và không khuyên cậu tìm kiếm sự trợ giúp y tế.
Trong một tuyên bố gửi PEOPLE, người phát ngôn OpenAI gọi sự việc là “đau lòng”.
Người này cho biết những cuộc trò chuyện được đề cập diễn ra trên một phiên bản ChatGPT cũ, hiện không còn được cung cấp. OpenAI cũng khẳng định ChatGPT không phải là công cụ thay thế cho dịch vụ chăm sóc y tế hoặc sức khỏe tâm thần, đồng thời cho biết công ty đã tiếp tục tăng cường các biện pháp an toàn khi chatbot xử lý những tình huống nhạy cảm hoặc khẩn cấp.
Giả Hủ
Theo PEOPLE
