Trí tuệ nhân tạo nói chung và các chatbot nói riêng đang chứng minh sự hữu ích vượt bậc trong nhiều khía cạnh của cuộc sống, thế nhưng, đằng sau sự phát triển đó vẫn tồn tại những rủi ro đáng báo động. Một tình huống đau lòng vừa xảy ra khi một người dùng đã nhận được sự tư vấn từ ChatGPT để tiến hành một vụ xả súng đẫm máu gây chấn động.
Thảm kịch diễn ra vào ngày 10 tháng 2, khi giới chức trách cho biết Jesse Van Rootselaar (18 tuổi) đã lấy hai khẩu súng từ nhà riêng ở Tumbler Ridge, British Columbia và sát hại chính mẹ ruột cùng người em trai 11 tuổi. Ngay sau đó, thủ phạm tiếp tục di chuyển đến Trường Trung học Tumbler Ridge, cướp đi sinh mạng của năm học sinh và một giáo viên, đồng thời bắn bị thương hai học sinh khác, trong đó có một nữ sinh tên là Gebala.
Theo giới chức trách, Van Rootselaar đã tử vong do một vết thương tự gây ra bằng súng. Quá trình điều tra của tờ The New York Times cũng cho thấy thủ phạm từng nhiều lần thể hiện sự say mê với bạo lực và vũ khí trên các tài khoản mạng xã hội của mình.
Điều tra ban đầu và góc khuất từ hồ sơ vụ kiện
Hiện tại, gia đình của nữ sinh bị thương nặng trong vụ xả súng đã chính thức khởi kiện công ty trí tuệ nhân tạo OpenAI, cáo buộc công ty này đã không cảnh báo cho nhà chức trách về những thông tin đáng lo ngại liên quan đến tài khoản ChatGPT của kẻ xả súng. Vụ kiện được bà Cia Edmonds, mẹ của nạn nhân Maya, Gebala đệ trình vào hôm thứ Hai.
Đơn kiện khẳng định OpenAI đã "nhận thức được ý định bạo lực" của kẻ xả súng và biết thủ phạm sử dụng chatbot AI để lên các "kịch bản liên quan đến bạo lực súng đạn, bao gồm cả một sự kiện gây thương vong hàng loạt". Đại diện cho gia đình nạn nhân ,công ty luật Rice Parsons Leoni and Elliott LLP tuyên bố mục đích của vụ kiện là để "tìm hiểu toàn bộ sự thật về cách thức và lý do tại sao vụ xả súng hàng loạt ở Tumbler Ridge lại xảy ra".
Nạn nhân Maya, 12 tuổi, đã bị bắn ba phát, trong đó một viên đạn găm vào đầu phía trên mắt trái, một viên trúng cổ và viên thứ ba sượt qua má cùng một phần tai. Theo hồ sơ khởi kiện, cô bé hiện vẫn đang nằm viện với những chấn thương sọ não nghiệm trọng, khuyết tật vĩnh viễn về nhận thức và thể chất, liệt nửa người bên phải, cùng nhiều vết sẹo và biến dạng cơ thể. Mẹ của em là bà Edmonds cùng người con gái khác tên Dahlia đều đang phải chịu đựng chứng rối loạn căng thẳng sau sang chấn (PTSD), lo âu, trầm cảm và rối loạn giấc ngủ.
Vụ kiện dân sự cáo buộc OpenAI đã vội vã đưa ChatGPT ra thị trường mà không có các nghiên cứu an toàn đầy đủ, đồng thời gia đình đang yêu cầu bồi thường thiệt hại mang tính trừng phạt (không tiết lộ mức phí), gọi hành vi của công ty là "đáng lên án và đáng ghê tởm về mặt đạo đức".
Đáng chú ý, OpenAI cho biết 8 tháng trước khi cuộc tấn công xảy ra, họ đã đình chỉ một tài khoản ChatGPT của Van Rootselaar vì vi phạm thỏa thuận người dùng. Việc đình chỉ được thực hiện sau khi hệ thống tự động phát hiện các tin nhắn và được nhóm của OpenAI đánh giá thủ công. Tuy nhiên, mặc dù công ty đã cân nhắc việc báo động cho các quan chức Canada, họ lại quyết định rằng các tin nhắn chưa đạt đến ngưỡng phải báo cáo (ngưỡng đánh giá xem liệu người dùng có đang lên kế hoạch sắp xảy ra hay không).
OpenAI giải thích họ đã xem xét quyền riêng tư của người dùng và không muốn làm người dùng hoang mang khi liên hệ với cảnh sát. Sau khi Canada triệu tập các quan chức an toàn cấp cao của OpenAI đến Ottawa vào cuối tháng 2, công ty đã tiết lộ trong một bức thư ngỏ rằng Van Rootselaar đã tạo một tài khoản ChatGPT thứ hai sau khi tài khoản kia bị cấm.
Những động thái chậm trễ của OpenAI
Vào tuần trước, Giám đốc điều hành của OpenAI, ông Sam Altman, đã có cuộc họp trực tuyến với Thủ hiến British Columbia, ông David Eby và Thị trưởng Tumbler Ridge, ông Darryl Krakowka, giữa bối cảnh ngày càng có nhiều sự thất vọng vì các chính sách hiện tại của công ty không bắt buộc phải báo cáo nội dung bạo lực cho cảnh sát.
Thủ hiến Eby phát biểu: "Mọi người trong cuộc gọi đều nhận ra rằng một lời xin lỗi là không hề đủ, nhưng đồng thời nó cũng hoàn toàn cần thiết". Ông Eby cũng cho biết thêm rằng Thị trưởng Tumbler Ridge sẽ hợp tác với OpenAI để đảm bảo các tuyên bố công khai liên quan đến sự việc được thực hiện một cách phù hợp và "không làm tổn thương lại những người dân trong cộng đồng".
Người phát ngôn của OpenAI đã gọi vụ xả súng là một "thảm kịch không thể nói nên lời" và cho biết ông Altman sẽ làm việc với lãnh đạo địa phương để truyền đạt lời xin lỗi cũng như sự hỗ trợ đến cộng đồng Tumbler Ridge, dù chưa đưa ra mốc thời gian cụ thể. Công ty nhấn mạnh cam kết làm việc với các quan chức cấp tỉnh và địa phương để tạo ra những thay đổi có ý nghĩa nhằm ngăn chặn những thảm kịch tương tự trong tương lai.
Sự việc tại Tumbler Ridge đặt ra một câu hỏi nhức nhối: Đâu là giới hạn giữa "bảo mật cá nhân cho người dùng", và "báo với chính quyền khi nhận thấy người dùng có thể trở thành mối nguy hại cho xã hội"?. Rõ ràng, sức mạnh tính toán của máy tính có nhanh đến đâu, thực tế cho thấy nó vẫn chưa đủ nhanh để tự động ra tay hành động ngăn chặn sự việc đáng tiếc.
Kim
