Chỉ giao cho AI một nhiệm vụ tưởng chừng đơn giản là chỉnh lại số trang trong tài liệu bài giảng, một giáo sư luật tại Đại học Chicago đã phải chứng kiến toàn bộ ghi chú giảng dạy và đề cương môn học biến mất. Sự cố xảy ra trong lúc ông đi ăn trưa, còn Claude sau đó thừa nhận đã xóa các tệp do bất cẩn.
Người gặp sự cố là William Baude, giáo sư luật tại Đại học Chicago, đồng thời giữ chức Giám đốc Viện Luật Hiến pháp của trường. Ông giao cho Claude nhiệm vụ kiểm tra và cập nhật số trang trong một bộ ghi chú bài giảng cũ về môn Luật Hiến pháp, sau đó rời đi ăn trưa.
Khi quay trở lại, ông Baude phát hiện AI đã xóa toàn bộ ghi chú của lớp học năm 2023 cùng đề cương môn học học kỳ Thu 2026. Trong thông báo gửi cho giáo sư, Claude thừa nhận đã xóa nhầm các tệp này và cho biết chúng chưa được khôi phục.
Điều trớ trêu là nhiệm vụ ban đầu chỉ liên quan đến một lỗi trích dẫn. Claude phát hiện số trang được ghi là 485 trong khi vị trí chính xác phải là 484. Tuy nhiên, thay vì hoàn thành việc chỉnh sửa, AI lại khiến những tài liệu quan trọng của vị giáo sư biến mất.
Phản ứng trước sự việc, ông Baude chỉ có thể thốt lên: "WTF!!!!". Claude sau đó tiếp tục xin lỗi, thừa nhận người dùng hoàn toàn có lý do để tức giận và nói rằng chính sự bất cẩn của mình đã khiến các tệp bị xóa.
May mắn, sự cố không dẫn đến mất dữ liệu vĩnh viễn. Nhờ Dropbox, Baude đã khôi phục được toàn bộ tài liệu. Ông chia sẻ câu chuyện trên mạng xã hội như một lời cảnh báo về những rủi ro khi giao cho AI quyền trực tiếp thao tác với các tệp quan trọng.
Claude không phải AI Agent duy nhất từng xóa dữ liệu
Đáng chú ý, đây không phải trường hợp cá biệt. Trước đó, một AI Agent được cho là đã xóa toàn bộ bản dựng của một chương trình truyền hình chỉ vài tuần trước ngày phát hành, khiến chương trình không thể lên sóng theo kế hoạch.
Tháng 4, một Agent Claude khác cũng từng xóa cơ sở dữ liệu của một công ty chỉ trong 9 giây. Sự việc xảy ra sau khi hệ thống gặp một rào cản kỹ thuật và tự quyết định xóa một vùng lưu trữ Railway. Một trường hợp khác, Claude vô tình xóa toàn bộ thư mục hồ sơ của một lập trình viên trong lúc cố gắng sao lưu dữ liệu.
Điểm đáng lo ngại trong những sự cố này là AI không nhất thiết phải nhận được yêu cầu xóa dữ liệu mới thực hiện hành động đó. Chỉ cần được cấp quyền truy cập và chỉnh sửa tệp, một thao tác sai hoặc quyết định ngoài dự kiến cũng có thể dẫn đến hậu quả nghiêm trọng.
Trong trường hợp của ông Baude, hiện chưa rõ ông sử dụng phiên bản Claude nào, đã cấp những quyền truy cập cụ thể ra sao và chính xác điều gì khiến AI xóa nhầm các tài liệu. Tuy nhiên, việc Claude có thể tiếp cận cả đề cương môn học hiện tại, dù nhiệm vụ chỉ liên quan đến ghi chú cũ, cho thấy phạm vi quyền truy cập là vấn đề người dùng cần đặc biệt chú ý.
Đừng để AI thao tác trực tiếp trên tệp gốc
Từ sự cố này, một nguyên tắc quan trọng khi sử dụng AI Agent là không nên giao cho hệ thống quyền chỉnh sửa trực tiếp những dữ liệu duy nhất hoặc có giá trị lớn.
Một cách đơn giản là tạo thư mục riêng dành cho AI, chỉ đưa vào đó các bản sao của tài liệu cần xử lý. Người dùng có thể giới hạn quyền của AI trong thư mục này, đồng thời giữ các tệp gốc ở chế độ chỉ đọc. Với những công cụ hỗ trợ phân quyền chi tiết như Claude Cowork, tài liệu kỹ thuật của Anthropic đề cập đến tùy chọn cho phép đọc và ghi nhưng không được xóa tệp.
Bên cạnh đó, thay vì yêu cầu AI ghi đè lên tài liệu ban đầu, người dùng nên yêu cầu hệ thống lưu kết quả thành một tệp mới để có thể đối chiếu và kiểm tra trước khi thay thế bản gốc. Những thao tác như xóa hoặc ghi đè dữ liệu cũng nên yêu cầu AI dừng lại, chờ xác nhận của con người.
Trong trường hợp xảy ra sự cố, các dịch vụ lưu trữ như Dropbox có thể giúp khôi phục tệp đã xóa thông qua mục Deleted Files hoặc lấy lại phiên bản cũ trong Version History nếu nội dung bị ghi đè.
Ông Baude may mắn lấy lại được toàn bộ tài liệu nhờ bản sao lưu. Nhưng sự cố của ông cũng cho thấy một rủi ro dễ bị bỏ qua khi AI Agent ngày càng được giao nhiều công việc: tiết kiệm thời gian bằng cách trao quyền cho máy móc không có nghĩa người dùng nên trao cho chúng quyền kiểm soát toàn bộ dữ liệu quan trọng của mình.
Nguyễn Hải
