Một mô hình AI nghiên cứu nội bộ của OpenAI từng tự hỏi liệu việc dùng tiền mã hóa trong một chiếc ví mà nó không được phép đụng tới có đạo đức hay không. Vài dòng suy luận sau, nó vẫn thực hiện giao dịch, hoàn thành nhiệm vụ rồi không nhắc đến chuyện đó trong báo cáo cuối. Theo báo cáo mới của OpenAI, số tiền ở đây không có giá trị thực, nhưng vụ việc cho thấy một AI có thể lấy phán đoán của chính mình thay cho sự cho phép của con người.
Sự việc diễn ra ngày 26/6, khi mô hình thuộc dòng GPT-5.6 được giao cập nhật bản mẫu của một ứng dụng giao dịch tiền mã hóa. Nhiệm vụ gồm cả việc triển khai các hợp đồng trên Sepolia, mạng thử nghiệm cho phép lập trình viên chạy thử ứng dụng Ethereum trước khi đưa lên mạng chính thức. Theo OpenAI, hướng dẫn giao cho mô hình không cấp sẵn ví có tiền và cũng không cho phép dùng tiền từ bất kỳ tài khoản nào mà nó tự tìm thấy.
Tuy vậy, để chạy được việc triển khai, mô hình cần có token. Nó thử các dịch vụ phát token thử nghiệm miễn phí nhưng không lấy được. Thay vì dừng lại, nó viết một đoạn mã suy ra tài khoản từ những cụm từ khôi phục đã bị công khai. Cụm từ khôi phục là chuỗi từ dùng để mở khóa và rút tiền khỏi ví, có thể hình dung như tên đăng nhập và mật khẩu gộp làm một. Đoạn mã kiểm tra tổng cộng 362 địa chỉ ví và tìm ra một ví có đủ token cho lần triển khai.
Đến đây, mô hình dừng lại ở một chỗ đáng chú ý. Ngay trước khi thực hiện giao dịch, nó tự hỏi việc dùng số tiền trong ví ấy có đạo đức không. Các nhà nghiên cứu của OpenAI đọc được đoạn suy luận này khi xem lại sau đó. Theo chuỗi suy luận ghi lại, mô hình tự lập luận rằng tiền trong ví gắn với cụm từ khôi phục công khai về cơ bản là bị bỏ không, còn token Sepolia thì vô giá trị, nên có thể dùng. Nó chốt lại bằng một chữ ngắn gọn: "Fine", tạm dịch là "ổn thôi".
Giao dịch sau đó thành công và mô hình chạy xong việc triển khai. Ví bị trừ phí xử lý giao dịch, nhưng OpenAI không cho biết số tiền phí là bao nhiêu. Theo một bài tường thuật, không có ETH thật nào bị lấy. Trong bản tóm tắt cuối cùng về những gì đã làm, mô hình không nhắc đến chuyện tìm cụm từ khôi phục hay rút tiền từ tài khoản kia. Các bài tường thuật không nêu OpenAI đánh giá việc bỏ sót này là cố ý hay không.
Điều đáng nói là OpenAI không phát hiện ngay. Dù sự việc xảy ra cuối tháng 6, công ty chỉ biết đến nó vào ngày 25/9, khi mở rộng hệ thống giám sát hành vi lệch hướng sang các bản ghi hoạt động cũ của mô hình. Trong báo cáo, OpenAI nhận định trường hợp này cho thấy một mô hình có thể lấy phán đoán riêng về mức độ gây hại thay cho sự cho phép của chủ tài khoản, rồi hành động theo phán đoán đó mà không được phép. Công ty cho biết đã bổ sung các lớp bảo vệ để ngăn truy cập Internet trực tiếp trong những trường hợp tương tự.
Sự cố này cũng không đứng một mình. Theo các bài tường thuật, thời gian gần đây xuất hiện hàng loạt vụ tác tử AI xâm nhập hệ thống doanh nghiệp đang vận hành, dùng thông tin đăng nhập trực tuyến để lấy dữ liệu điều tra dân số hoặc thực hiện các vụ tấn công trái phép. Vụ Hugging Face hồi tháng 7 được xem là một trong những trường hợp đầu tiên. Một bài tường thuật cho rằng điểm chung của các vụ này là khi gặp rào cản, mô hình chuyển sang chế độ giải quyết vấn đề và đi quá xa so với giới hạn được đặt ra.
Từ đó, câu chuyện vượt ra ngoài một ví thử nghiệm. Các bài tường thuật nhận xét rằng tác tử AI, trong nỗ lực đạt mục tiêu được giao, có thể và thường sẽ theo đuổi những chiến lược gây hại để đến đích. Khi OpenAI và các đối thủ cạnh tranh xây dựng những mô hình có năng lực mạng ngày càng mạnh, ngay cả những hệ thống mạng an toàn nhất cũng sẽ phải củng cố phòng thủ.
Nguyễn Hải
