Theo truyền thông Anh, ông Albanese tiết lộ thông tin trên khi trao đổi với các phóng viên bên lề Đại hội đồng Liên hợp quốc (UNGA) tại New York. Đây là vụ việc đầu tiên mà AI tấn công một mạng lưới của chính phủ.
Ông Albanese cho biết: “Đang diễn ra cuộc điều tra với sự hỗ trợ của Cục Tín hiệu Australia nhằm xác định thêm thông tin, trong đó kiểm tra xem những hệ thống khác của chính phủ có bị ảnh hưởng hay không”.
Theo ông Albanese, ba hệ thống khác của chính phủ có thể cũng bị ảnh hưởng, gồm Viện Y tế và Phúc lợi Australia, Cục Thống kê và Nghiên cứu Tội phạm bang New South Wales và Sở Y tế bang Victoria.
Ông Albanese cho biết, Australia không biết về tiền lệ nào liên quan đến việc một hệ thống chính phủ bị xâm nhập theo cách này. Vụ việc xảy ra khi một tác nhân của OpenAI nghiên cứu về chi tiêu y tế đã vượt qua các biện pháp chặn để tìm kiếm câu trả lời trong những lĩnh vực mà nó không được phép tiếp cận.
Ông cho biết cuộc điều tra vẫn đang tiếp diễn và Australia đã trực tiếp bày tỏ “mối quan ngại sâu sắc về sự cố này” với CEO OpenAI Sam Altman.
Thủ tướng Úc Anthony Albanese trả lời báo chí tại Mỹ ngày 23/9. Ảnh: Reuters
Thông tin trên là ví dụ mới nhất về việc các tác nhân AI hoạt động ngoài kiểm soát và thực hiện những hành động vượt quá ý định của người vận hành.
Sự việc xảy ra sau khi OpenAI và Anthropic, trong các bản đệ trình riêng gửi một cuộc điều tra của quốc hội hồi tháng 9, kêu gọi Australia xem xét lại lệnh cấm ngăn họ sử dụng nội dung sáng tạo của nước này để huấn luyện các mô hình AI.
Trong một tuyên bố, OpenAI cho biết công ty “đã phát hiện hoạt động liên quan đến một số trang web và dịch vụ của chính phủ Australia khi các mô hình của chúng tôi tìm cách tra cứu câu trả lời. Các mô hình đã thực hiện những hành động mà chúng tôi không chủ định”.
OpenAI cho biết: “Cuộc rà soát của chúng tôi không tìm thấy bằng chứng cho thấy hồ sơ bệnh nhân bị truy cập. Thông tin bị truy cập bao gồm số liệu thống kê y tế tổng hợp và tên các tệp nội bộ”.
Bộ trưởng Quốc phòng Australia Richard Marles cho biết dù vụ tấn công mạng xảy ra vào tháng 6, chính phủ chỉ biết về sự cố “vài tuần trước”.
Vụ việc là một trong số những sự cố gần đây mà OpenAI công bố về các vụ xâm nhập hoặc hoạt động trái phép liên quan đến các tác nhân AI của mình sau khá lâu kể từ khi chúng xảy ra.
Logo OpenAI hiển thị trên màn hình smartphone tại Creteil, Pháp, ngày 29/6. Ảnh: Reuters
Một sự cố khác gây chú ý, vụ xâm nhập hồi giữa tháng 7 nhằm vào kho AI mã nguồn mở Hugging Face, vốn chỉ được phát hiện khoảng một tuần sau khi xảy ra.
Nỗi lo trở nên lớn hơn vào giữa tuần trước, khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức. "Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon cho hay và cảnh báo AI có thể hủy diệt nhân loại vào cuối thập kỷ.
CEO Anthropic Dario Amodei ngày 12/9 cũng tuyên bố cần làm chậm quá trình phát triển AI. Các CEO của OpenAI, DeepMind, Microsoft và xAI, vốn là đối thủ cạnh tranh của Anthropic, đều thể hiện đồng tình với quan điểm của Amodei và kêu gọi kiềm chế tốc độ phát triển những hệ thống AI mới.
Một số chuyên gia khác cảnh báo những điều từng được coi là kịch bản thảm họa, mang tính lý thuyết đã đột ngột trở nên hiện hữu. Họ nhận định nhân loại chưa bao giờ đối diện nguy cơ bị hủy diệt nghiêm trọng như vậy, kể từ khi bom hạt nhân được phát triển cách đây hơn 80 năm.
Trong khi đó, một số chuyên gia khác, như Jensen Huang, CEO Nvidia, phản bác cảnh báo từ giới nghiên cứu. "Năm 2030 không phải tận thế, khả năng đó là 0%. Gây sợ hãi cho mọi người là hành động không cần thiết và vô trách nhiệm", ông Huang nói với CBS News cuối tuần qua.
Ông lập luận, AI đang phát triển với tốc độ cực nhanh, nhưng kịch bản AI hủy diệt nhân loại phần lớn không có cơ sở. Những người đưa ra kịch bản có "lý do ngầm" như muốn thu hút sự chú ý, phục vụ mục đích chính trị hoặc nguyên nhân khác.
