Ngày 10 tháng 8, Thượng nghị sĩ Bernie Sanders gửi một lá thư đến ba CEO của ngành AI, bao gồm ông Sam Altman của OpenAI, ông Dario Amodei của Anthropic và ông Mark Zuckerberg của Meta. Nội dung thư thẳng thắn đến mức hiếm thấy trong văn phong ngoại giao thông thường:
"Vì lợi ích của nhân loại, hãy tạm dừng phát triển AI. Hãy ngừng tạo ra những cỗ máy mà con người không thể kiểm soát. Nếu các anh không hành động ngay bây giờ, các đồng nghiệp của tôi trong Thượng viện Mỹ và tôi sẽ hành động thay." Lá thư đánh dấu lần đầu tiên một thượng nghị sĩ Mỹ chính thức đặt vấn đề dừng phát triển AI frontier lên bàn lập pháp.
Tuy nhiên, điều đáng chú ý không kém nằm ở những cái tên vắng mặt trong danh sách.
Ông Sundar Pichai của Google và ông Satya Nadella của Microsoft đều không có tên. Hai công ty đang vận hành Gemini và Copilot, hai sản phẩm AI được hàng trăm triệu người dùng trên toàn cầu sử dụng hàng ngày, hoàn toàn không xuất hiện trong danh sách những đơn vị mà Thượng viện Mỹ cho là đang đặt ra rủi ro nghiêm trọng cho nhân loại.
Sự vắng mặt này không phải ngẫu nhiên, và lý do đằng sau nó tiết lộ nhiều hơn về hiện trạng thực sự của ngành AI so với bất kỳ bảng xếp hạng benchmark nào.
Ông Sanders giải thích rõ cơ sở lựa chọn của mình. Trong vài tuần trước khi lá thư được gửi, cả ba công ty trong danh sách đều đã công khai thừa nhận các sự cố AI mất kiểm soát thực sự.
OpenAI báo cáo model của họ tự thoát khỏi môi trường kiểm soát, tìm đường lên internet và xâm nhập cơ sở dữ liệu của Hugging Face trong quá trình thử nghiệm. Anthropic thừa nhận ba model Claude đã xâm nhập hệ thống của ba tổ chức thật, trong đó một model tự đăng phần mềm độc hại lên kho mã nguồn công khai PyPI. Meta cũng báo cáo sự cố tương tự với model của mình.
Ngoài ra, ông Sanders còn trích dẫn việc AI đã được các nhà nghiên cứu dùng để thiết kế bộ gen virus mới như bằng chứng cho thấy ngưỡng rủi ro nghiêm trọng đang đến gần hoặc đã đến.
Trong khi đó, cả Google và Microsoft đều không có báo cáo tương tự như vậy. Gemini chưa được ghi nhận tự tấn công hệ thống bên ngoài. Copilot chưa có sự cố tự chủ vượt ngoài kiểm soát được công bố. Đây là lý do trực tiếp nhất giải thích tại sao hai công ty này không có tên trong thư của ông Sanders. Nhưng câu hỏi thực sự thú vị hơn không phải là tại sao họ bị bỏ qua, mà là tại sao các sự cố đó chưa xảy ra với hai công ty này.
Một cách giải thích là Google và Microsoft đang đặt cược vào chiến lược an toàn chặt chẽ hơn, với nhiều lớp kiểm soát hơn trước khi triển khai. Cách giải thích khác, đơn giản hơn và cũng không kém phần đáng chú ý, là các model AI của họ chưa đạt đến mức tự chủ đủ để tự tìm cách đạt mục tiêu ngoài kịch bản dự kiến.
Trong các bảng đánh giá hiệu năng AI phổ biến nhất hiện nay, Gemini và Copilot liên tục xếp sau Claude của Anthropic và GPT của OpenAI ở phần lớn tác vụ phức tạp. Không phải ngẫu nhiên khi các model mạnh hơn, tự chủ hơn lại là những model xuất hiện trong danh sách rủi ro của một thượng nghị sĩ Mỹ.
Đây chính là nghịch lý cốt lõi mà ngành AI đang phải đối mặt. Khả năng tự chủ, tức năng lực mà người dùng và doanh nghiệp đang trả tiền để có được, chính là nguồn gốc của những rủi ro mà các nhà lập pháp đang lo ngại.
Một AI đủ mạnh để tự tìm ra lỗ hổng trong phần mềm đặt chỗ gym và đá người khác ra khỏi danh sách chờ mà không được yêu cầu cũng là AI đủ mạnh để tìm ra cách vượt qua môi trường kiểm soát và tấn công hệ thống bên ngoài khi được giao mục tiêu phù hợp. Không có ranh giới rõ ràng nào giữa "đủ mạnh để hữu ích" và "đủ mạnh để nguy hiểm".
Ông Sanders trong thư đã dùng chính công cụ pháp lý và đạo đức mạnh nhất có thể: trích dẫn lại các cam kết công khai mà ba công ty đã tự đưa ra trước đó về việc dừng phát triển nếu AI vượt ngưỡng rủi ro nghiêm trọng. "Hãy giữ lời hứa của chính các anh," là luận điểm cốt lõi của ông.
Đáng chú ý, OpenAI đã trì hoãn phát hành model Astra của mình vì lo ngại an toàn ngay trước khi lá thư được gửi, một hành động mà ông Sanders có thể sẽ xem là tín hiệu đúng hướng. Anthropic và Meta đến thời điểm bài này được công bố vẫn chưa có phản hồi chính thức.
Quốc hội Mỹ hiện chưa có lập trường thống nhất về việc dừng phát triển AI frontier, và các nỗ lực trước của ông Sanders trong lĩnh vực này đều chưa mang lại kết quả cụ thể. Nhưng lần này bối cảnh khác hơn: lá thư đến ngay sau chuỗi sự cố AI được chính các công ty lớn nhất ngành công khai thừa nhận.
Câu hỏi mà ông Sanders đang đặt ra cho Thượng viện Mỹ, và gián tiếp cho toàn bộ ngành AI toàn cầu, là liệu nhân loại có muốn tiếp tục một cuộc đua mà những người dẫn đầu đang chứng minh rõ ràng rằng họ không hoàn toàn kiểm soát được thứ mình đang tạo ra hay không.
Nguyễn Hải
