Quay trở lại cuối năm 2023, Tổng thống Mỹ Joe Biden đã ký một sắc lệnh hành pháp đặt ra các tiêu chuẩn mới về an toàn AI và các biện pháp bảo vệ xung quanh sự phát triển của nó. Và chính sách mới của OMB được đưa ra là kết quả của hoạt động nghiên cứu kéo dài 150 ngày của chính phủ Mỹ, với các yêu cầu xây dựng tính minh bạch, tăng cường giám sát và chỉ định cách thức các cơ quan liên bang có thể sử dụng AI.
Tuy nhiên, có vẻ như cách tiếp cận này hơi nặng tay ở một số khu vực, đặc biệt là Quốc hội. Theo thông báo nội bộ được thu thập bởi Axios, các nhân viên Quốc hội Mỹ đã bị cấm sử dụng Copilot, một bộ công cụ AI có sẵn trên hệ sinh thái sản phẩm và web của Microsoft.
Catherine Szpindor, Giám đốc hành chính Hạ viện Mỹ từ năm 2020, được cho là đã thông báo rằng Copilot “không được phép sử dụng trong Hạ viện”. Các hạn chế áp dụng cho phiên bản thương mại của Copilot, vốn có sẵn dưới dạng công cụ miễn phí và trả phí.
Kết quả là, Microsoft được cho là đang phát triển phiên bản Copilot cho chính phủ và gói dành cho dịch vụ đám mây Microsoft 365 để đáp ứng các yêu cầu tuân thủ bảo mật nâng cao của các cơ quan chính phủ. Tuy nhiên, công cụ này vẫn phải trải qua quá trình kiểm tra trước khi được phép cho nhân viên sử dụng.
Giải thích cho lệnh cấm, văn phòng của Szpindor cho biết, ứng dụng Microsoft Copilot đã bị Văn phòng An ninh mạng coi là rủi ro cho người dùng do có nguy cơ rò rỉ dữ liệu của hạ viện tới các dịch vụ đám mây không được đơn vị này phê duyệt”.
Được biết, rò rỉ dữ liệu đã là một vấn đề đối với các công cụ AI tổng hợp kể từ khi ChatGPT của OpenAI xuất hiện. Vào tháng 5/2023, The Wall Street Journal đưa tin Apple đã cảnh báo nhân viên không nên sử dụng các công cụ như trợ lý Copilot và ChatGPT để viết mã. Sau khi phát hiện ra dấu vết rò rỉ dữ liệu, Samsung cũng cấm nhân viên sử dụng ChatGPT.
Chỉ một tháng sau, vào tháng 6, các chuyên gia Robust Intelligence có trụ sở tại San Francisco đã chứng minh cách phần mềm NeMo Framework AI của Nvidia có thể bị lừa tiết lộ thông tin cá nhân và bỏ qua các biện pháp an toàn của nó. Ủy ban Thương mại Liên bang Mỹ cũng điều tra ChatGPT vì gây nguy hiểm cho bảo mật dữ liệu. Vào tháng 11 cùng năm, các chuyên gia tại Đại học Northwestern đã phát hiện ra các phương pháp lừa GPT tùy chỉnh tiết lộ thông tin bí mật.
Một tháng sau đó, các tài liệu bị rò rỉ mà The Platformer thu được đã tiết lộ vấn đề ảo giác với chatbot Q của Amazon và nó đã làm rò rỉ dữ liệu bí mật như vị trí của trung tâm dữ liệu, các tính năng chưa được phát hành và các chương trình giảm giá. Trong một sự cố khác, ChatGPT đã làm rò rỉ các thông tin cá nhân như thông tin ngân hàng của người dùng, buộc công ty phải tạm thời đưa nó vào chế độ ngoại tuyến.
Với lịch sử đầy biến động như vậy, không có gì ngạc nhiên khi Copilot bị cấm sử dụng trên các máy chính thức của nhân viên chính phủ, mặc dù các nhân viên này không bị cấm sử dụng những công cụ như vậy trên thiết bị cá nhân của họ.
Thái An
