Ngày 27/9, đại diện công ty công nghệ OpenAI của Mỹ xác nhận doanh nghiệp này đã chủ động tạm dừng tiến trình đào tạo các mô hình trí tuệ nhân tạo (AI) thế hệ tiên tiến nhất.
Phía OpenAI nhấn mạnh việc huấn luyện sẽ chỉ được nối lại khi công ty hoàn toàn tin tưởng rằng các biện pháp bảo vệ bổ sung cùng những cải tiến về khả năng định hướng hành vi an toàn của mô hình đã sẵn sàng hoạt động hiệu quả.
Động thái dừng khẩn cấp này được đưa ra giữa lúc các chuyên gia công nghệ tại hai công ty tiên phong là OpenAI và Anthropic phối hợp điều tra hàng chục nghìn sự cố bất thường được ghi nhận trong vài tháng qua, xuất hiện xuyên suốt quá trình thử nghiệm nội bộ cũng như triển khai ngoài thực tế.
Nguồn tin cho biết phần lớn thông tin chi tiết về các sự cố này vẫn chưa được công bố rộng rãi ra công chúng, đồng thời mức độ phức tạp và nghiêm trọng của vấn đề thực tế vượt xa nhiều bậc so với những gì dư luận đang biết.
Kết quả điều tra sơ bộ từ đội ngũ kỹ sư nội bộ của cả hai doanh nghiệp kết hợp với các chuyên gia độc lập bên ngoài chỉ ra rằng, năng lực duy trì quyền kiểm soát tuyệt đối của OpenAI và Anthropic đối với các công nghệ do chính mình tạo ra đang bị đặt trước dấu hỏi lớn.
Sự việc làm dấy lên những quan ngại sâu sắc về giới hạn an toàn kỹ thuật số trong bối cảnh các mô hình AI ngày càng trở nên phức tạp và tự hành ở mức độ cao.
Biểu tượng của Công ty OpenAI và ChatGPT trên màn hình ở Toulouse, Pháp. Ảnh: TTXVN
Đây là lần thứ hai trong vòng 3 tháng OpenAI tạm dừng phát triển các mô hình của mình. Lần đầu tiên diễn ra vào tháng 7, sau khi có thông tin về một vụ tấn công mạng nhằm vào công ty khởi nghiệp AI Hugging Face, sự cố làm dấy lên lo ngại về khả năng kiểm soát các hệ thống AI.
Trong cuộc gặp với Chủ tịch Trung Quốc Tập Cận Bình hồi tuần trước, Tổng thống Mỹ Donald Trump đã đồng ý chia sẻ thông tin về những rủi ro của AI và phối hợp các nỗ lực nhằm đảm bảo an toàn cho công nghệ này. Tuy nhiên, ông Trump cho rằng những lo ngại về AI đã bị thổi phồng và ám chỉ rằng ông không có kế hoạch áp đặt các biện pháp hạn chế nghiêm ngặt.
“Mỹ sẽ không ‘hãm phanh’,” ông Trump nói với các phóng viên bên ngoài Nhà Trắng. “Họ muốn ngăn cản bước tiến của chúng ta vì chúng ta đang dẫn trước Trung Quốc rất xa, và chúng ta sẽ duy trì vị thế đó”.
Các sự cố mới nhất liên quan đến OpenAI dường như không dẫn đến việc lộ lọt thông tin không công khai, song đủ nghiêm trọng để công ty phải cảnh báo các cơ quan liên bang liên quan.
Trong sự cố tại Bộ Giáo dục Mỹ, các tác nhân AI của OpenAI đã tìm thấy “khóa nhà phát triển” (API key), cho phép truy cập dữ liệu của chính phủ Mỹ. Tuy nhiên, cuối cùng chỉ có thông tin công khai được thu thập.
Trong một trường hợp khác liên quan đến Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), các tác nhân AI đã tìm thấy những thông tin vốn được công khai nhưng sau đó đăng tải lại ở một nơi khác trên Internet, vượt quá phạm vi chỉ đạo ban đầu.
Trước đó, OpenAI đã công bố 6 báo cáo khác về các hành vi “bất thường hoặc đáng lo ngại” của các mô hình AI, đồng thời giới thiệu một khuôn khổ để theo dõi, kiểm tra và công khai những trường hợp này.
