OpenAI ngày 30/9 công bố đã chặn một chiến dịch nhằm lấy phần "suy luận được bảo vệ" của các mô hình GPT, và quy một nhóm lõi trong đó cho những người liên quan đến Moonshot AI, công ty Trung Quốc phát triển Kimi. Theo Bloomberg, đây là lần đầu OpenAI nêu tên Moonshot trong một cáo buộc kiểu này.
Moonshot AI, công ty đứng đằng sau mô hình Kimi, hãng bị OpenAI nêu tên trong bài đăng ngày 30/9
Suy luận được bảo vệ là chuỗi lập luận nội bộ mà mô hình viết ra trước khi trả lời. OpenAI mã hóa phần này và không hiển thị đầy đủ cho người dùng. Theo hãng, hoạt động đáng ngờ bắt đầu từ 1/7, tăng vọt trong hai ngày 24 và 25/7 với 16.000 yêu cầu từ hơn 4.000 người dùng. Các hoạt động liên quan trải rộng trên hơn 15.000 người dùng và bị chặn hoàn toàn trước 28/7. OpenAI lưu ý đây là số lần thử, chưa chắc đều thành công.
Cách làm được mô tả là sao chép đoạn suy luận đã mã hóa từ một cuộc trò chuyện, rồi nhờ mô hình ở một cuộc trò chuyện khác giải mã và chép lại thành văn bản thường. OpenAI nói kẻ tấn công không phá được mã hóa, không xâm nhập cơ sở dữ liệu và không chạm tới các cuộc trò chuyện đã lưu của người dùng. Hãng đã vá đường dẫn cho phép phát lại suy luận mã hóa của người khác, thêm cơ chế giữ lại đầu ra có nguy cơ làm lộ suy luận, khóa hoặc hạn chế tài khoản gian lận, và chia sẻ thông tin qua Frontier Model Forum cùng các kênh chính phủ.
Caroline Zier, người phụ trách chính sách an ninh quốc gia chiến lược của OpenAI, nói với Bloomberg rằng mối quan ngại của hãng là hành vi vi phạm điều khoản dịch vụ, không phải mô hình mở hay chưng cất hợp pháp.
CyberScoop nhận xét bài đăng của OpenAI không nêu bằng chứng kỹ thuật cho việc quy kết, và OpenAI nói không chia sẻ thêm "vì lý do an ninh". Chính OpenAI cũng thừa nhận chưa rõ toàn bộ các tác nhân có xuất phát từ cùng một nguồn hay không. Moonshot chưa phản hồi các yêu cầu bình luận, theo Bloomberg và các báo Đài Loan dẫn lại.
Hồi tháng 7, Huang Zhenxin, người phụ trách mảng doanh nghiệp của Kimi, từng cho biết bước nhảy hiệu năng của Kimi K3 đến từ kiến trúc gốc, không phải bản chưng cất. Cùng thời điểm, Greg Brockman, chủ tịch OpenAI, nói còn quá sớm để kết luận Moonshot có chưng cất mô hình của OpenAI hay không.
Không phải lần đầu
Tháng 2, Anthropic công khai cáo DeepSeek, Moonshot và MiniMax "khai thác" Claude. Ngày 8/9, Cục An ninh Quốc gia Mỹ (NSA), cơ quan an ninh hạ tầng mạng CISA và FBI ra cảnh báo chung nêu tên 6 công ty Trung Quốc gồm DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun và Z.AI, cho rằng họ trích xuất hàng tỷ token qua hàng triệu lượt trao đổi từ các mô hình Mỹ từ cuối 2024. Với Moonshot, cảnh báo nói công ty dùng đầu ra của Claude Fable 5 để huấn luyện Kimi K3 và đầu ra GPT-4o cho Kimi K2. Cảnh báo cũng khuyến nghị các hãng Mỹ âm thầm làm giảm chất lượng câu trả lời cho tài khoản bị nghi chưng cất. Một số người chỉ trích cho rằng các dấu hiệu hành vi trong cảnh báo cũng khớp với những hệ thống AI agent doanh nghiệp bình thường.
Hai ngày sau, báo cáo của Anthropic nói Moonshot đã chuyển lén khoảng 300.000 yêu cầu của khách hàng Kimi sang Claude trong 10 ngày qua 5.380 tài khoản gian lận, chủ yếu tới các mô hình Opus, rồi hiển thị câu trả lời như thể do Kimi tạo ra. Anthropic quy hơn 23 triệu lượt trao đổi cho Moonshot từ tháng 5 đến tháng 7. Báo cáo công khai không kèm nhật ký gốc, và Moonshot từ chối bình luận.
Bắc Kinh: chưng cất là kỹ thuật phổ biến
Phản ứng chính thức của Trung Quốc đến ngay sau cảnh báo ngày 8/9. Bộ Thương mại nói cáo buộc "không có căn cứ sự thật lẫn pháp lý", cho rằng chưng cất là kỹ thuật trung tính mà các hãng trên thế giới, kể cả Mỹ, đều dùng, và Mỹ đang chính trị hóa vấn đề với "tiêu chuẩn kép". Bộ này cảnh báo nếu Mỹ lấy cớ chống chưng cất để chèn ép doanh nghiệp AI Trung Quốc, Bắc Kinh sẽ có biện pháp đáp trả. Mao Ning, người phát ngôn Bộ Ngoại giao, nói chưa xem báo cáo cụ thể và đề nghị Mỹ không đưa ra cáo buộc sai sự thật.
Chưng cất là kỹ thuật phổ biến trong đó mô hình AI nhỏ sẽ "học tập" kỹ năng và khả năng suy luận của mô hình lớn hơn. Ở đây, các công ty AI Trung Quốc sử dụng kỹ thuật chưng cất để huấn luyện mô hình của mình dựa trên các mô hình lớn như Opus, GPT-6...
Hoàn Cầu Thời Báo dẫn Liu Dian, nhà nghiên cứu Viện Nghiên cứu Trung Quốc thuộc Đại học Phúc Đán, cho rằng điểm đáng quan sát là Mỹ nâng chưng cất từ chuyện sở hữu trí tuệ và điều khoản dịch vụ lên cấp độ an ninh quốc gia. An Bo, giáo sư Đại học Công nghệ Nanyang (Singapore), nói kết luận "chưng cất là cốt lõi" không khớp với bằng chứng công khai.
Với cáo buộc mới của OpenAI, tính đến sáng 1/10 chưa thấy phản ứng chính thức từ Bắc Kinh. Tin chủ yếu xuất hiện trên báo Hồng Kông và Đài Loan, dẫn lại từ Bloomberg.
OpenAI dẫn một nhóm nhà nghiên cứu độc lập đã báo cáo lỗ hổng tương tự và nói đã xác nhận các đường tấn công này có thật. Trên X, Alexander Panfilov, thành viên nhóm, cho biết khi kiểm tra lại các biện pháp giảm thiểu, họ vẫn trích được suy luận từ mô hình qua các nhà cung cấp API bên thứ ba. Nathan Lambert, nhà nghiên cứu AI, cho rằng đó là vấn đề của bên bán API khi mô hình bị thao túng được như vậy, và đề xuất xác minh danh tính khách hàng. Talia Ringer, một nhà nghiên cứu khác, cho rằng chưng cất là phương pháp huấn luyện hợp lệ.
Tính đến sáng 1/10, Moonshot chưa phản hồi cáo buộc của OpenAI. OpenAI nói công việc điều tra và giảm thiểu vẫn đang tiếp tục.
Thế Duyệt
