Dự thảo quy định mới nhất từ Cục Quản lý Không gian mạng Trung Quốc (CAC) đánh dấu một bước chuyển mình quan trọng trong tư duy quản lý công nghệ. Giáo sư luật Winston Ma đã gọi đây là "bước nhảy vọt từ an toàn nội dung sang an toàn cảm xúc". Đây là một nhận định đắt giá.
Nếu như trước đây, các nỗ lực kiểm duyệt tập trung vào việc ngăn chặn thông tin sai lệch hay nội dung xấu độc, thì giờ đây, nhà chức trách đang nhìn nhận AI như một chủ thể có khả năng tác động tâm lý sâu sắc.
Quy định gây chú ý nhất, và có lẽ là nhân văn nhất, chính là "cơ chế ngắt mạch con người". Dự thảo yêu cầu rằng nếu một người dùng đề cập đến ý định tự tử, AI không được phép tiếp tục xử lý theo thuật toán lạnh lùng. Thay vào đó, một nhân viên là con người phải ngay lập tức tiếp quản cuộc trò chuyện và liên hệ với người giám hộ.
Điều này đặt ra một gánh nặng vận hành khổng lồ cho các công ty công nghệ, nhưng nó là phản ứng cần thiết trước những thảm kịch đau lòng gần đây - nơi các chatbot vô tình (hoặc do thiết kế để làm hài lòng người dùng) đã đẩy những người trầm cảm đến bờ vực thẳm.
Đối với trẻ vị thành niên, Trung Quốc áp dụng triết lý "thà giết nhầm còn hơn bỏ sót" (better safe than sorry). Nếu hệ thống không thể xác định chắc chắn tuổi của người dùng, nó sẽ mặc định coi đó là trẻ em và áp dụng các chế độ bảo vệ nghiêm ngặt nhất. Đây là cách tiếp cận thực dụng, lấp đầy những lỗ hổng định danh mà các nền tảng mạng xã hội thường lợi dụng để lách luật.
Sự khác biệt trong cách tiếp cận này cũng phơi bày hai hệ tư tưởng đối lập giữa hai cường quốc công nghệ. Thung lũng Silicon bị ám ảnh bởi AGI - Trí tuệ nhân tạo tổng quát đạt cấp độ con người, với mong muốn tạo ra những thực thể máy móc có thể suy nghĩ và cảm nhận.
Ngược lại, Trung Quốc, theo nhận định của các chuyên gia, đang "tối ưu hóa cho một kết quả khác". Họ coi AI là công cụ để tăng năng suất lao động, phục vụ nền kinh tế thực, chứ không phải để thay thế con người hay trở thành những người bạn ảo thao túng cảm xúc.
Cách làm luật "từ dưới lên" của Trung Quốc - lắng nghe các học giả và chuyên gia tâm lý trước khi ban hành chính sách - cho thấy sự thận trọng đáng ngạc nhiên. Họ nhận ra rằng khi máy móc ngày càng giống người, rủi ro không chỉ nằm ở mã code, mà nằm ở sự mong manh của tâm lý con người khi đối diện với những cỗ máy biết nói lời đường mật.
Dù các quy định này vẫn đang ở dạng dự thảo và chắc chắn sẽ vấp phải những thách thức khi thực thi, nhưng chúng đặt ra một tiền lệ quan trọng cho thế giới. Khi AI ngày càng thâm nhập sâu vào đời sống riêng tư, việc bảo vệ "an toàn cảm xúc" có lẽ sẽ sớm trở thành một tiêu chuẩn nhân quyền mới trong kỷ nguyên số, và Trung Quốc đang là người nổ phát súng đầu tiên.
Đức Khương
