OpenAI - Công ty đã tạo ra chatbot AI ChatGPT đang có kế hoạch đầu tư các nguồn lực quan trọng và thành lập một nhóm nghiên cứu mới để tìm cách đảm bảo trí tuệ nhân tạo của họ thực sự an toàn cho con người, dần tiến tới việc sử dụng AI để tự giám sát chính trí tuệ nhân tạo mà họ đang phát triển.
"Sức mạnh to lớn của siêu trí tuệ có thể ... dẫn đến sự suy giảm quyền lực của loài người hoặc thậm chí là sự tuyệt chủng của loài người," Ilya Sutskever, người đồng sáng lập OpenAI và người đứng đầu nhóm liên kết là Jan Leike đã viết trong một bài đăng trên blog. "Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có khả năng siêu thông minh và ngăn không cho nó trở nên bất hảo".
Các tác giả của bài đăng trên blog dự đoán AI siêu thông minh - hệ thống thông minh hơn con người - có thể xuất hiện trong thập kỷ này. Theo các tác giả, con người sẽ cần những kỹ thuật tốt hơn hiện có để có thể điều khiển AI siêu thông minh, do đó cần có những bước đột phá trong cái gọi là "nghiên cứu liên kết", tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.
OpenAI, được hỗ trợ bởi Microsoft, đang dành 20% sức mạnh tính toán mà nó đã bảo đảm trong bốn năm tới để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một nhóm mới sẽ tổ chức xung quanh nỗ lực ngăn chặn AI "trở nên bất hảo", được gọi là nhóm Superalignment.
Mục tiêu của nhóm là tạo ra một nhà nghiên cứu căn chỉnh AI "cấp độ con người", sau đó mở rộng nó thông qua một lượng lớn sức mạnh tính toán. OpenAI cho biết điều đó có nghĩa là họ sẽ đào tạo các hệ thống AI bằng cách sử dụng phản hồi của con người, đào tạo các hệ thống AI để hỗ trợ đánh giá con người và cuối cùng là đào tạo các hệ thống AI để thực sự nghiên cứu căn chỉnh.
Người ủng hộ sự an toàn của AI Connor Leahy cho biết kế hoạch này về cơ bản là thiếu sót vì AI ở cấp độ con người ban đầu có thể hoạt động điên cuồng và tàn phá trước khi nó có thể bị buộc phải giải quyết các vấn đề về an toàn của AI.
"Bạn phải giải quyết vấn đề liên kết trước khi xây dựng trí thông minh cấp độ con người, nếu không, theo mặc định, bạn sẽ không kiểm soát được nó", ông nói trong một cuộc phỏng vấn. "Cá nhân tôi không nghĩ rằng đây là một kế hoạch đặc biệt tốt hay an toàn."
Những mối nguy hiểm tiềm tàng của AI luôn là mối quan tâm hàng đầu của cả các nhà nghiên cứu AI và công chúng nói chung. Vào tháng 4, một nhóm các nhà lãnh đạo và chuyên gia trong ngành AI đã ký một bức thư ngỏ kêu gọi tạm dừng sáu tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 của OpenAI, viện dẫn những rủi ro tiềm ẩn cho xã hội. Một cuộc thăm dò hồi tháng 5 của Reuters/Ipsos cho thấy hơn 2/3 người Mỹ lo ngại về những tác động tiêu cực có thể có của AI và 61% tin rằng nó có thể đe dọa nền văn minh nhân loại.
Thành Đô (theo Reuters)
