Nate Soares từng làm việc tại Google và Microsoft, trước khi trở thành một trong những tiếng nói chỉ trích mạnh mẽ nhất về vấn đề an toàn AI. Hiện ông là Chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI), tổ chức phi lợi nhuận chuyên nghiên cứu các rủi ro từ trí tuệ nhân tạo.
Soares cũng là đồng tác giả cuốn sách có tiêu đề gây chú ý: “Nếu ai đó chế tạo nó, tất cả mọi người sẽ chết: Tại sao trí tuệ nhân tạo siêu phàm lại có thể giết chết tất cả chúng ta”.
Trong một tập podcast “The Most Interesting Thing in AI” gần đây, người dẫn chương trình Nicholas Thompson đã hỏi Soares về cách ông chuẩn bị cho tương lai, trong bối cảnh liên tục cảnh báo AI có thể đe dọa sự tồn tại của con người.
Câu trả lời của Soares khiến nhiều người chú ý. Ông thừa nhận đã ngừng tiết kiệm tiền cho tuổi già vì không tin chắc nhân loại sẽ còn tồn tại đủ lâu để sử dụng số tiền đó.
“Tôi có một tài khoản 401(k) từ khi còn làm việc tại Google, nhưng tôi đã không đóng góp vào đó trong một thập kỷ rồi”, Soares chia sẻ.
401(k) là chương trình tiết kiệm hưu trí phổ biến tại Mỹ, cho phép người lao động tích lũy tiền cho thời kỳ nghỉ hưu.
Khi được hỏi về khả năng nhân loại biến mất trong vòng 10 năm tới, với giả định các chính phủ và doanh nghiệp không thực hiện những biện pháp phòng ngừa tối thiểu đối với AI, Soares đưa ra nhận định đáng lo ngại.
Ông cho rằng xác suất xảy ra kịch bản này có thể vượt 50%, đồng thời cảnh báo: “Tôi đoán hiện tại có vẻ như chúng ta không còn đủ thời gian đến một thập kỷ nữa”.
AI có thể nguy hiểm hơn vũ khí hạt nhân?
Theo Soares, mức độ nguy hiểm của AI và siêu trí tuệ nhân tạo có thể vượt xa những mối đe dọa truyền thống mà nhân loại từng đối mặt. Ông cho rằng các quốc gia cần đối xử với AI, đặc biệt là những hệ thống siêu trí tuệ có khả năng vượt khỏi tầm kiểm soát, ít nhất ngang hàng với vũ khí hạt nhân.
“Nói thẳng ra, nó còn nguy hiểm hơn cả vũ khí hạt nhân”, Soares nhận định.
Thậm chí, ông cho rằng nguy cơ từ AI nghiêm trọng đến mức có thể biện minh cho những hành động quân sự nhằm vào các trung tâm dữ liệu phát triển công nghệ này.
Tuy nhiên, Soares không đưa ra một kịch bản cụ thể về cách AI có thể khiến nhân loại tuyệt chủng. Ông đề cập đến một số khả năng như AI phát triển siêu virus hoặc khai thác năng lượng Mặt trời theo cách khiến Trái đất không còn phù hợp với sự sống.
Dù vậy, theo Soares, việc xác định chính xác AI sẽ sử dụng phương thức nào để gây ra thảm họa không phải vấn đề quan trọng nhất.
Ông cho rằng câu hỏi cốt lõi nằm ở khả năng AI tự duy trì sự tồn tại và hoạt động mà không còn phụ thuộc vào con người.
Không phải mọi người đều bi quan về AI
Những cảnh báo của Soares xuất hiện trong bối cảnh ngày càng nhiều nhân vật trong ngành công nghệ bày tỏ lo ngại về tốc độ phát triển của AI.
Trước đó, Jacob Coxon, cựu nhà nghiên cứu tại Anthropic và OpenAI, từng gây chú ý khi cho rằng cả hai phòng nghiên cứu này đều chưa hành động một cách có trách nhiệm. Một số lãnh đạo công nghệ, trong đó có Bill Gates, cũng từng đưa ra những cảnh báo về sự phát triển nhanh chóng của AI.
Các khảo sát được bài viết dẫn lại cho thấy mối lo ngại về công nghệ này đang lan rộng. Dữ liệu từ Trung tâm Nghiên cứu Ý kiến Quốc gia thuộc Đại học Chicago cho biết 64% người trưởng thành tại Mỹ cho rằng AI đang phát triển quá nhanh. Một nghiên cứu toàn cầu của Đại học Stanford ghi nhận khoảng 52% người tham gia khảo sát cảm thấy lo lắng về AI.
Dù vậy, Soares không cho rằng con người nên sống trong trạng thái tuyệt vọng.
Ông lấy cảm hứng từ bài luận “On Living in an Atomic Age” (Sống trong thời đại nguyên tử), được nhà văn C.S. Lewis viết năm 1948. Tác phẩm đề cập đến cách con người đối diện với nguy cơ chiến tranh hạt nhân, nhưng Soares tin rằng những quan điểm trong đó vẫn phù hợp với thời đại AI.
Theo ông, nhân loại từng trải qua nhiều giai đoạn đối mặt với nguy cơ diệt vong, từ dịch bệnh, nạn đói đến chiến tranh. Vì vậy, việc sống trong một thời kỳ bất ổn không đồng nghĩa với việc con người phải từ bỏ cuộc sống.
Triết lý của Soares là mỗi người nên làm những gì có thể để ngăn chặn thảm họa, đồng thời tiếp tục sống một cuộc đời có ý nghĩa.
“Tôi không nghĩ điều đó là không thể tránh khỏi. Tôi nghĩ chúng ta hoàn toàn vẫn có thể ngăn chặn cuộc chạy đua hướng tới loại trí tuệ nhân tạo nguy hiểm này”, ông nói.
Dù đã ngừng đóng góp vào quỹ hưu trí, Soares vẫn tiếp tục dành thời gian và công sức để cảnh báo về rủi ro AI. Với ông, nguy cơ nhân loại biến mất không phải kết cục chắc chắn, mà là một thảm họa cần được ngăn chặn trước khi quá muộn.
Nguồn: Yahoo
Hân Ly
