Không ai trong ngành có thể nói chắc kiến trúc mô hình nào sẽ thống trị tiếp theo, cán cân giữa huấn luyện và suy luận sẽ dừng ở đâu, hay bao nhiêu khối lượng AI sẽ chạy trong trung tâm dữ liệu của chính doanh nghiệp, trong trung tâm dữ liệu của đối tác, trên chiếc laptop hay thậm chí một thiết bị còn nhỏ hơn. Vậy mà những người phụ trách hạ tầng vẫn phải xuống tiền ngay bây giờ cho một nền tảng CNTT phải gánh doanh nghiệp suốt 5 đến 7 năm tới.
Phát biểu tại AI Infra Summit, ông Alexey Navolokin, Tổng Giám đốc AMD khu vực APAC, gọi đây là bài toán khó nhất của giới làm hạ tầng hiện nay. Theo ông, sai lầm đắt giá nhất không phải là chọn nhầm một con chip, mà là xây một hệ thống cứng nhắc đến mức khi yêu cầu thay đổi thì chỉ còn cách đập đi làm lại.
Từ cụm huấn luyện khổng lồ đến một thế giới AI chạy khắp nơi
Vài năm trước, nhắc đến hạ tầng AI là nhắc đến những đợt huấn luyện quy mô lớn, nhu cầu tương đối dễ đoán, chạy theo từng mẻ trên một cụm máy khổng lồ. Khối lượng công việc ấy không biến mất, nhưng nay phải sống chung với suy luận, Agentic AI và hàng loạt tác vụ phân tán với đòi hỏi rất khác nhau.
Suy luận chạy không nghỉ và rất nhạy với độ trễ lẫn chi phí cho từng yêu cầu. Agentic AI đẩy áp lực này lên cao hơn nữa, vì một yêu cầu của người dùng có thể biến thành cả chuỗi bước như truy xuất và chuẩn bị dữ liệu đầu vào, gọi công cụ, chạy mã, điều phối các tác nhân phụ và giữ trạng thái làm việc lâu hơn bất kỳ yêu cầu đơn lẻ nào.
Hệ quả là bài toán không còn chỉ là cần bao nhiêu sức mạnh tính toán, mà là hệ thống phải có hình dạng thế nào. Một hạ tầng tối ưu cho cụm huấn luyện của ngày hôm qua không chỉ thiếu công suất mà còn sai cấu trúc, bởi sự cân bằng giữa tính toán, bộ nhớ và mạng không còn khớp với nơi công việc thực sự diễn ra. Ông Navolokin nhấn mạnh rằng một vấn đề cấu trúc thì không thể giải quyết bằng cách mua thêm đúng thứ đang có. Mở rộng cái quen thuộc chủ yếu là chuyện ngân sách, còn hấp thụ cái mới là chuyện kiến trúc và vận hành.
Vì thế, tối ưu phải đi theo toàn hệ thống chứ không phải từng linh kiện riêng lẻ. Tính toán, bộ nhớ, mạng, lưu trữ, phần mềm, nguồn điện và độ tin cậy buộc phải được thiết kế để vận hành ăn khớp với nhau.
Đừng đoán ai thắng, hãy giữ quyền được đổi hướng
Nếu mọi thứ còn thay đổi, mục tiêu thiết kế hợp lý không phải là cược vào người thắng cuộc mà là giữ được quyền tự do để chuyển sang điều tiếp theo. Theo ông Navolokin, quyền tự do ấy có thể kiểm chứng được qua ba đặc tính.
Đầu tiên là khả năng thích ứng. Danh mục giải pháp cần đủ sâu để khi khối lượng công việc đổi khác, câu trả lời chỉ là một cấu hình khác chứ không phải một nhà cung cấp khác, với đúng loại năng lực tính toán cho đúng công việc, chạy trên một nền tảng phần mềm chung.
Thứ hai là hiệu quả kinh tế, và theo ông, đừng hiểu đó là rẻ nhất mà là trả tiền cho đúng công cụ. Huấn luyện là quyết định đầu tư vốn, thực hiện theo từng thời điểm, còn suy luận là quyết định vận hành lặp lại hàng tỷ lần mỗi ngày. Với Agentic AI, một yêu cầu không còn là một lần suy luận mà là cả chuỗi suy luận, nên thước đo đáng theo dõi không phải chi phí trên mỗi token mà là chi phí cho mỗi tác vụ hoàn thành.
Thứ ba là tính mở. Một hệ sinh thái dựa trên các tiêu chuẩn được chấp nhận rộng rãi giúp khách hàng không bị trói vào lộ trình sản phẩm của một hãng duy nhất, và đó cũng là lý do các kết nối mở, mạng mở ngày càng quan trọng.
Bài toán độ rộng của AMD
Từ logic đó, AMD chọn đầu tư trên toàn bộ ngăn xếp thay vì dồn vào một sản phẩm chủ lực. Ở đầu nhẹ nhất, CPU máy chủ AMD EPYC đảm nhiệm suy luận, tokenization, điều phối và các tác vụ tính toán đa dụng, trong khi AMD Radeon và AMD Ryzen AI đưa các mô hình nhỏ và AI cục bộ xuống tận máy cá nhân. Lên một nấc, các card AMD Instinct PCIe xử lý suy luận và tinh chỉnh mô hình ngôn ngữ lớn. Ở đầu nặng nhất, các hệ thống tám GPU AMD Instinct phục vụ suy luận phân tán và huấn luyện, rồi mở rộng tới giải pháp quy mô rack AMD Helios cho những triển khai mega-scale.
Tuy nhiên, ông Navolokin cho rằng điều quan trọng không nằm ở từng sản phẩm. Một danh mục rộng mà thiếu câu chuyện phần mềm chung thì chỉ là một cuốn catalog, còn độ rộng đi cùng phần mềm mới tạo ra sự linh hoạt. Vai trò kết dính đó thuộc về AMD ROCm, nền tảng giúp phần cứng chạy một khối lượng công việc có thể thay đổi mà không phải làm lại từ đầu.
Ông cũng khẳng định AMD không xây dựng cả ngăn xếp với kỳ vọng khách hàng phải mua trọn gói. Mỗi thành phần phải tự chứng minh giá trị, và nhờ các tiêu chuẩn mở, doanh nghiệp có thể chọn những mảnh ghép AMD phù hợp nhất với khối lượng công việc của mình mà vẫn tự do chọn các nhà cung cấp khác ở những chỗ còn lại.
Thắng không phải vì đoán đúng, mà vì đủ linh hoạt
Với ông Navolokin, những tổ chức làm tốt trong 5 năm tới sẽ không phải là những nơi đoán trúng mọi khúc quanh, mà là những nơi đủ tự do và linh hoạt để bẻ lái khi khúc quanh xuất hiện. Điều đó dẫn đến ba lời khuyên cho người làm hạ tầng. Hãy xây để thích ứng được dù tương lai mang hình dạng nào, xây để hiệu quả kinh tế và chỉ trả tiền cho đúng công cụ chứ không phải công cụ lớn nhất, và xây trên nền tảng mở để giữ quyền lựa chọn, bởi khi không còn lựa chọn, cái giá phải trả sẽ rất đắt.
Điều duy nhất có thể chắc chắn là AI sẽ còn thay đổi, và theo ông, hạ tầng nên được xây dựng ngay từ đầu với chính giả định đó.
