Tại sao phần cứng AI của AMD mạnh đến vậy nhưng vẫn không đủ giúp Đội Đỏ đánh bại NVIDIA: Câu trả lời nằm ở phần mềm quá yếu kém

Tại sao phần cứng AI của AMD mạnh đến vậy nhưng vẫn không đủ giúp Đội Đỏ đánh bại NVIDIA: Câu trả lời nằm ở phần mềm quá yếu kém

Thứ 5, 26/12/2024 09:00
AMD hy vọng chip AI MI300X mới mạnh mẽ của mình cuối cùng sẽ giúp hãng giành được lợi thế trước Nvidia, nhưng hệ thống phần cứng này vẫn khó có thể làm điều đó trước 'chông gai' về tối ưu phần mềm hỗ trợ

Cuộc đối đầu giữa AMD và Nvidia trong lĩnh vực tăng tốc GPU dành cho AI tiếp tục nóng lên với sự ra mắt của MI300X từ AMD. Được thiết kế trên kiến trúc CDNA 3, MI300X được kỳ vọng trở thành đối thủ đáng gờm với Nvidia H100 và H200 trong các khối lượng công việc AI. Tuy nhiên, theo phân tích từ SemiAnalysis, dù MI300X có thông số phần cứng vượt trội, AMD vẫn gặp nhiều trở ngại lớn trong hệ sinh thái phần mềm, điều mà Nvidia vẫn đang thống trị.

Trên giấy tờ, MI300X của AMD thể hiện sự vượt trội với khả năng tính toán FP16 lên tới 1.307 TeraFLOPS và 192GB HBM3, nhiều hơn đáng kể so với các đối thủ Nvidia. AMD cũng nhấn mạnh rằng giải pháp của họ có chi phí tổng sở hữu (TCO) thấp hơn khi so sánh với các hệ thống Nvidia, vốn yêu cầu mạng InfiniBand đắt đỏ. Tuy nhiên, sức mạnh phần cứng chỉ là một phần của câu chuyện.

2024 12 24 image 9 j1100

SemiAnalysis đã dành hơn 5 tháng để thử nghiệm MI300X và phát hiện ra rằng hệ sinh thái phần mềm của AMD còn nhiều vấn đề. Trong quá trình thử nghiệm, nhóm nghiên cứu phải dựa vào sự hỗ trợ liên tục từ các kỹ sư của AMD để khắc phục lỗi, một điều hiếm khi xảy ra với phần cứng Nvidia, nơi hệ sinh thái CUDA hoạt động trơn tru ngay khi khởi động. Các vấn đề về phần mềm không chỉ dừng lại ở việc thử nghiệm mà còn ảnh hưởng đến khách hàng của AMD. Ví dụ, nhà cung cấp đám mây Tensorwave, một trong những khách hàng lớn nhất của AMD, đã phải cho phép kỹ sư của AMD truy cập trực tiếp vào chip MI300X để sửa lỗi phần mềm.

Những vấn đề này bao gồm sự không tương thích với PyTorch, hiệu suất kém khi mở rộng quy mô nhiều chip và khả năng tích hợp không ổn định. SemiAnalysis cũng nhận thấy rằng nhiều thư viện AI của AMD là bản "fork" từ thư viện của Nvidia, dẫn đến hiệu suất không tối ưu và sự cố không tương thích.

Phân tích từ SemiAnalysis cho thấy AMD vẫn chưa thể vượt qua "bức tường CUDA" – lợi thế hệ sinh thái phần mềm mạnh mẽ của Nvidia. CUDA không chỉ mang lại trải nghiệm người dùng mượt mà mà còn là một nền tảng đầy đủ tính năng với các thư viện, công cụ và hỗ trợ tốt nhất trong ngành. Trong khi AMD cố gắng cải thiện hệ sinh thái của mình, Nvidia liên tục mở rộng và cập nhật CUDA, làm sâu thêm khoảng cách giữa hai bên.

Dù vậy, SemiAnalysis cũng ghi nhận một điểm sáng trong các nhánh phần mềm BF16 của AMD dành cho MI300X. Các thử nghiệm ban đầu cho thấy hiệu suất cải thiện đáng kể, nhưng thời gian để triển khai chính thức vẫn còn dài. Trong khi đó, Nvidia có thể đã ra mắt thế hệ GPU tiếp theo, Blackwell, khiến AMD tiếp tục bị bỏ lại phía sau.

Để cải thiện tình hình, AMD cần đầu tư mạnh mẽ hơn vào hệ sinh thái phần mềm. Dylan Patel, người sáng lập SemiAnalysis, đã gặp gỡ CEO AMD Lisa Su, và nhận thấy bà hiểu rõ những gì cần làm để cải thiện vấn đề. Tuy nhiên, với nhiều năm thiếu đầu tư vào phần mềm, việc thay đổi không thể diễn ra trong ngắn hạn.

Mặc dù MI300X là một sản phẩm đầy hứa hẹn về phần cứng, các vấn đề về phần mềm khiến AMD khó lòng cạnh tranh trực tiếp với Nvidia. "Bức tường CUDA" không chỉ là một lợi thế kỹ thuật mà còn là kết quả của nhiều năm phát triển bền bỉ từ Nvidia, tạo nên một nền tảng mà các đối thủ khó lòng vượt qua. Nếu AMD muốn thực sự thách thức vị trí dẫn đầu của Nvidia, họ cần tập trung nhiều hơn vào trải nghiệm tổng thể của khách hàng thay vì chỉ dựa vào sức mạnh silicon. Trong một cuộc đua nơi cả phần cứng và phần mềm đều quan trọng, Nvidia vẫn đang nắm lợi thế lớn.

Anh Việt

 
 
 
 
Cùng chuyên mục

Nhà tuyển dụng nam hỏi: "Cái gì lúc mềm lúc cứng?", cô gái trẻ trả lời một câu khiến ứng viên còn lại ngượng chín mặt và được nhận luôn

Thứ 5, 26/12/2024 21:09
Nữ ứng viên này đúng là "cao tay' trong việc xử lý những câu hỏi phỏng vấn hóc búa.

BTC show Duy Mạnh - Tuấn Hưng chơi lớn: 2024 ủng hộ 3 tỷ đồng xây trường học, 2025 ứng trước 2 tỷ đồng xây nhà cho đồng bào khó khăn

Thứ 5, 26/12/2024 20:56
Dù Liveshow Dốc Mộng Mơ - Anh Em Kết Đoàn 2025 còn chưa chốt lịch diễn ra nhưng BTC đã mạnh tay ứng trước số tiền 2 tỷ đồng qua Mặt Trận Tổ Quốc Việt Nam để đồng hành cùng chiến dịch Quốc gia Xoá nhà tạm, nhà dột nát. Đây là toàn bộ lợi nhuận dự kiến thu được về từ chương trình Anh Em Kết Đoàn 2025.

Ngay lúc này: 1 mét vuông 10 gặp cái tút mặn hơn muối biển cày vote cho thần tượng ở WeChoice Awards 2024

Thứ 5, 26/12/2024 19:57
Lên mạng tầm này, tôi không thể nào “thư giãn” nổi với cuộc chiến kéo vote đang hot nhất hiện tại.

Khởi tố và ra lệnh tạm giam nhiều đối tượng liên quan vụ án tại Tạp chí Môi trường và Đô thị Việt Nam

Thứ 5, 26/12/2024 19:48
Giám đốc Công an tỉnh Thái Bình đã thông tin quá trình mở rộng vụ án 'Cưỡng đoạt tài sản' xảy ra tại tạp chí điện tử Môi trường và Đô thị Việt Nam.

Vụ án Tập đoàn Phúc Sơn: Bắt, khởi tố thêm 5 nguyên lãnh đạo tỉnh Phú Thọ và Vĩnh Phúc

Thứ 5, 26/12/2024 19:48
Cục CSĐT tội phạm về tham nhũng, kinh tế, buôn lậu C03 đã khởi tố một số bị can nguyên lãnh đạo của tỉnh Vĩnh Phúc và Phú Thọ.
     
Nổi bật trong ngày

Rủng rỉnh mùa mua sắm cuối năm: Game thủ nên lựa chọn màn hình nào cho cái Tết này?

Thứ 4, 25/12/2024 11:57
Nếu cần lựa chọn một mẫu màn hình đáp ứng các tiêu chí: Đẹp, nhiều tính năng và thiết kế tinh tế thì Samsung Odyssey G5 G50D sẽ là cái tên tối ưu dành cho game thủ.

Người đạp xích lô “đổi đời”, tiết lộ mức giá nếu fan muốn trải nghiệm giống Sơn Tùng M-TP

Thứ 4, 25/12/2024 17:00
Mỗi ngày, lượng khách đặt xe rất đông khiến anh Tuyên chở không xuể.

5 bê bối rúng động nhất Kbiz 2024: Sao nam nhận 1000 vòng hoa tang và thành viên BTS phải chào thua 1 nhân vật trốn tội như phim!

Thứ 4, 25/12/2024 22:49
Trong năm 2024, những ngôi sao bê bối này đã làm công chúng xứ Hàn thất vọng nặng nề.

Nga công bố loạt đối tác mới của BRICS, có 3 nước ASEAN: Quy mô ngày càng "khủng", G7 thua ở một chỉ số

Thứ 5, 26/12/2024 11:19
Trợ lý tổng thống Nga Yuri Ushakov ngày 23/12 cho biết, chín nước sẽ chính thức gia nhập BRICS với tư cách là các quốc gia đối tác từ tháng 1/2025.

Xem phim "Sex Education", tôi càng hối hận vì đã bạt tai con hôm ấy – Hoá ra yêu thương sai cách chẳng khác gì liều thuốc độc huỷ hoại tương lai con

Thứ 5, 26/12/2024 16:21
Nhờ phim "Sex Education" đã khiến tôi nhận ra mình phải thay đổi cách giáo dục con.
xe.nguoiduatin.vn