Băng thông 1,22TB/s, xử lý AI ngay trên thiết bị
Xiaomi vừa công bố ba chip Xring mới tại sự kiện ra mắt sản phẩm chủ lực mùa thu. Trong số này, Xring O100 là chip tăng tốc AI chuyên dụng, được thiết kế để xử lý các tác vụ AI phức tạp trực tiếp trên thiết bị thay vì phải phụ thuộc vào máy chủ đám mây.
Theo Xiaomi, Xring O100 đạt băng thông bộ nhớ tối đa 1,22TB/s và là giải pháp đóng gói 3D xếp chồng cấp wafer 6nm đầu tiên trên thế giới. Chip sử dụng công nghệ liên kết lai hybrid bonding, với khoảng cách giữa các điểm kết nối được thu hẹp gần giới hạn vật lý.
Cách thiết kế này giúp Xring O100 có băng thông bộ nhớ cao gấp 16 lần so với smartphone truyền thống, đồng thời đạt tốc độ suy luận tại thiết bị lên tới 330 token/giây. Xiaomi cho biết mức băng thông cao giúp giải quyết một trong những điểm nghẽn lớn khi chạy các mô hình ngôn ngữ lớn trên thiết bị di động.
Xếp chồng bộ nhớ để tăng tốc AI
Xring O100 sử dụng kiến trúc wafer-on-wafer, trong đó các khuôn xử lý và DRAM tốc độ cao được xếp chồng theo chiều dọc rồi kết nối bằng công nghệ hybrid bonding. Việc rút ngắn khoảng cách vật lý giữa bộ xử lý và bộ nhớ giúp dữ liệu được truyền với tốc độ cao hơn, giảm ảnh hưởng của giới hạn băng thông bộ nhớ.
Theo Xiaomi, ngay cả khi các SoC di động hiện nay có năng lực tính toán đủ lớn, hiệu suất chạy mô hình AI vẫn có thể bị hạn chế bởi tốc độ truyền dữ liệu giữa bộ xử lý và bộ nhớ. Xring O100 được thiết kế theo hướng xử lý gần bộ nhớ, nhằm giúp các mô hình AI tạo token nhanh hơn khi chạy hoàn toàn trên thiết bị.
Chip được trang bị hệ thống NPU đa lõi, tối ưu cho các giai đoạn khác nhau của quá trình suy luận và hỗ trợ định tuyến dữ liệu động. Xiaomi đã trình diễn các nguyên mẫu sử dụng Xring O100, gồm thiết bị dạng máy tính bảng và mẫu máy tính mini Xiaomi AI Cube kết hợp O100 với các chip Xring khác để xử lý AI cục bộ trong thời gian dài.
Dự kiến thương mại hóa từ năm 2027
Xring O100 là một phần trong hệ sinh thái chip Xring mà Xiaomi đang phát triển, bên cạnh các SoC di động cao cấp và chip dành cho ô tô. Thay vì chỉ tập trung vào việc thu nhỏ tiến trình sản xuất, Xiaomi đang đẩy mạnh cải tiến băng thông bộ nhớ và công nghệ đóng gói để nâng hiệu suất xử lý AI.
Hãng dự kiến đưa Xring O100 vào các sản phẩm thương mại từ năm 2027. Chip có thể được ứng dụng trên smartphone, máy tính bảng, robot và nhiều thiết bị khác, với mục tiêu giúp các tính năng AI tạo sinh hoạt động nhanh hơn ngay cả khi thiết bị không có kết nối Internet.
Phạm Hoàng
