Bài toán băng thông AI: bộ nhớ phải thay đổi trước khi GPU bị kiệt sức
Cuộc đua bộ nhớ AI giữa Samsung và SK hynix là sự chuyển dịch từ việc tăng thuần tốc độ chip nhớ sang tái kiến trúc toàn bộ đường đi dữ liệu giữa bộ xử lý, bộ nhớ nóng (HBM) và tầng lưu trữ flash, nhằm giải bài toán băng thông và tiêu thụ điện năng của các trung tâm dữ liệu AI hiện đại. Sự bùng nổ mô hình AI đã khiến khoảng cách vật lý giữa bộ nhớ và vi xử lý trở thành nút thắt cổ chai, buộc các hãng phải nghĩ lại cách đặt, xếp chồng và tiêu chuẩn hóa bộ nhớ. Ngày 4/8, Samsung Electronics lần đầu giới thiệu zHBM, zNAND-O và V10 BV-NAND tại FMS 2026 ở Santa Clara trong bối cảnh nhu cầu mở rộng hạ tầng AI và HPC tăng mạnh. Cùng sự kiện đó, SK hynix công bố bộ tiêu chuẩn HBF (High Bandwidth Flash) đầu tiên, đặt nền móng cho một lớp bộ nhớ trung gian mới giữa HBM và SSD hướng tới thương mại hóa khoảng năm 2030. Ai coi đây chỉ là cuộc khoe công nghệ thì đã lầm: nó là đòn mở đường cho thế hệ hạ tầng trung tâm dữ liệu AI tiếp theo.
zHBM: bộ nhớ AI Samsung kéo HBM lên thẳng đỉnh chip tăng tốc
Động thái táo bạo nhất của Samsung là công nghệ zHBM, về bản chất là bộ nhớ HBM AI được xếp chồng trực tiếp lên chip logic thay vì đặt cạnh như cấu hình truyền thống. Thay đổi có vẻ chỉ liên quan đến đóng gói này lại quyết định gần như toàn bộ cách dữ liệu di chuyển trong hệ thống AI: khoảng cách ngắn đi, độ trễ giảm, băng thông tăng và điện năng thất thoát trên đường truyền cũng ít hơn. Theo công bố, hệ thống dùng công nghệ zHBM có thể tăng hiệu năng tối đa 8 lần so với HBM5, nâng hiệu suất năng lượng lên gấp 3 lần và giảm hơn một nửa nhiệt trở nhờ quãng đường truyền dẫn ngắn cùng đóng gói wafer bonding. Đây là tuyên bố mang tính tuyên chiến với giới hạn HBM truyền thống, vốn đã bắt đầu chạm trần trước nhu cầu băng thông của các mô hình AI khổng lồ. Về bản chất, Samsung đang biến HBM từ "bộ nhớ bên cạnh" thành một phần gần như dính liền với bộ tăng tốc AI, mở đường cho các thiết kế chiplet và IP tùy biến chèn giữa chồng bộ nhớ và logic.
V10 BV-NAND và zNAND-O: tầng flash bước lên sân khấu AI
Nếu zHBM giải quyết nút thắt băng thông giữa GPU và bộ nhớ nóng, V10 BV-NAND và zNAND-O cho thấy tham vọng của Samsung đẩy cả tầng lưu trữ flash lên cuộc chơi AI. V10 BV-NAND là kiến trúc Bonding V-NAND đầu tiên dùng wafer bonding và cấu trúc 3 stack để vượt mốc hơn 400 lớp, tăng mật độ tích hợp khoảng 58% so với thế hệ trước. Con số này không chỉ là kỷ lục kỹ thuật mà còn là lời khẳng định: bộ nhớ flash sẽ đủ nhanh, đủ dày để nuôi dữ liệu cho AI mà không buộc trung tâm dữ liệu phải mở thêm nhiều giá server. Ở phía thiết bị biên, zNAND-O kết hợp xếp chồng V-NAND với TSV, tách riêng ô nhớ và mạch ngoại vi rồi liên kết theo chiều dọc để đạt độ trễ thấp và I/O nhanh, nhắm thẳng vào các tác vụ AI on-device thời gian thực. Việc Samsung khẳng định ký tự “-O” là định hướng tối ưu cho môi trường AI on-device cho thấy họ không muốn để cuộc chơi bộ nhớ AI chỉ diễn ra trong các trung tâm dữ liệu khổng lồ mà còn trên điện thoại, thiết bị edge và cảm biến thông minh.
Tiêu chuẩn HBF SK hynix: lớp bộ nhớ mới giữa HBM và SSD cho hạ tầng trung tâm dữ liệu
Trong khi Samsung kéo HBM sát vào chip tăng tốc, SK hynix lại chọn đặt một lớp bộ nhớ mới giữa HBM và SSD với tiêu chuẩn HBF (High Bandwidth Flash). HBF được định nghĩa là bộ nhớ trung gian kết hợp tốc độ của HBM với dung lượng của flash NAND, bổ trợ cho HBM để nâng hiệu quả xử lý dữ liệu và giảm chi phí vận hành hệ thống, đặc biệt trong AI suy luận. Bộ tiêu chuẩn kỹ thuật đầu tiên cho HBF, phát triển cùng SanDisk và công bố qua Open Compute Project, hỗ trợ dung lượng tối đa 512 GB, băng thông từ 0,4 TB/s đến 3 TB/s và dùng chuẩn kết nối UCIe để tích hợp với nhiều loại CPU, GPU. Điểm thú vị là SK hynix không đẩy HBF như một sản phẩm riêng lẻ mà như một "nút tiêu chuẩn" trong hệ sinh thái lưu trữ AI mở với Google, Tenstorrent đã tham gia và AMD cùng nhiều bên được kỳ vọng gia nhập. Điều này cho thấy họ chọn con đường "đặt luật" cho hạ tầng trung tâm dữ liệu tương lai, thay vì chỉ chạy theo các thế hệ HBM mới. Khi các hãng chuyển từ cạnh tranh chip nhớ hiệu năng cao sang kiến trúc bộ nhớ tích hợp, HBF là thông điệp rõ ràng: cuộc chơi không còn ở từng mô-đun, mà ở cách chúng nói chuyện với nhau.
Cuộc đua wafer bonding và tương lai bộ nhớ AI: ai cầm chìa khóa băng thông?
Nhìn tổng thể, cả Samsung và SK hynix đều đang đặt cược vào wafer bonding và chuẩn kết nối mở để giải bài toán băng thông AI. Samsung dùng wafer bonding cho cả zHBM lẫn V10 BV-NAND, đạt mật độ bộ nhớ cao gấp 10 lần HBM5 và vượt mốc 400 lớp flash. SK hynix dùng tiêu chuẩn HBF dựa trên UCIe để bảo đảm lớp bộ nhớ mới có thể cắm được vào nhiều loại chip xử lý trong kiến trúc chiplet đang lên. Ai thắng không chỉ là người có con số băng thông lớn nhất mà là bên xây được "đường cao tốc" dữ liệu mượt từ GPU xuống flash và ngược lại. Theo lộ trình hiện tại, Samsung đã sản xuất hàng loạt HBM4 và cung cấp mẫu HBM4E cho khách hàng, trong khi SK hynix nhắm thương mại hóa HBF vào khoảng 2030. Thị trường HBF được dự báo có thể đạt gần 17.000 tỷ won trong cùng mốc thời gian, đủ lớn để buộc cả ngành nhớ rằng tương lai bộ nhớ AI không dừng ở HBM thế hệ tiếp theo. Kết luận không khó: hạ tầng trung tâm dữ liệu AI sẽ được quyết định bởi những ai nắm được công nghệ bộ nhớ tích hợp, sử dụng wafer bonding và tiêu chuẩn mở để biến băng thông thành lợi thế chứ không phải nút thắt.
