NVIDIA ra mắt chip AI mạnh nhất thế giới GB200 Grace Blackwell
Superchip của NVIDIA được thiết kế như một nền tảng tinh túy dành cho các việc xử lý AI và điện toán hiệu năng cao. Hôm nay NVIDIA vừa giới thiệu chương tiếp theo của nền tảng này gồm sản phẩm mới nổi bật là siêu chip GB200 Grace Blackwell.
GB200 Grace Blackwell là hệ thống trang bị GPU B200 (mỗi die chip B200 có dung lượng bộ nhớ HBM3e 192 GB) và CPU Grace, đạt công suất tối đa 2.700 W, hỗ trợ giao thức PCIe 6.0 (2 x 256 GB/s), tương thích Hopper hoặc các giải pháp mới khác.
Mỗi siêu chip GB200 được trang bị hai GPU Blackwell B200 và một CPU Grace với 72 lõi ARM Neoverse V2, cung cấp 40 PetaFlops hiệu suất tính toán (INT8) và nhóm bộ nhớ 864 GB khổng lồ, với HBM (High Bandwidth Memory) ở băng thông 16 TB/s.
Đáng chú ý, các thành phần trong hệ thống này được nối với nhau bằng giao thức NVLINK với băng thông có tốc độ truyền dữ liệu 3.6 TB/s, tích hợp cả Blackwell Compute để cung cấp hiệu suất AI tới 80 PetaFLOP, bộ nhớ HBM3e 1.7 TB, BM 32 TB/s.
Xem thêm: Microsoft lên kế hoạch phát triển chip AI để không phụ thuộc vào Nvidia
Nhằm đáp ứng nhu cầu, hãng còn cung cấp bộ sản phẩm dưới dạng thiết kế lớn hơn chẳng hạn như GB200 NVL72 gồm 36 CPU Grace và 72 GPU Blackwell, cho tổng cộng 18 khay tính toán trong một bộ khung duy nhất được làm mát bằng chất lỏng.
Mỗi Rack có ConnectX-800G Infiniband SuperNIC và Bluefield-3 DPU (băng thông bộ nhớ 80 GB/s) để tính toán trong mạng. Công ty cũng sở hữu Thiết bị chuyển mạch NVLINK mới nhất có tám cổng tốc độ 1.8 TB/s và băng thông tổng hợp 14.4TB/s.
Về hiệu suất, siêu chip GB200 Grace Blackwell cung cấp hiệu suất AI tăng gấp 30 lần so với nền tảng H200 Grace Hopper. NVIDIA Blackwell GB200 sẽ có mặt trên DGX Cloud vào cuối năm nay trong khi các OEM hàng đầu như Dell, Cisco, HPE, Lenovo, Supermicro, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, Gigabyte, Inventec, Pegatron, QCT, Wistron, Wiwynn; ZT Systems cũng sẽ cung cấp các giải pháp tương ứng của họ.
(Nguồn: wccftech)