AMD tuyên bố ra chip AI mạnh hơn 60% Nvidia H100

Được giới thiệu lần đầu hồi tháng 6 và ra mắt chính thức ngày 6/12 tại sự kiện Advancing AI ở San Jose,ênbốrachipAImạnhhơtin nhanh bóng đá California, Instinct MI300X nhắm đến các hệ thống huấn luyện AI. Trong sự kiện, AMD nêu đích danh mẫu chip của Nvidia là đối thủ chính.

MI300X được xem là đỉnh cao về phương pháp thiết kế chiplet mới nhất mà AMD áp dụng cho bộ xử lý đồ họa (GPU), gồm kết hợp tám ngăn xếp bộ nhớ HBM3 12Hi với tám chiplet GPU 5nm CDNA 3 xếp chồng lên nhau dạng 3D, được đặt tên là XCD. Công nghệ lai này được AMD gọi là 3,5D, với sự kết hợp 3D và 2,5D. Kết quả là chip mới có công suất 750 W, sử dụng 304 đơn vị tính toán, dung lượng HBM3 192 GB và đạt băng thông 5,3 TB/s.

Bên trong MI300X được thiết kế để hoạt động theo nhóm với tổng cộng 8 phân vùng xử lý riêng. Thông qua kết nối Infinity Fabric, các vùng này sẽ giao tiếp với nhau với băng thông tốc độ 896 GB/s. Toàn bộ mang lại hiệu suất 10,4 Petaflop (triệu tỷ phép tính mỗi giây).