AMD发布新GPU加快卡Instinct MI325X：八卡2TB HBM3E、FP8性能超每秒2亿亿次

快科技10月11日好意思国旧金山现场报谈：

在Advancing AI 2024大会上，AMD致密发布了新款GPU加快卡“Instinct MI325X”。

它在大赢得手的MI300X基础上再进一步，主如果增强了HBM内存部分。

【硬件规格、性能篇】

MI325X配备了多达256GB HBM3E内存，比拟于MI300X又增多了64GB，还是八颗，但单颗容量从24GB增至32GB。

同期，带宽从5.3TB/s来到了6TB/s，不异增多了能够13％，Infinity Fabric总线的带宽则还是896GB/s。

性能方面倒是没啥变化，还是FP16 1.3 PFlops(每秒1300万亿次)、FP8 2.6 PFlops。

很当然的，中枢规格亦然刻舟求剑：5nm XCD模块搭配6nm IOD模块，3.5D封装，1530亿个晶体管，304个揣测打算单位。

不外，AMD清楚MI325X的功耗达到了1000W，比拟MI320X增多了750W。

MI325X也扶植八块并行构成一个平台，这就有多达2TB HBM3E、48TB/s带宽，总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。

这个界限对比NVIDIA H200 HGX，区别有80％、30％、30％的上风。

对比NVIDIA H200，不管单卡还是八卡平台，不同大模子推理的性能皆不错跨越20-40％。

覆按性能方面，单卡可跨越H200 10％，八卡平台则是合手平。

MI325X加快卡和平台将在四季度内投产，而协作伙伴的整机系统、基础架构惩办决策，将从来岁第一季度起联络推出。

著述本质举报