blog details

2024年10月11日

24

419

AMD发布最强AI芯片,引领AI解决方案新时代

在AI解决方案领域,AMD近日发布了一款强大的AI芯片,为AI企业解决方案带来了革命性变化。AMD Instinct MI325X GPU首次启用了高带宽HBM3E内存,其AI峰值算力达到21PFLOPS,展现了与英伟达H200 GPU相媲美的数据处理能力。此芯片内存容量比H200高1.8倍,内存带宽及计算性能也都有显著提升。此外,AMD在发布会上集结了谷歌、OpenAI、微软等重量级AI生态伙伴,进一步展示了其在AI定制开发领域的影响力。

AMD还披露了其AI芯片的未来路线图,计划在2024年推出采用CDNA 4架构的MI350系列,其中MI355X将实现74PFLOPS的AI峰值算力。为了支撑更高的数据中心算力,AMD推出了Pensando Pollara 400和性能提升的Pensando Salina 400 DPU,这些技术创新将为AI系统开发提供更稳定和高效的基础。

AI芯片的未来

在服务器CPU领域,AMD也不甘示弱,推出了被誉为“全球最好CPU”的第五代EPYC系列。采用最新台积电3/4nm制程技术,这些CPU最多支持192核和384线程,设计功耗高达500W。与英特尔至强系列相比,AMD的EPYC处理器在多个性能指标上实现了2.7倍到4.0倍的提升,为大型语言模型开发提供了强大的计算支持,同时也增强了支持企业AI开发的能力。

备受期待的旗舰AI芯片AMD Instinct MI325X GPU首次启用HBM3E高带宽内存,8卡AI峰值算力达到21PFLOPS,并与去年发布的、同样采用HBM3E的英伟达H200 GPU用数据掰手腕:内存容量是H200的1.8倍,内存带宽、FP16和FP8峰值理论算力都是H200的1.3倍。

“新智元”

服务器CPU领域

为提升数据传输效率,AMD在发布会上也宣布了适用于不同网络环境的Pensando Salina 400 DPU和Pollara 400网卡。Salina 400能够支持400G吞吐量,优化数据驱动AI应用的性能、安全性和效率,而Pollara 400则作为首款支持超以太网联盟(UEC)的AI网卡,提升了加速器之间的通信能力,为AIGC软件服务提供了技术保障。

网络性能在AI应用定制服务中至关重要。AMD的技术创新不仅减少了训练和推理过程中的网络等待时间,还大幅降低了运营总成本(TCO)。以太网RoCEv2凭借其低成本和高扩展性成为后端网络的理想选择,支持的GPU数量远超传统InfiniBand解决方案。此技术不仅适用于杭州AI定制开发和浙江AI解决方案,还有助于扩展至更广泛的全球市场,帮助企业优化资源配置和效率。

如有侵权,请联系删除。

Related Articles