存储智能体在端侧大模型部署场景的演示图

2026年5月19日

58

679

江波龙亮相AMD AI开发者日 2026,存储智能体助力AI大模型高效部署

在AMD AI开发者日的演讲中,江波龙介绍了存储智能体与SPU存储处理单元如何协同,解决端侧大模型部署中内存与计算的瓶颈问题。

用存储智能体突破本地部署限制

通过iSA存储智能体技术和SPU的配合,团队在128GB内存环境下成功运行397B超大参数模型,展示了通过存储调优与计算分担实现大模型本地化的可行路径。

面向开发者的优化策略

方案重点在于降低内存占用、提升I/O效率与调度智能化,为端侧设备和开发者提供更经济且高效的部署参考,利于在边缘与企业侧推广大模型应用。

存储智能体与SPU的协同,使得在128GB内存下可以运行397B超大参数模型,打破了硬件壁垒。

“小墨”

产业化落地与生态协作

与AMD硬件协同,使得存储智能体可在现有计算平台上发挥更大作用,同时推动工具链与应用生态的建设,加速技术向实际产品的转化。

技术示范与后续发展方向

演示表明存储层面的智能化优化是实现大模型在受限资源环境中运行的重要途径,未来需要在标准化、兼容性与工具化方面持续推进以扩大适用范围。

如有侵权,请联系删除。

Related Articles

联系我们 获取方案
小墨 AI