Marvell发布新一代AI内存基础设施方案组合提升Token效率

PANews 8月4日消息,数据基础设施半导体巨头Marvell Technology宣布推出面向AI基础设施的新一代内存解决方案组合,覆盖服务器级AI存储、机架级CXL内存扩展与池化,以及多机柜光互联共享内存,旨在解决Agentic AI推理过程中日益增长的内存容量和带宽瓶颈。

Marvell表示,随着AI模型规模扩大、上下文窗口延长以及KV Cache需求增长,传统计算与内存紧耦合架构正限制AI推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高GPU利用率并降低数据移动延迟。

此次发布的产品包括:

Bravera SC6 PCIe 6.0 SSD控制器:面向AI推理存储场景,可帮助云服务商将更多KV Cache迁移至高性能SSD,提升基础设施效率。该产品采用兼容多供应商NAND的架构,预计将于2026年第四季度开始送样。

Marvell Structera X内存扩展方案:基于CXL技术,支持机架级内存扩展和资源池化,帮助数据中心更灵活地共享和调配内存资源,降低AI基础设施成本。

Marvell Photonic Fabric光互联内存方案:通过光互联技术构建跨多机柜共享内存架构,可支持最高32TB温热KV Cache卸载,并帮助AI推理集群提升吞吐能力。

分享至:

作者:PA一线

本内容只为提供市场信息,不构成投资建议。

关注PANews官方账号,一起穿越牛熊
PANews APP
现货白银突破60美元关口
PANews 快讯