返回 7*24 快讯
来源ODAILY

Marvell推出AI“内存解耦”架构,将解决Agentic AI推理带宽瓶颈

Odaily星球日报讯 Marvell Technology 宣布推出面向 AI 基础设施的新一代内存解决方案组合,覆盖服务器级 AI 存储、机架级 CXL 内存扩展与池化,以及多机柜光互联共享内存,旨在解决 Agentic AI 推理过程中日益增长的内存容量和带宽瓶颈。 Marvell 表示,随着 AI 模型规模扩大、上下文窗口延长以及 KV Cache 需求增长,传统计算与内存紧耦合架构正限制 AI 推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高 GPU 利用率并降低数据移动延迟。此次发布的产品包括: Bravera SC6 PCIe 6.0 SSD 控制器:面向 AI 推理存储场景,可帮助云服务商将更多 KV Cache 迁移至高性能 SSD,提升基础设施效率。该产品采用兼容多供应商 NAND 的架构,预计将于 2026 年第四季度开始送样。 Marvell Structera X 内存扩展方案:基于 CXL 技术,支持机架级内存扩展和资源池化,帮助数据中心更灵活地共享和调配内存资源,降低 AI 基础设施成本。 Marvell Photonic Fabric 光互联内存方案:通过光互联技术构建跨多机柜共享内存架构,可支持最高 32TB 温热 KV Cache 卸载,并帮助 AI 推理集群提升吞吐能力。 Marvell 表示,Photonic Fabric 方案可在现有数据中心空间和功耗限制下,实现最高 2 至 3 倍的 Token 吞吐提升,支持更大规模模型和更长上下文 AI 应用。 Marvell 高管 Will Chu 表示,AI 基础设施正在从单一服务器架构转向计算、内存和连接协同运行的系统,未来内存需要更加独立地扩展,以提升资源利用率和 Token 效率。 随着 AI Agent 和大模型推理需求持续增长,内存容量、带宽和数据传输效率正成为继算力之后 AI 基础设施竞争的新焦点。
免责声明:以上内容仅为作者观点,不代表 711BTC 的任何立场,不构成与 711BTC 相关的任何投资建议。

相关推荐

08-04 21:16

Marvell发布新一代AI内存基础设施方案组合提升Token效率

PANews 8月4日消息,数据基础设施半导体巨头Marvell Technology宣布推出面向AI基础设施的新一代内存解决方案组合,覆盖服务器级AI存储、机架级CXL内存扩展与池化,以及多机柜光互联共享内存,旨在解决Agentic AI推理过程中日益增长的内存容量和带宽瓶颈。 Marvell表示,随着AI模型规模扩大、上下文窗口延长以及KV Cache需求增长,传统计算与内存紧耦合架构正限制AI推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高GPU利用率并降低数据移动延迟。

08-03 21:43

Marvell拟推面向AI基础设施的内存与存储解决方案

Odaily星球日报讯 数据基础设施半导体厂商 Marvell Technology 宣布,将于 8 月 4 日至 6 日推出其面向 AI 基础设施的内存与存储解决方案。Marvell 表示,随着智能体 AI 推理规模扩大,内存容量、带宽和数据连接能力正变得与计算能力同等重要。更大规模模型、更长上下文窗口以及不断增长的 KV Cache 需求,正在推动 AI 系统对内存资源产生前所未有的需求。 该公司称,通过将数据进一步靠近计算单元并降低延迟,其 AI 内存和存储技术可帮助客户提升硬件利用率、提高 Token 处理效率,并在性能、功耗和成本之间实现更优平衡。随着 AI 模型规模持续扩大,传统“计算芯片优先”的架构正逐渐转向“计算、内存和互连协同优化”,包括 CXL、高速存储和光互连在内的新型基础设施,有望成为下一阶段 AI 数据中心扩容的重要技术方向。

08-03 21:46

Marvell将推出AI内存与存储方案,称内存正变得与计算同等重要

PANews 8月3日消息,数据基础设施半导体厂商Marvell宣布将于8月4至6日推出AI内存与存储方案。公司表示,AI推理规模扩大使内存容量、带宽和连接能力与计算同等重要,更大模型和KV Cache正驱动内存需求激增。新技术通过优化数据靠近计算,提升硬件效率,CXL、高速存储及光互连或成下一阶段数据中心扩容关键。

07-20 15:19

三星、SK hynix、Micron停止自研CXL控制器,转向外包方案

Odaily星球日报讯 Citrini 分析师 jukan 在 X 平台发文表示,全球三大存储芯片厂商已停止自研 Compute Express Link(CXL)控制器的开发,转而采用外部无晶圆厂公司设计的芯片。 三星电子、SK hynix 和 Micron 均已缩减或取消将 CXL 扩展设备控制器商业化的计划。Micron 已率先停止自研控制器研发,并采用 PrimeMass 的方案;SK hynix 也已通知主要合作伙伴,终止其内部 CXL 控制器开发项目,并将相关人员调整至 processing-in-memory(PIM)方向。三星电子则仅在研发团队内部使用自研 CXL 控制器进行研究,对外产品据称采购无晶圆厂供应商的控制器。业内人士表示,三星已将其自研控制器从正式商业化项目中移除,仅保留为前沿研发项目。

08-11 22:57

Oracle推出Fusion Agentic Applications与AI智能体

Odaily星球日报讯 Oracle 宣布推出面向人力资源领域的全新 Oracle Fusion Agentic Applications 和 AI 智能体,旨在帮助企业加速员工发展、优化人才决策,并更快响应不断变化的业务和技能需求。 Oracle 表示,新一代 Fusion Agentic Applications 由多个专业化 AI 智能体协同驱动,具备目标导向、自主推理和企业级执行能力,可通过安全访问企业统一数据、工作流、政策、权限体系及业务上下文,在 HR 流程中辅助企业制定并执行决策。 此次发布的 AI 能力基于 Oracle Cloud Infrastructure(OCI) 构建,并深度集成至 Oracle Fusion Cloud HCM 平台,覆盖岗位架构、学习发展、管理者辅导、员工成长、内部流动以及 workforce planning(劳动力规划)等多个领域。

08-01 03:07

Zhibao Technology完成1.547亿美元比特币出资私募融资,非美国投资者参投

Odaily星球日报讯 Zhibao Technology 宣布已与非美国投资者达成一项 1.547 亿美元比特币出资私募融资,融资规模为 2380 枚 BTC。该公司为中国上市公司。