返回 7*24 快讯
来源PANews

Marvell发布新一代AI内存基础设施方案组合提升Token效率

PANews 8月4日消息,数据基础设施半导体巨头Marvell Technology宣布推出面向AI基础设施的新一代内存解决方案组合,覆盖服务器级AI存储、机架级CXL内存扩展与池化,以及多机柜光互联共享内存,旨在解决Agentic AI推理过程中日益增长的内存容量和带宽瓶颈。 Marvell表示,随着AI模型规模扩大、上下文窗口延长以及KV Cache需求增长,传统计算与内存紧耦合架构正限制AI推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高GPU利用率并降低数据移动延迟。
免责声明:以上内容仅为作者观点,不代表 711BTC 的任何立场,不构成与 711BTC 相关的任何投资建议。

相关推荐

08-04 21:17

Marvell推出AI“内存解耦”架构,将解决Agentic AI推理带宽瓶颈

Odaily星球日报讯 Marvell Technology 宣布推出面向 AI 基础设施的新一代内存解决方案组合,覆盖服务器级 AI 存储、机架级 CXL 内存扩展与池化,以及多机柜光互联共享内存,旨在解决 Agentic AI 推理过程中日益增长的内存容量和带宽瓶颈。 Marvell 表示,随着 AI 模型规模扩大、上下文窗口延长以及 KV Cache 需求增长,传统计算与内存紧耦合架构正限制 AI 推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高 GPU 利用率并降低数据移动延迟。此次发布的产品包括: Bravera SC6 PCIe 6.0 SSD 控制器:面向 AI 推理存储场景,可帮助云服务商将更多 KV Cache 迁移至高性能 SSD,提升基础设施效率。该产品采用兼容多供应商 NAND 的架构,预计将于 2026 年第四季度开始送样。 Marvell Structera X 内存扩展方案:基于 CXL 技术,支持机架级内存扩展和资源池化,帮助数据中心更灵活地共享和调配内存资源,降低 AI 基础设施成本。 Marvell Photonic Fabric 光互联内存方案:通过光互联技术构建跨多机柜共享内存架构,可支持最高 32TB 温热 KV Cache 卸载,并帮助 AI 推理集群提升吞吐能力。 Marvell 表示,Photonic Fabric 方案可在现有数据中心空间和功耗限制下,实现最高 2 至 3 倍的 Token 吞吐提升,支持更大规模模型和更长上下文 AI 应用。 Marvell 高管 Will Chu 表示,AI 基础设施正在从单一服务器架构转向计算、内存和连接协同运行的系统,未来内存需要更加独立地扩展,以提升资源利用率和 Token 效率。 随着 AI Agent 和大模型推理需求持续增长,内存容量、带宽和数据传输效率正成为继算力之后 AI 基础设施竞争的新焦点。

08-03 21:43

Marvell拟推面向AI基础设施的内存与存储解决方案

Odaily星球日报讯 数据基础设施半导体厂商 Marvell Technology 宣布,将于 8 月 4 日至 6 日推出其面向 AI 基础设施的内存与存储解决方案。Marvell 表示,随着智能体 AI 推理规模扩大,内存容量、带宽和数据连接能力正变得与计算能力同等重要。更大规模模型、更长上下文窗口以及不断增长的 KV Cache 需求,正在推动 AI 系统对内存资源产生前所未有的需求。 该公司称,通过将数据进一步靠近计算单元并降低延迟,其 AI 内存和存储技术可帮助客户提升硬件利用率、提高 Token 处理效率,并在性能、功耗和成本之间实现更优平衡。随着 AI 模型规模持续扩大,传统“计算芯片优先”的架构正逐渐转向“计算、内存和互连协同优化”,包括 CXL、高速存储和光互连在内的新型基础设施,有望成为下一阶段 AI 数据中心扩容的重要技术方向。

08-03 21:46

Marvell将推出AI内存与存储方案,称内存正变得与计算同等重要

PANews 8月3日消息,数据基础设施半导体厂商Marvell宣布将于8月4至6日推出AI内存与存储方案。公司表示,AI推理规模扩大使内存容量、带宽和连接能力与计算同等重要,更大模型和KV Cache正驱动内存需求激增。新技术通过优化数据靠近计算,提升硬件效率,CXL、高速存储及光互连或成下一阶段数据中心扩容关键。

07-29 20:48重要

Token价格延续跌势,刷新4个月新低

PANews 7月29日消息,Token支出价格指数进一步跌至1.4288,延续5月末以来下行趋势,继续刷新3月初以来新低,暗示AI企业烧钱速度持续放缓。该指标目前已经从年内高点下跌了31%,但与去年底相比,暂时还保留15%左右的涨幅。 注:出售Token是目前AI产业的重要变现源头,其价格是衡量目前算力供需状况的信号之一,若Token价格保持在高位,云服务商就有动力增购更多GPU、DRAM内存并扩建数据中心,反之就要小心AI企业“消费降级”,成为本轮硬件狂欢周期结束的领先指标。Token价格数据来源于OpenAI、Anthropic、DeepSeek等全球顶尖AI模型。

07-24 09:32

BTC财库公司KULR Technology再次减仓145.8枚BTC,其储备仅剩100枚

PANews 7月24日消息,据链上分析师余烬监测,BTC财库公司KULR Technology在5小时前将145.8枚BTC(945万美元)转入Coinbase Prime。经过近3个月多次减仓,其储备的1021枚BTC(1.01亿美元)仅剩100枚(647万美元)。BTC储备均价98923美元,减仓均价74368美元,亏损2262万美元。其似乎已放弃比特币财库战略。

07-23 16:47

北京:鼓励发展Token(词元)经济,加大算力券等支持力度

PANews 7月23日消息,北京市发展改革委等部门联合印发《北京市关于加快智能体引领发展的若干措施》,推动智能体创新引领发展,率先培育智能经济新形态。鼓励发展Token(词元)经济。推动创新主体研发适配智能体系统调用、复杂任务调度与高频决策的通用处理器,开发低延迟、高吞吐专用推理芯片。推动创新主体开展推理架构等关键技术攻关,通过异构协同、存算协同以及智能调度等降低推理成本,加快推理缓存复用、智能任务路由等应用层效率优化,全链路优化提高Token效率。