Marvell发布新一代AI内存基础设施方案组合提升Token效率
相关推荐
Marvell推出AI“内存解耦”架构,将解决Agentic AI推理带宽瓶颈
Odaily星球日报讯 Marvell Technology 宣布推出面向 AI 基础设施的新一代内存解决方案组合,覆盖服务器级 AI 存储、机架级 CXL 内存扩展与池化,以及多机柜光互联共享内存,旨在解决 Agentic AI 推理过程中日益增长的内存容量和带宽瓶颈。 Marvell 表示,随着 AI 模型规模扩大、上下文窗口延长以及 KV Cache 需求增长,传统计算与内存紧耦合架构正限制 AI 推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高 GPU 利用率并降低数据移动延迟。此次发布的产品包括: Bravera SC6 PCIe 6.0 SSD 控制器:面向 AI 推理存储场景,可帮助云服务商将更多 KV Cache 迁移至高性能 SSD,提升基础设施效率。该产品采用兼容多供应商 NAND 的架构,预计将于 2026 年第四季度开始送样。 Marvell Structera X 内存扩展方案:基于 CXL 技术,支持机架级内存扩展和资源池化,帮助数据中心更灵活地共享和调配内存资源,降低 AI 基础设施成本。 Marvell Photonic Fabric 光互联内存方案:通过光互联技术构建跨多机柜共享内存架构,可支持最高 32TB 温热 KV Cache 卸载,并帮助 AI 推理集群提升吞吐能力。 Marvell 表示,Photonic Fabric 方案可在现有数据中心空间和功耗限制下,实现最高 2 至 3 倍的 Token 吞吐提升,支持更大规模模型和更长上下文 AI 应用。 Marvell 高管 Will Chu 表示,AI 基础设施正在从单一服务器架构转向计算、内存和连接协同运行的系统,未来内存需要更加独立地扩展,以提升资源利用率和 Token 效率。 随着 AI Agent 和大模型推理需求持续增长,内存容量、带宽和数据传输效率正成为继算力之后 AI 基础设施竞争的新焦点。
Marvell拟推面向AI基础设施的内存与存储解决方案
Odaily星球日报讯 数据基础设施半导体厂商 Marvell Technology 宣布,将于 8 月 4 日至 6 日推出其面向 AI 基础设施的内存与存储解决方案。Marvell 表示,随着智能体 AI 推理规模扩大,内存容量、带宽和数据连接能力正变得与计算能力同等重要。更大规模模型、更长上下文窗口以及不断增长的 KV Cache 需求,正在推动 AI 系统对内存资源产生前所未有的需求。 该公司称,通过将数据进一步靠近计算单元并降低延迟,其 AI 内存和存储技术可帮助客户提升硬件利用率、提高 Token 处理效率,并在性能、功耗和成本之间实现更优平衡。随着 AI 模型规模持续扩大,传统“计算芯片优先”的架构正逐渐转向“计算、内存和互连协同优化”,包括 CXL、高速存储和光互连在内的新型基础设施,有望成为下一阶段 AI 数据中心扩容的重要技术方向。
Marvell将推出AI内存与存储方案,称内存正变得与计算同等重要
PANews 8月3日消息,数据基础设施半导体厂商Marvell宣布将于8月4至6日推出AI内存与存储方案。公司表示,AI推理规模扩大使内存容量、带宽和连接能力与计算同等重要,更大模型和KV Cache正驱动内存需求激增。新技术通过优化数据靠近计算,提升硬件效率,CXL、高速存储及光互连或成下一阶段数据中心扩容关键。
UNCX 披露 Smart Token Vesting V2 跨链攻击事件,涉损约 80.76 万美元
PANews 10月17日消息,据 UNCX Network 官方事件报告披露,10 月 14 日攻击者利用 Smart Token Vesting V2 的一组公开 vesting 操作,制造池内代币余额与记录份额不一致,使受控仓位提取出超额代币。攻击波及 Ethereum、BNB Chain、Base 及 Robinhood 四条网络、10 种代币,共 11 笔确认提取交易,已核实经济价值约 807,609 美元,其中 BNB 链占约 56.75 万美元。涉事调用均未使用管理员权限。事件后白帽已返还 82,143,476 枚 X 代币及 23.8682 ETH,目前无重大代币待处置。
AI算力运营商KONST完成3000万美元B轮融资,ADATA Technology领投
Odaily星球日报讯 AI 算力运营商 KONST 完成 3000 万美元 B 轮融资,威刚科技(ADATA Technology))领投,M Mobility、Pegatron Venture Capital 等企业投资方战略参投,新资金将用于扩大旗下 AI 数据中心建设,并加速 Token 工厂战略。
OpenAI将GPT-6.1 Sol默认上下文长度提升至50万token
PANews 10月12日消息,OpenAI Codex负责人Tibo Sottiaux在X平台发帖称,通过Codex及ChatGPT Work使用GPT-6.1 Sol时,默认上下文长度已由27.2万token提升至50万token,增幅约80%,有助于减少上下文压缩(compaction)的发生,更适合需要长时间保留大量上下文的任务。用户仍可自行调整,GPT-6.1 Sol最大上下文长度为100万token。他表示,未来还将进一步提高默认上下文长度。