英伟达推出Confidential Bare Metal 扩展AI模型与数据机密计算保护
相关推荐
英伟达AI服务器或涨价超15%,Vera Rubin、Grace Blackwell均受影响
Odaily星球日报讯 英伟达部分大型客户已收到通知,受内存芯片成本持续上涨影响,搭载其 AI 芯片的服务器价格在多数情况下将上涨 15% 以上,涨价预计适用于 2027 年初开始出货的系统,涉及 Vera Rubin、Grace Blackwell 等产品。具体涨幅将取决于芯片代际和内存配置。为微软、Google、Oracle 等大型数据中心运营商代工服务器的厂商近期已向客户通知相关涨价。(BloomBerg)
英伟达:CoreWeave已将Vera Rubin NVL72投入生产 Cognition测试Token吞吐量提升4.8倍
火星财经消息,英伟达表示,AI云服务商CoreWeave已将英伟达Vera Rubin NVL72投入生产,并向客户提供相关云服务,AI软件公司Cognition成为首个在Vera Rubin上运行生产工作负载的客户。Cognition早期测试显示,Vera Rubin NVL72在实际软件工程AI推理任务中的总Token吞吐量最高达到英伟达GB200 NVL72的4.8倍。此外,CoreWeave测试显示,搭载英伟达Vera CPU的AI代理沙箱启动速度提升超过3倍。(财联社)
超微电脑开始出货,搭载英伟达 Vera Rubin NVL72 系统
火星财经消息,超微电脑现已开始出货,搭载英伟达 Vera Rubin NVL72 的机架系统。
英伟达 Grace Blackwell 出货量环比增长 27%
ChainCatcher 消息,9 月 11 日,据报道,英伟达 Grace Blackwell 平台出货量近期环比增长 27%,反映云服务商和 AI 基础设施企业对高端 AI 计算芯片的需求仍然旺盛。英伟达此前曾表示,Blackwell 产品需求超过供应能力。
英伟达新平台Rubin性能预期升温,但Kyber机柜被曝将推至2028年
火星财经消息,9 月 15 日,TMT Breakout 在最新晨报中援引 SemiAnalysis 报告内容称,英伟达 Vera Rubin 平台在预发布测试中的单位电力 Token 吞吐量,最高或可达到 Blackwell 的约 7 倍。即使 Rubin 的单芯片小时租赁成本高于 Blackwell Ultra,在 80 TPS、P90 延迟的推理场景下,其三年租赁总成本对应的 Token 产出仍可能高出约 62%,高交互工作负载下的优势或将进一步扩大。 不过,性能预期升温的同时,Rubin Ultra 的系统级交付节奏也出现新的变量。原计划承载 144 颗 Rubin Ultra GPU 的 Kyber NVL144 机柜,可能因 PCB 中板制造难题较原定 2027 年节点延后超过 12 个月,推至 2028 年;作为替代方案的 NVL72x2 据称也已被取消。 这一风险将主要落在高密度机柜、NVLink 互连和大规模系统集成环节。即便 Rubin 芯片本身能够如期推进,云厂商在 2027 年获得 144 卡级别规模扩展能力的节奏仍可能受到限制,AI 基础设施投资也将更依赖现有 Oberon 架构等替代方案。 英伟达针对相关报道仅回应称「产品路线图保持不变」,尚未确认 Kyber 延期或整体 Rubin Ultra 时间表调整。
英伟达 Vera Rubin 平台内存成本占比升至 62%,SOCAMM2 成主要驱动
火星财经消息,据瑞银对 Vera Rubin 超芯片物料清单(BOM)的分析,内存半导体在该平台总成本中的占比已升至约 62 %,较上一代 Blackwell Ultra(GB300)的 53 % 大幅提升。Vera Rubin 超芯片(含 1 颗 Vera CPU 和 2 颗 Rubin GPU)总成本约 38,902 美元,其中内存相关成本达 24,297 美元。HBM4 成本约 4,943 美元(占总成本 12.7 %),而连接 CPU 的 SOCAMM2 成本约 19,355 美元(占总成本 49.8 %),成为内存成本上升的核心驱动。SOCAMM2 是基于低功耗 DRAM LPDDR5X 的服务器内存模组,支持单 CPU 最高 1.5TB 容量。Vera Rubin NVL72 机柜(含 72 颗 Rubin GPU 和 36 颗 Vera CPU)共搭载 74.7TB DRAM,其中 HBM4 为 20.7TB,CPU 用 LPDDR5X 达 54TB,单机柜的 LPDDR 用量相当于约 4,500 部高端智能手机。不过,受 LPDDR5X 及 HBM4E 供应不确定性影响,英伟达正考虑下调下一代 Rubin Ultra 的 HBM 配置。