SemiAnalysis:三星目前拥有最好的HBM4技术,海力士和美光面临挑战
相关推荐
SemiAnalysis:Nvidia Rubin Ultra 将搭载 192GB HBM4,容量大幅下调
ChainCatcher 消息,SemiAnalysis 发文称,Nvidia Rubin Ultra 将搭载 192GB 的 HBM4 8-hi 内存。这不仅较最初预览的 1TB HBM 出现大幅下调,甚至低于常规版 Rubin 的 288GB 容量。HBM 配置被削减至原先约五分之一的原因包括:四裸片 Rubin Ultra 方案取消后,cube 数量减至 8 个;堆叠高度由 16-hi 降至 8-hi;并采用使用 24Gb 裸片的 HBM4,而非 32Gb 裸片的 HBM4E。后续或推出 8-hi HBM4E 升级版本。
谷歌云与英伟达开放 NVIDIA Vera Rubin 基础设施
火星财经消息,谷歌云与英伟达宣布,NVIDIA Vera Rubin 基础设施正式全面开放使用。
SemiAnalysis 今年营收预计超 1 亿美元
火星财经消息,据 Substrate 9 月 18 日报道,半导体与 AI 基础设施研究机构 SemiAnalysis 今年营收预计超过 1 亿美元,员工规模约 100 人。其创始人 Dylan Patel 于 2020 年以 WordPress 博客起步,2023 年营收达到七位数,订阅收入不到总营收的 5%,绝大部分来自数据模型、机构研究产品 Core Research 与咨询业务。目前公司拥有 12 个模型,覆盖网络、晶圆厂设备、代工、能源等领域,分析师约 50 人。SemiAnalysis 的客户涵盖全球多数大型科技公司,Nvidia 首席执行官黄仁勋、AMD 首席执行官苏姿丰、Meta 首席执行官扎克伯格、微软首席执行官纳德拉及 OpenAI 首席执行官奥特曼均为其读者。其 CoWoS 与 HBM 供应链模型曾预测 Nvidia 每季度出货 40 万颗 H100,OpenAI 在 Hot Chips 发布自研芯片 Jalapeño 时采用其 InferenceX 作为第三方基准。Dylan Patel 近期募集了 5 亿美元的 SemiAnalysis Capital Fund I,用于早期初创投资。公司计划向能源领域扩张,分析师将实地接触不同电网与公用事业相关方。
消息称英伟达Rubin Ultra芯片拟改用8层HBM
火星财经消息,据业界消息,英伟达正考虑将下一代Rubin Ultra人工智能加速器的高带宽内存(HBM)方案,从此前的12层堆叠调整为8层。在存储成本不断上涨的背景下,英伟达更加重视单位带宽成本以及整机系统的经济性。 (台湾电子时报)
英伟达推出新一代高带宽内存技术NVIDIA NVHBM
为帮助超大规模企业和AI创新者构建新一代半定制AI基础架构,NVIDIA推出NVIDIA NVHBM技术,进一步扩展了NVIDIA NVLink Fusion技术方案。NVHBM是一种新一代高带宽内存技术,可为XPU提供更高的内存性能和效率。通过将内存控制器集成到3D HBM堆栈,而不是集成在XPU上,与标准HBM4E相比,NVHBM可实现高达30%的内存带宽提升,将HBM功耗降低15%,并为XPU计算die释放多达25%的面积。(财联社)
Citrini分析师:Rubin Ultra下调HBM堆叠层数未必利空,或扩大HBM总需求
火星财经消息,8 月 30 日,Citrini 分析师 Jukan 发文表示,据其消息来源,英伟达 Rubin Ultra 所采用的 HBM 规格可能由 12 层 HBM4E 下调至 8 层,OpenAI 和 Anthropic 等客户甚至曾要求采用 4 层产品,但遭存储厂商拒绝,目前降规可能止步于 8 层。其认为,降规主要源于良率及成本压力:若采用 12 层 HBM4E 并计入涨价,内存成本可能占 Rubin Ultra 整体物料成本的约 70%。 模型量化、MLA 以及计算任务拆分等软件优化,正将低频访问的 KV 缓存和模型状态转移至 LPDDR、CXL 及 NAND,HBM 主要保留当前计算所需的工作集。因此,在满足最低容量后,客户对 HBM 带宽的重视程度开始超过容量。 其认为,降低堆叠层数可提高封装良率、增加 HBM 及 AI 加速器出货量,反而可能扩大 HBM 总需求;更高带宽要求还会降低晶圆中通过速度分档的芯片比例,进一步消耗 DRAM 晶圆产能。长期来看,HBM 终将被新架构替代,最终方向可能是存储与逻辑芯片融合,未来两年将成为存储厂商能否向逻辑领域扩张的关键阶段。