AI 芯片公司 Groq 拟在下一代芯片引入三维堆叠 DRAM
相关推荐
英伟达宣布 Groq 机架全面量产,将部署于 Nebius
火星财经消息,英伟达高级总监 Dion Harris 当地时间周一宣布,Groq 3 LPX 机架已进入全面量产阶段,并将部署在新型云服务商 Nebius 的数据中心,预计今年晚些时候上线。此举标志着英伟达去年 12 月与 Groq 达成约 200 亿美元技术授权交易后所获技术正式实现商业化,多位 Groq 核心员工已加入英伟达,创始人 Jonathan Ross 担任英伟达首席软件架构师。英伟达正加速生产 Groq 芯片并向客户提供产品,凸显低延迟推理的重要性。今年 3 月发布的 Groq 3 LPX 为 Vera Rubin 平台推理加速器,架构在芯片裸片上集成 500 兆字节高速 SRAM,以减少内存瓶颈。每个 LPX 机架可整合 256 颗 Groq 3,英伟达援引基准测试称每秒可处理 3400 个 token;该芯片由三星制造。Harris 表示,低延迟芯片并非取代 GPU,而是针对工作负载不同环节使用合适处理器,云服务商可对延迟敏感用户提供更高收费套餐。英伟达 CEO 黄仁勋计划将面向编程应用的数据中心空间约四分之一分配给 Groq 芯片,其余部分采用 Vera Rubin 系统,并预计到 2027 年 Blackwell 与 Vera Rubin 累计销售额达 1 万亿美元。
三星电子调整下一代 DRAM 路线图,将 B1b 命名为 D0a
ChainCatcher 消息,据 ZDNet Korea 报道,三星电子调整下一代 DRAM 战略,将此前以项目形式开发的 B1b 纳入正式路线图,并命名为首款 10 纳米以下 DRAM D0a。此前 D0a 指垂直晶体管 DRAM,现该产品被单独归类为 D0a-V。此次更名是为加快在通用 DRAM 中导入先进封装。B1b 将存储单元与周边驱动电路分别在不同晶圆上制造后再键合,采用晶圆对晶圆混合键合,通过铜互连直接连接。目前已商用 DRAM 为 1c,即第 6 代 10 纳米级、线宽约 11 至 12 纳米;下一代 1d 为第 7 代 10 纳米级、线宽约 10 至 11 纳米,被视为事实上最后的 10 纳米级产品,相关线宽属于营销用语而非实际物理尺寸。垂直晶体管可将单元内晶体管垂直布置,把单元面积从 6F² 缩至 4F²,但需应对高深宽比刻蚀和漏电流,开发难度较高。晶圆对晶圆混合键合已在 CMOS 图像传感器和高堆叠 NAND 中量产应用。三星电子正评估将 B1b 用于第 8 代高带宽内存 HBM5。HBM5 预计约 2029 年量产,目标是较 HBM4E 将运行速度提高 50% 以上。业界估计,基于 B1b 的 D0a DRAM 最快约两年后商用,具体量产投资日程或于明年年中确定。
英伟达200亿美元没白花:Groq芯片正式量产
动察 Beating AI 快讯,英伟达 Groq 3 LPX 已进入全面量产。去年 12 月,英伟达花约 200 亿美元拿下 Groq 技术授权,并挖走创始人 Jonathan Ross 等核心团队。8 个月后,这笔交易的第一款硬件正式落地。 Groq 3 LPX 是一套专门加速大模型推理的系统,里面用了 256 颗 Groq 3 LPU 芯片。在 Artificial Analysis 测试中,Gemma 4 31B 输入 10 万 Token 后,Groq 3 LPX 跑到每秒 3431 个输出 Token。同一测试下,当时市面上可公开调用的最快 API 只有约 870 个,Groq 3 LPX 接近 4 倍。 实际部署时,Rubin GPU 负责更重的计算,Groq 3 LPX 专门提高 Token 生成速度。对 Coding Agent 来说,连续几十、几百次调用模型时,可以明显减少等模型「吐字」的时间。 Nebius 将成为首家采用 Groq 3 LPX 的 AI 云厂商。更有意思的是,Groq 自己也成了首批采用者之一,还会与 Dell 一起部署。去年把技术授权给英伟达,今年又开始用英伟达做出来的「Groq」。
Groq估值腰斩至35亿美元,英伟达反手参投
据动察 Beating 监测,Groq 又融了 3.5 亿美元,估值 35 亿美元,由 Disruptive 领投,英伟达计划参投。它 6 月才拿到 6.5 亿美元,两个月合计融资 10 亿美元。 比较有戏剧性的是估值。Groq 去年 9 月融资时还值 69 亿美元。随后英伟达获得 Groq 推理技术授权,创始人 Jonathan Ross、总裁 Sunny Madra 等核心成员加入英伟达。现在 Groq 的融资估值已经降到接近一半。 Groq 的方向也彻底变了。它现在主攻 AI 推理云,并成为英伟达认证云伙伴。公司准备把数据中心容量从 54MW 扩到 2027 年的 200MW 以上,新资金也会支持英伟达加速计算集群。昔日的芯片挑战者,现在同时成了英伟达的客户、合作伙伴和被投公司。
君正股份:三季度DRAM持续涨价且需求坚挺供应紧张 预估四季度涨价将持续
火星财经消息,君正股份(300223.SZ)发布投资者关系活动记录表公告,三季度DRAM持续涨价且需求坚挺供应紧张,预估四季度涨价将持续;SRAM及Flash部分产品三、四季度陆续涨价,受AI服务器需求增长影响大容量512MbFlash供应开始紧张。今年全年存储芯片销量预计增长20%左右,明年下半年有望落地新产能资源。3D堆叠DRAM主要面向端侧AI的应用,目前正与端侧芯片算力公司积极配合。(财联社)
三星制定“三阶段HBM路线图”:迈向真正的3D ZHBM,将DRAM直接堆叠在计算芯片上
火星财经消息 8月24日,近日,在Hot Chips技术大会上,三星DRAM设计团队的Sangwook Han发表演讲,正式披露三星HBM演进的三阶段路线图。这一路线图的终点,是一种名为zHBM的全新架构——将DRAM直接垂直堆叠在GPU、TPU等计算芯片之上,彻底取消2.5D中介层(interposer)。据报道,三星方面表示,相较于标准HBM4E,zHBM方案宣称可实现70%的功耗降低、230%的DRAM带宽提升,以及每个DRAM模组节省100W功耗,同时为GPU释放8.3%的额外功率空间。(华尔街见闻)