英伟达推出NVHBM定制高带宽内存:相比HBM4e带宽提升30%、功耗降低15%
相关推荐
Citrini观点:三星为三大存储厂首选,有望承接NVHBM超额需求
火星财经消息,10 月 18 日,Citrini 分析师 Jukan 发文称,在三大存储厂商中他最看好三星电子。因台积电还需为英伟达 Rubin、Rubin Ultra 分配晶圆产能,难以大量承接 NVHBM 订单,唯有自有代工能力的三星能满足 NVHBM 超额需求。 韩国媒体此前报道,应英伟达要求,三星已决定采用台积电 3 纳米工艺生产 NVHBM 底座芯片。三星未完全排除自有代工,正验证在 NVHBM 需求超出台积电产能时能否自产底座芯片。
三星电子将按英伟达要求采用TSMC 3nm工艺制造NVHBM基础裸片
Odaily星球日报讯 Citrini 分析师 jukan 在 X 平台发文表示,据韩国媒体报道,三星电子已决定应英伟达要求,采用 TSMC 3nm 工艺制造 NVHBM 基础裸片。三星电子尚未完全排除使用自有晶圆代工产线,并正在验证在 NVHBM 需求超过 TSMC 产能的情况下于内部生产基础裸片的可行性。
英伟达推出新一代高带宽内存技术NVIDIA NVHBM
为帮助超大规模企业和AI创新者构建新一代半定制AI基础架构,NVIDIA推出NVIDIA NVHBM技术,进一步扩展了NVIDIA NVLink Fusion技术方案。NVHBM是一种新一代高带宽内存技术,可为XPU提供更高的内存性能和效率。通过将内存控制器集成到3D HBM堆栈,而不是集成在XPU上,与标准HBM4E相比,NVHBM可实现高达30%的内存带宽提升,将HBM功耗降低15%,并为XPU计算die释放多达25%的面积。(财联社)
AI算力CPI:Token价格最近一周小幅下跌,整体上仍处低位
PANews 10月28日消息,据金十数据,截至10月27日,Token支出价格指数报0.94美元/百万Token,较七个自然日前下跌1.9%。与5月28日录得的阶段高点2.065美元/百万Token相比,该指数累计回落54.48%,较高点已下跌逾五成。指数持续处于低位,反映AI模型推理服务的单位Token价格较峰值明显下降,AI服务价格竞争与推理成本变化仍值得关注。
知情人士:长鑫存储拟量产HBM3E,良率仅20%至30%
PANews 10月28日消息,据路透社报道,两名知情人士透露,长鑫存储计划在未来两个月内开始小规模量产HBM3E高带宽内存,目前良率仅约20%至30%,SK海力士约为70%。长鑫已向多家国内AI芯片设计公司送样。测试中,其性能更接近SK海力士上一代产品HBM3。美国出口管制导致中国AI芯片企业高端内存短缺,华为、寒武纪等上月已将AI芯片提价20%至50%。长鑫的HBM3E成本预计高于海外同类产品。
芝商所计划与Silicon Data推出AI模型Token支出可交易指数产品
PANews 10月21日消息,据彭博社报道,芝商所集团(CME Group)拟于AI指数初创公司 Silicon Data 合作推出基于AI模型Token支出的可交易产品,相关产品将基于其大语言模型(LLM)Token指数,根据使用量对不同AI模型的Token价格进行加权。Silicon Data首席执行官Carmen Li表示,市场对GPU算力成本已有较充分的认知,但对AI经济中的消费层仍缺乏了解。 今年8月,双方曾宣布计划推出基于GPU租赁成本的期货产品。Silicon Data表示,新的Token指数产品计划于未来几个月推出,但仍需获得监管批准。