摩尔线程:MTT S系列智算卡支撑训练、推理及科学计算的算力需求
相关推荐
Cursor重排GPU流水线,MoE模型训练提速41%
据动察 Beating 监测,Cursor 开源 Mixture-of-Kittens(MoK),用于加速 MoE 大模型训练。它把原本分开的 GPU 数据传输和计算,合进一个 kernel(直接在 GPU 上运行的底层程序)。 MoE 会把模型拆成大量「专家」,每次只调用其中一部分。专家分散在不同 GPU 上,数据需要频繁搬运,有时会占掉一半以上的训练时间。 MoK 让 GPU 一边传数据,一边做计算,减少等待。在 512 块 GB300 GPU 的实际训练中,整体吞吐提高 41%。单独测试 MoE 层时,最高比公开方案快 2.37 倍。 MoK 已用于 Cursor 数万块 GPU 的 Composer 训练,并以 Apache 2.0 开源。目前只支持英伟达 Blackwell GPU,主要面向拥有 GB200、GB300 NVL72 集群的机构。
AMD发布全开源MoE大模型Instella-MoE,16B参数规模挑战主流开源模型
火星财经消息,7 月 25 日,AMD 宣布推出全开源混合专家模型(MoE)Instella-MoE,该模型拥有 160 亿总参数,每个 Token 激活 28 亿参数,号称在同规模开源语言模型中具备领先性能。 AMD 表示,Instella-MoE 完全基于自家 AMD Instinct MI300X 和 MI325X GPU,以及 ROCm 软件栈从零训练完成,并采用 Gated Multi-head Latent Attention(Gated MLA)和 FarSkip-Collective 等架构创新,以提升训练和推理效率。 性能测试显示,Instella-MoE-16B-A3B 基础模型平均得分达到 76.7 分,在全开源模型中排名领先,超过 SmolLM3-3B、OLMo-3-7B 等模型,并在仅激活 28 亿参数的情况下,与更大规模模型竞争。 此外,该模型支持 64K Token 长上下文处理,并完成预训练、中期训练、长上下文扩展、监督微调(SFT)、直接偏好优化(DPO)以及强化学习(RL)等完整训练流程。 AMD 此次同步公开 Instella-MoE 全部模型权重、训练配置、数据配比、中间检查点及推理代码,推动开放 AI 模型研究与复现。 AMD 表示,Instella-MoE 展示了基于 AMD 硬件和开放软件生态进行大规模 MoE 模型训练的能力,未来将继续推进更大规模、更强推理能力和更高效率的开源语言模型研发。
天数智芯WAIC发布新一代通用GPU旗舰天垓300,对标Hopper
火星财经消息 7月19日消息,2026世界人工智能大会期间,天数智芯正式推出新一代自研架构首款产品,通用GPU旗舰天垓300。能效对标并超越Hopper架构主流方案,面向“信息智能—行动智能—探索智能”三重趋势重构算力底座。产品基于SIMT架构,围绕Attention、MoE、AF/PD分离及大规模扩展优化,兼顾计算效率、时延与TCO。Agent场景首字延迟降约20%,Decode通信延迟降13%;Cosmos3世界模型推理效能亦超Hopper 10%。目前天垓300具备规模化应用条件,正与中国云厂、服务器厂及超节点系统深度适配,支持单机到集群部署。(广角观察)
美股盘前要闻一览:黄仁勋表态英伟达明年芯片销量翻倍,苹果拟重返服务器市场,Nebius将上调部分GPU算力价格
BlockBeats 消息,9 月 17 日,美股盘前市场重要新闻一览如下: 据 BIT(bit.com) 行情数据,美股三大股指期货集体走高。道琼斯指数期货涨 1.18%,标普 500 指数期货涨 1.26%,纳斯达克 100 指数期货涨 1.66%。 据 Bitget 行情数据,金银现货延续涨势。现货黄金价格涨 2.54%,报 4372.26 美元/盎司;现货白银价格涨 3.70%,报 65.29 美元/盎司。 黄仁勋刚刚表示:英伟达明年芯片销量将达到今年的两倍。英伟达 (NVDA.O) 盘前上涨 2.2%。 苹果考虑重返服务器市场,并已与英伟达就使用网络技术进行洽谈。计划推出的服务器预计将于 2029 年上市,目标市场为人工智能推理领域。 AI 算力租赁商 Nebius 拟于 10 月 1 日起上调部分 GPU 算力价格,涨幅约 20%。受此提振,Nebius 盘前涨近 10%,甲骨文涨近 3%,亚马逊、微软、谷歌等跟涨。 英特尔 CEO 表示,目前公司的 CPU 供货量仅能满足客户需求的 50%。他同时透露,英特尔 18A 节点已进入量产,14A 节点将于明年一季度投产。 诺和诺德将与 AI 公司 Anthropic 合作,使用其面向科学研究的 Claude Science 平台加快新药研发进程,有望将原本需一世纪的医学突破压缩到十年内实现。 美国国际贸易委员会当地时间 9 月 16 日宣布,已对某些配备特定音频技术的电子设备展开专利侵权调查。调查对象包括三星电子及其美国子公司、苹果和谷歌。 马斯克称,他已住进一辆房车里,亲身参与 SpaceX 位于孟菲斯的数据中心 Colossus 项目。SpaceX 现已将算力租赁业务推广至谷歌和 Anthropic。 阿波罗资管考虑把给软银的贷款规模从 54 亿美元增加到 90 亿美元,助力其加码投资 OpenAI。
Serenity:对传统以及成熟制程存储器极为看涨,涨价幅度将远超GPU租赁与MLCC
BlockBeats 消息,9 月 17 日,Serenity 发文表示,对传统以及成熟制程存储器极为看涨,其涨价幅度远超当日 Nebius 公布的 GPU 租赁涨价(+17%-21%)以及太阳诱电、村田等 MLCC 电容涨价。Serenity 预估半年或三季度预计涨幅:SLC NAND 下半年较上半年再涨 120%-170%,高容量 NOR Flash 再涨 90%-110%,DDR3/DDR4 约涨 50%,DDR2 三季度涨 35%-40%,LPDDR 三季度涨 20% 或更多,DDR1、更老的 LPDDR 及 PSRAM 也在上涨。这些涨幅是叠加上半年已经发生的涨价之后的进一步上行。 Serenity 强调,SLC NAND 上半年已涨 130%-150%,因此 2026 全年累计涨幅可能达到 406%-575%。这种售价暴涨对毛利和净利的拉动将超过上游晶圆成本上涨的影响,例如力积电 DRAM 晶圆涨约 45%,因此预计多家做传统存储器的无晶圆厂公司三季度财报会非常好看。
GPU租赁最高涨21%,云计算服务提供商Nebius盘前涨超9%
Odaily星球日报讯 根据 MSX.COM 数据,云计算服务提供商 Nebius 美股盘前进一步涨超 9%。 Nebius 此前宣布,自 10 月 1 日起上调多项按需计算资源价格,其中最新英伟达 GPU 涨幅最大。新价格下,H100 由 3.85 美元/GPU 小时升至 4.50 美元/GPU 小时,涨幅约 17%;H200 由 4.50 美元升至 5.40 美元,涨幅 20%;B200 由 7.15 美元升至 8.50 美元,涨幅近 19%;英伟达 B300 绝对涨幅最大,由 7.85 美元升至 9.50 美元/GPU 小时,涨幅约 21%。提价也涉及纯 CPU 计算。AMD EPYC Genoa CPU 费率由 0.012 美元/vCPU 小时上调 25%至 0.015 美元;Genoa 内存由 0.0032 美元/GiB 小时上调约 41%至 0.0045 美元。