711BTC加密货币世界的 7*24 便利店
返回 7*24 快讯
来源MarsBit

Cursor重排GPU流水线，MoE模型训练提速41%

据动察 Beating 监测，Cursor 开源 Mixture-of-Kittens（MoK），用于加速 MoE 大模型训练。它把原本分开的 GPU 数据传输和计算，合进一个 kernel（直接在 GPU 上运行的底层程序）。 MoE 会把模型拆成大量「专家」，每次只调用其中一部分。专家分散在不同 GPU 上，数据需要频繁搬运，有时会占掉一半以上的训练时间。 MoK 让 GPU 一边传数据，一边做计算，减少等待。在 512 块 GB300 GPU 的实际训练中，整体吞吐提高 41%。单独测试 MoE 层时，最高比公开方案快 2.37 倍。 MoK 已用于 Cursor 数万块 GPU 的 Composer 训练，并以 Apache 2.0 开源。目前只支持英伟达 Blackwell GPU，主要面向拥有 GB200、GB300 NVL72 集群的机构。
免责声明：以上内容仅为作者观点，不代表 711BTC 的任何立场，不构成与 711BTC 相关的任何投资建议。

相关行情

加密货币行情 ›BTCETHBNBXRPSOL

相关推荐

08-12 13:27

Grok 4.6发布进入倒计时：官网开关已经埋好，Cursor也提前泄露

据动察 Beating 监测，Grok 4.6 看起来已经离正式发布不远。开发者发现，Grok 官网前端已经出现 enable_grok_4_6_announcement 功能开关。目前状态仍为 false，说明相关发布入口已经预留，但还没有正式开启。 此前 Grok 4.6 曾短暂出现在 Cursor 的模型列表中，随后又被撤下。页面显示它提供 256K 上下文，并面向复杂、长时间运行的 Agent 编程任务。不过 Cursor 和 SpaceXAI 都还没有正式宣布上线。

08-11 09:08

Cursor提前泄漏Grok 4.6，马斯克称本周上线

据动察 Beating 监测，尚未正式发布的 Grok 4.6，今天短暂出现在 Cursor 模型列表。页面将它标为「Cursor Grok 4.6 Fast」。它主要面向复杂、长时间运行的 Agent 编程任务。界面还显示 256K 上下文和 high effort 模式。 但模型选中后无法调用。这更像一次提前露出，并非正式上线。 马斯克此前称，Grok 4.6 是 1.5 万亿参数模型。升级重点是监督微调和强化学习。他最初预告 8 月 7 日左右发布，之后在 SpaceX 首次财报会议上又改称可能在本周上线。

08-09 10:18

SpaceX最快下周完成对Cursor的收购，Cursor品牌可能就此淡出

据动察 Beating 监测，Cursor 在内部全员会上透露，SpaceX 对公司的 600 亿美元收购最快可能在下周完成，最晚预计本月底交割。 收购完成后，Cursor 不会继续作为独立团队存在，而是并入 SpaceXAI。Cursor 品牌也可能逐步淡出，新产品未来可能改用 Grok 或其他名字。正在开发的通用 Agent「Sand」就可能改名为「Grok Bot」。现有 Cursor 编程助手暂时不会改名。

07-25 11:18

AMD发布全开源MoE大模型Instella-MoE，16B参数规模挑战主流开源模型

火星财经消息，7 月 25 日，AMD 宣布推出全开源混合专家模型（MoE）Instella-MoE，该模型拥有 160 亿总参数，每个 Token 激活 28 亿参数，号称在同规模开源语言模型中具备领先性能。 AMD 表示，Instella-MoE 完全基于自家 AMD Instinct MI300X 和 MI325X GPU，以及 ROCm 软件栈从零训练完成，并采用 Gated Multi-head Latent Attention（Gated MLA）和 FarSkip-Collective 等架构创新，以提升训练和推理效率。 性能测试显示，Instella-MoE-16B-A3B 基础模型平均得分达到 76.7 分，在全开源模型中排名领先，超过 SmolLM3-3B、OLMo-3-7B 等模型，并在仅激活 28 亿参数的情况下，与更大规模模型竞争。 此外，该模型支持 64K Token 长上下文处理，并完成预训练、中期训练、长上下文扩展、监督微调（SFT）、直接偏好优化（DPO）以及强化学习（RL）等完整训练流程。 AMD 此次同步公开 Instella-MoE 全部模型权重、训练配置、数据配比、中间检查点及推理代码，推动开放 AI 模型研究与复现。 AMD 表示，Instella-MoE 展示了基于 AMD 硬件和开放软件生态进行大规模 MoE 模型训练的能力，未来将继续推进更大规模、更强推理能力和更高效率的开源语言模型研发。

07-24 09:26

微软自研模型加速替代OpenAI，GPU成本最高降89%

据动察 Beating 监测，微软 AI 开放 MAI-Image-2.5-Pro 和 MAI-Voice-2-Flash。前者主打高质量生图和图片编辑，后者面向客服和语音 Agent，速度是普通版的 2 倍，价格低 32%。 微软自研模型也已进入 Bing、PowerPoint、OneDrive 和 Dynamics 365。PowerPoint 的 GPU 成本较 GPT-Image-2 最多降低 84%，Dynamics 365 最多降低 89%。

07-23 12:11

Cursor自动挑模型：满意度接近Fable，成本低60%

据动察 Beating 监测，Cursor 推出 Cursor Router，面向 Teams 和 Enterprise 自动选择编程模型。它会先判断任务类型和难度，再决定调用便宜模型还是前沿模型。 Router 使用超过 60 万次真实请求训练，并在数百万次请求中测试。Auto Intelligence 的用户满意度接近 Fable，成本低约 60%。Auto Balance 的满意度高于 Opus 4.8，成本低约 36%。 Cursor 没有公布完整模型池，也不会默认显示每次调用了哪个模型。官方只确认，Router 会按任务类型分配模型，例如把界面设计交给更擅长视觉的模型，把复杂长任务交给推理能力更强的模型。