阿布扎比IFM开源6档K2 Horizon模型：0.9B到375B全覆盖
相关推荐
FreeToken开源：一张5090跑DeepSeek-V4-Flash，最高25 Token/s
动察 Beating AI 快讯，伯克利、MIT 等研究者开源 FreeToken。这是一个专门为本地设备设计的 MoE（混合专家模型）推理引擎，主要解决超大模型显存装不下的问题。它会把部分权重放在系统内存，并让 CPU 和 GPU 一起参与推理。 FreeToken 会把模型的大量专家权重放在系统内存，只把一部分缓存在显存。遇到显存里没有的专家时，它会根据 PCIe 和 CPU 内存带宽，动态决定是把权重搬到 GPU，还是直接交给 CPU 计算。这样 CPU、GPU、系统内存和 PCIe 可以一起参与推理。 论文实测，一台配备 RTX 5090 的游戏台式机运行 284B 参数的 DeepSeek-V4-Flash，可以达到 22–25 Token/s。这款模型每生成一个 Token 实际只激活约 13B 参数，因此特别适合这种 CPU、GPU 混合推理。 FreeToken 还在 8GB 显存的 RTX 4060 笔记本上把 35B 模型跑到 39.3 Token/s；单张 96GB RTX PRO 6000 则可以运行 753B 参数的 GLM-5.2，速度达到 llama.cpp 的约两倍。项目目前支持超过 20 款 MoE 模型，并已采用 Apache 2.0 许可证开源。
腾讯混元3.0正式版开源：换用Apache 2.0扫清出海限制，幻觉率减半
据动察 Beating 监测，腾讯正式发布了 295B 参数的混元 3.0（Hy3）混合专家模型（MoE）正式版。最核心的变化是，开源许可证换成了最宽松的 Apache 2.0，废除了此前禁止欧盟、英国和韩国使用的地域条款。 今年 4 月预览版刚发布时，因为严格的地域限制和 1 亿月活商用红线，许多出海或跨国团队只能望而却步。正式版则扫清了所有合规障碍，还针对落地难题做了硬核调优：它融合了快慢思考机制，并塞入一个 3.8B 参数的多 Token 预测（MTP）层做并行生成，有效拉低了推理延迟。经过细粒度数据清洗与训练约束，正式版把大模型胡说八道的幻觉率从 12.5% 压到了 5.4%，多轮交互测试的出错率也从 17.4% 砍到了 7.9%。 针对智能体开发时工具调用容易跑偏的顽疾，混元 3.0 也做了定向补强。无论是在 Cline 还是 CodeBuddy 等主流脚手架里，跨框架的工具调用准确率波动都被压在 4% 以内，输出更稳定。官方同步发布的 FP8 量化版本，也把本地部署和微调的显存门槛降了下来。
Hy4 preview优化「想太多」：复杂任务轮次和Token消耗双降
动察 Beating AI 快讯，腾讯混元和 WorkBuddy 给 Hy4 preview 做了一轮专项优化，已经在 WorkBuddy 全量上线。官方称，这次主要针对复杂任务里的长思考和过度自我验证，在不损失任务效果的前提下，显著减少任务轮次和输入、输出 token 消耗。 Hy4 preview 是腾讯 8 月底发布的开源旗舰 MoE，总参数 770B、激活参数 49B，支持 1M 上下文，重点面向代码、办公和科研等长任务。腾讯发布时就主动把「复杂任务长思考、过度自我验证」列为已知问题。
Cursor重排GPU流水线，MoE模型训练提速41%
据动察 Beating 监测，Cursor 开源 Mixture-of-Kittens（MoK），用于加速 MoE 大模型训练。它把原本分开的 GPU 数据传输和计算，合进一个 kernel（直接在 GPU 上运行的底层程序）。 MoE 会把模型拆成大量「专家」，每次只调用其中一部分。专家分散在不同 GPU 上，数据需要频繁搬运，有时会占掉一半以上的训练时间。 MoK 让 GPU 一边传数据，一边做计算，减少等待。在 512 块 GB300 GPU 的实际训练中，整体吞吐提高 41%。单独测试 MoE 层时，最高比公开方案快 2.37 倍。 MoK 已用于 Cursor 数万块 GPU 的 Composer 训练，并以 Apache 2.0 开源。目前只支持英伟达 Blackwell GPU，主要面向拥有 GB200、GB300 NVL72 集群的机构。
DFlash团队进军Mac，27B模型跑到144Token/s
动察 Beating AI 快讯，Inco AI 开源本地推理引擎 Splash，把 Qwen3.8-27B 在 M5 Max MacBook Pro 上跑到了最高 144 Token/s。LM Studio 随即接入，0.4.25 版本已经可以直接使用。 Inco 此前做出的 DFlash 已经进入 SGLang、vLLM、TensorRT-LLM 和 llama.cpp。Meta、NVIDIA、小米、Poolside 等也给自家模型配了 DFlash 加速小模型。DFlash 会先让小模型并行猜出多个 Token，再交给大模型批量验证，减少逐 Token 生成的计算。 Splash 把这种优化扩到了整个本地推理引擎。它目前只支持 Qwen3.8-27B 和 Qwen3.6-35B-A3B，每个模型都单独配了 GPU kernel、内存方案和 DFlash 2 小模型。覆盖的模型少，但换来了更激进的性能优化。 144 Token/s 是 M5 Max 上的最高演示值。换到 Inco 用来做横向测试的 48GB M5 Pro，Qwen3.8-27B 单路短上下文达到 74 Token/s；4 路并发时总吞吐达到 170 Token/s，是第二名的 3.9 倍。这也是 Splash 更适合 Agent 场景的地方。一个 Agent 同时拉起多个子任务时，并发总吞吐往往比单条对话速度更重要。 Splash 本身开源，不绑定 LM Studio。目前需要 M3 或更新的 Mac、macOS 26.4 以上、至少 36GB 统一内存。
Meta给Muse上裂变拉新：邀1人送10亿Token，最多拿200亿
动察 Beating AI 快讯，Meta 的个人 AI Agent Muse 上线邀请码。Alexandr Wang 宣布，朋友注册时使用你的邀请码，双方各得 10 亿 Muse Token，最多可以邀请 20 人。拉满后，邀请者还能提前体验电话等新功能。 这个奖励相当大。Muse 免费版目前每周提供 1 亿 Token，成功邀请 1 人拿到的奖励，数量上等于 10 周免费额度；拉满 20 人就是 200 亿 Token，相当于 200 周的基础免费额度。 Muse 上周刚在美国上线，可以自己浏览网页、连接 App，并代用户发邮件、购物和订行程。上线后一直稳居美国 App Store 总榜前几名。Meta 现在直接用大额 Token 奖励，把首批用户变成拉新渠道。