MiniMax M3.1 Flash开源
相关推荐
MiniMax M3.1 Flash上线,性能全面加强,速度提升3倍,价格降低70%
火星财经消息,MiniMax正式发布新一代Flash模型M3.1 Flash。此前以匿名身份处理了超过 200T Token 的 Space Bunny 模型,正是 MiniMax M3.1 Flash 的早期版本。作为新一代 Flash 模型,M3.1 Flash 在 Agentic 任务、编程、Computer Use 及网络安全能力等方面实现了代际的提升,同时线上推理速度提升了近 3 倍,使用成本降低了 70%。据MiniMax预告,追求更高智能上限的Pro版本将于不久后推出。(财联社)
MiniMax 推出新一代极速文本模型 M3.1-Flash-Preview
PANews 9月27日消息,MiniMax 公布其最新文本模型 M3.1-Flash-Preview,已在 MiniMax Code 正式上线。该模型定位为日常开发场景,官方称其在代码开发中可用于快速修复 bug 与实现完整功能,强调响应速度与稳定性。MiniMax 同时在 MiniMax Code 推出限时活动:自 9 月 28 日至 10 月 7 日(UTC+8),用户每日签到可获得 2 倍积分,适用于包括 M3.1-Flash-Preview 在内的代码模型,以及用于生成视频的 H3 模型。
DFlash团队进军Mac,27B模型跑到144Token/s
动察 Beating AI 快讯,Inco AI 开源本地推理引擎 Splash,把 Qwen3.8-27B 在 M5 Max MacBook Pro 上跑到了最高 144 Token/s。LM Studio 随即接入,0.4.25 版本已经可以直接使用。 Inco 此前做出的 DFlash 已经进入 SGLang、vLLM、TensorRT-LLM 和 llama.cpp。Meta、NVIDIA、小米、Poolside 等也给自家模型配了 DFlash 加速小模型。DFlash 会先让小模型并行猜出多个 Token,再交给大模型批量验证,减少逐 Token 生成的计算。 Splash 把这种优化扩到了整个本地推理引擎。它目前只支持 Qwen3.8-27B 和 Qwen3.6-35B-A3B,每个模型都单独配了 GPU kernel、内存方案和 DFlash 2 小模型。覆盖的模型少,但换来了更激进的性能优化。 144 Token/s 是 M5 Max 上的最高演示值。换到 Inco 用来做横向测试的 48GB M5 Pro,Qwen3.8-27B 单路短上下文达到 74 Token/s;4 路并发时总吞吐达到 170 Token/s,是第二名的 3.9 倍。这也是 Splash 更适合 Agent 场景的地方。一个 Agent 同时拉起多个子任务时,并发总吞吐往往比单条对话速度更重要。 Splash 本身开源,不绑定 LM Studio。目前需要 M3 或更新的 Mac、macOS 26.4 以上、至少 36GB 统一内存。
天猫上线Token充值中心,首批接入阿里云、智谱、Kimi、MiniMax
火星财经消息,9月3日,天猫正式上线AI 空间站( Token充值中心)。页面显示,该充值中心集合了阿里云、智谱、Kimi、MiniMax等国内大模型厂商的订阅服务,在售商品包括按周期订阅的Token Plan、Coding Plan以及按用量付费的充值方案,支持卡密或直充两种交付方式。
FreeToken开源:一张5090跑DeepSeek-V4-Flash,最高25 Token/s
动察 Beating AI 快讯,伯克利、MIT 等研究者开源 FreeToken。这是一个专门为本地设备设计的 MoE(混合专家模型)推理引擎,主要解决超大模型显存装不下的问题。它会把部分权重放在系统内存,并让 CPU 和 GPU 一起参与推理。 FreeToken 会把模型的大量专家权重放在系统内存,只把一部分缓存在显存。遇到显存里没有的专家时,它会根据 PCIe 和 CPU 内存带宽,动态决定是把权重搬到 GPU,还是直接交给 CPU 计算。这样 CPU、GPU、系统内存和 PCIe 可以一起参与推理。 论文实测,一台配备 RTX 5090 的游戏台式机运行 284B 参数的 DeepSeek-V4-Flash,可以达到 22–25 Token/s。这款模型每生成一个 Token 实际只激活约 13B 参数,因此特别适合这种 CPU、GPU 混合推理。 FreeToken 还在 8GB 显存的 RTX 4060 笔记本上把 35B 模型跑到 39.3 Token/s;单张 96GB RTX PRO 6000 则可以运行 753B 参数的 GLM-5.2,速度达到 llama.cpp 的约两倍。项目目前支持超过 20 款 MoE 模型,并已采用 Apache 2.0 许可证开源。
商汤大装置为智谱 GLM-5.3-Flash 提供国产算力与 Token 服务
火星财经消息,据证券时报,8月 27 日,记者从商汤获悉,商汤大装置为智谱近日上线并开源的 GLM -5.3- Flash 提供国产算力支持与 Token 服务,这被认为是国产算力规模化商用的又一个标杆。据透露,商汤大装置7月日均 Token 服务量已达到2.42万亿,预计2026年年底突破日均10万亿。