字节揪出DeepSeek-V4隐藏盲区：代码没变，答案却周期性出错
相关推荐
FreeToken开源：一张5090跑DeepSeek-V4-Flash，最高25 Token/s
动察 Beating AI 快讯，伯克利、MIT 等研究者开源 FreeToken。这是一个专门为本地设备设计的 MoE（混合专家模型）推理引擎，主要解决超大模型显存装不下的问题。它会把部分权重放在系统内存，并让 CPU 和 GPU 一起参与推理。 FreeToken 会把模型的大量专家权重放在系统内存，只把一部分缓存在显存。遇到显存里没有的专家时，它会根据 PCIe 和 CPU 内存带宽，动态决定是把权重搬到 GPU，还是直接交给 CPU 计算。这样 CPU、GPU、系统内存和 PCIe 可以一起参与推理。 论文实测，一台配备 RTX 5090 的游戏台式机运行 284B 参数的 DeepSeek-V4-Flash，可以达到 22–25 Token/s。这款模型每生成一个 Token 实际只激活约 13B 参数，因此特别适合这种 CPU、GPU 混合推理。 FreeToken 还在 8GB 显存的 RTX 4060 笔记本上把 35B 模型跑到 39.3 Token/s；单张 96GB RTX PRO 6000 则可以运行 753B 参数的 GLM-5.2，速度达到 llama.cpp 的约两倍。项目目前支持超过 20 款 MoE 模型，并已采用 Apache 2.0 许可证开源。
DeepSeek V4.1 Flash第三方实测：没夺回国模第一，但成本只有Kimi、GLM七分之一
动察 Beating AI 快讯，Artificial Analysis 完成 DeepSeek V4.1 Flash 独立测试，综合智能指数拿到 40 分。它已经超过自家 V4 Pro 0813 的 36 分，但仍低于 Kimi K3 的 44 分和 GLM-5.3 的 45 分。按这套第三方榜单，DeepSeek 还没夺回国产模型第一。 但价格差距非常夸张。V4.1 Flash 跑完一个 Intelligence Index 任务平均只花 0.27 美元，Kimi K3 和 GLM-5.3 都在 2 美元左右，相差约 7 倍。输出速度达到 197 Token/s，也远高于 Kimi K3 的约 36 Token/s 和 GLM-5.3 的约 58 Token/s。 Agent 依然是它最强的部分。AutomationBench-AA 上，V4.1 Flash 拿到 69%，追平 GPT-6 Astra，并超过 GLM-5.3 的 62%；长上下文测试 AA-LCR 也拿到 84%。缺点是它特别能说，AA 测试中单任务平均输出约 8.9 万 Token，比 V4 Pro 多 62%，吃掉了一部分价格优势。
阶跃星辰开源Step Code：自测追平DeepSeek Harness，token更省
动察 Beating AI 快讯，阶跃星辰开源 AI 编程工具 Step Code v0.1.0，采用 MIT 许可证。它直接跑在终端里，可以读写代码、跑测试和执行开发任务，还支持 MCP、Agent Skills 和 Claude Code 插件。内置的 StepPage 可以一条命令把本地静态网站发布到线上。 Step Code 主打少用 token。在阶跃自己的 Terminal-Bench 2.1 横评中，它完成 72/89 个任务，得分 80.9%，与 DeepSeek Harness 并列最高，但 token 用量更低。 阶跃自建的 Multi-Frame 长任务测试共有 150 道题，Step Code 完成 110 道，得分 73.3%，平均每题消耗 509 万 token，在对比的 6 款 harness 中同时拿到最高通过率和最低 token 用量。 不过阶跃没有公布这轮横评具体用了哪个底层模型，也没有拆解这些 token 是怎么省下来的。官方只提到 Step Code 与 Step 系列模型一起针对 token 消耗做过调优。 源码里也能看到不少「节流」设计：文件读取和命令输出会限长，搜索尽量缩小返回范围，长对话默认会压缩上下文，system prompt 也要求能直接调用工具就不要额外开 Agent。 还有一套更激进的 contextProjection，可以裁掉旧工具输出、重复结果和历史 reasoning，不过默认关闭。 综合来看，它的 token 优势来自模型和 harness 多处优化叠加。
DFlash团队进军Mac，27B模型跑到144Token/s
动察 Beating AI 快讯，Inco AI 开源本地推理引擎 Splash，把 Qwen3.8-27B 在 M5 Max MacBook Pro 上跑到了最高 144 Token/s。LM Studio 随即接入，0.4.25 版本已经可以直接使用。 Inco 此前做出的 DFlash 已经进入 SGLang、vLLM、TensorRT-LLM 和 llama.cpp。Meta、NVIDIA、小米、Poolside 等也给自家模型配了 DFlash 加速小模型。DFlash 会先让小模型并行猜出多个 Token，再交给大模型批量验证，减少逐 Token 生成的计算。 Splash 把这种优化扩到了整个本地推理引擎。它目前只支持 Qwen3.8-27B 和 Qwen3.6-35B-A3B，每个模型都单独配了 GPU kernel、内存方案和 DFlash 2 小模型。覆盖的模型少，但换来了更激进的性能优化。 144 Token/s 是 M5 Max 上的最高演示值。换到 Inco 用来做横向测试的 48GB M5 Pro，Qwen3.8-27B 单路短上下文达到 74 Token/s；4 路并发时总吞吐达到 170 Token/s，是第二名的 3.9 倍。这也是 Splash 更适合 Agent 场景的地方。一个 Agent 同时拉起多个子任务时，并发总吞吐往往比单条对话速度更重要。 Splash 本身开源，不绑定 LM Studio。目前需要 M3 或更新的 Mac、macOS 26.4 以上、至少 36GB 统一内存。
DeepSeek-V4.1-Flash上线千问AI平台
火星财经消息 9月14日，阿里云宣布，DeepSeek-V4.1-Flash正式上线千问AI平台，相关API服务与Token Plan同步开放。（广角观察）
B.AI 宣布 DeepSeek-V4.1-Flash 多模态模型上线
ChainCatcher 消息，B.AI 平台宣布 DeepSeek 原生多模态 MoE 大模型 DeepSeek-V4.1-Flash 正式上线。该模型采用 5520 亿参数主干与 Causal Encoder-Decoder 架构，输入与输出采用非对称计算规模。模型支持 100 万 Token 上下文与 384K Output，面向长周期编程 Agent、多模态工作流与高并发 Agent 系统。目前 Web Chat 与 API 双端接入均已开放。