腾讯混元Hy4重做底层：DeepSeek稀疏注意力+智谱IndexCache一起上
相关推荐
Jev开始管Attention，MiniMax H3生成时间砍掉41.7%
动察 Beating AI 快讯，日本开发者 Kamimoto 把 Jev 接进 MiniMax H3 的视频生成流程。它会根据每一层的运行状态，从 1%、3%、5%、10% 四档里选择 Attention 保留多少，再由 Sparse Attention 决定具体哪些计算可以省掉。 在 RTX 4070 12GB 上，同样生成一段约 5 秒的视频，原版 4-step 方案需要 6 分 07 秒，加入 Sparse Attention + Jev 动态控制后降到 3 分 34 秒，总耗时缩短 41.7%。 不过，这 41.7% 不能全算在 Jev 头上。Sparse Attention 本身就能通过少算一部分 Attention 来提速，固定保留 5% 或 10% 也会变快。Jev 做的是动态调节：重要的层多算一点，不重要的层少算一点。 目前还不能证明这种动态调节一定比固定比例画质更好，作者也明确表示质量还没有充分验证。实验代码已经开源。
DeepSeek V4.1算子作者谈AI冲击：我不得不把才华埋葬在昨天
动察 Beating AI 快讯，DeepSeek 算子工程师刘胜与发文谈 AI 对自己工作的冲击。他称 DeepSeek V4.1 的主 Attention 算子由自己编写，但按照现在的进步速度，再过半年到一年，AI 写算子的水平大概率就会追上甚至超过自己。 一年前 AI 还只能帮他查文档、读代码、找 bug，现在已经能阅读 CUDA、PTX 和 SASS，分析每条指令的停顿时间，独立优化算子。他预计下一步，AI 还会自己设计调度方案、评估性能并完成实现。 他很清楚，自己把算子优化得越好，DeepSeek 模型的训练和推理就越快，AI 也会更快追上自己。但就算他现在停下来，其他公司的模型也不会停。所以他还是会继续把算子做到最好，只是这场竞争最后可能先革掉自己的命。 他判断自己大概率不会失业，但可能被迫「转业」，从亲手写算子变成操纵 Agent 的「机甲驾驶员」。他真正难以接受的不是饭碗消失，而是以后可能再也没有机会做自己喜欢的工作：「我不得不把才华埋葬在昨天。」 文章最后也谈到了他为什么留在 DeepSeek。他主张最前沿的 AI 应该开放、廉价地提供给所有人，并直言不相信 Anthropic 或 OpenAI 能做到这一点。他担心最强 AI 最终被少数公司掌握，让技术差距进一步变成权力和阶层差距。
DeepSeek又双叒崩了：网页和模型API同时异常，19天前刚宕机近5小时
动察 Beating AI 快讯，11 月 3 日 16 时 58 分，DeepSeek 再次出现服务故障。官方状态页显示，网页对话、V4 Pro API 和 V4.1 Flash API 均发生部分中断。截至 17 时 06 分，官方仍在排查，尚未公布具体原因。 这距离 10 月 15 日的上一次大规模故障仅过去 19 天。当时同样是这三项服务一起受到影响，故障持续近 5 小时。DeepSeek 事后公开致歉，宣布按 API 用户此前 7 天的消耗金额全额发放赠金，并承诺全面排查、剥离系统中的单点依赖。
DeepSeek新版为何突然变强？外媒曝出Astra蒸馏内幕，梁文锋向竞争压力妥协
动察 Beating AI 快讯，DeepSeek 新版模型能力大涨，背后可能真有 Astra 的功劳。 The Information 援引多名直接知情人士称，DeepSeek 10 月 17 日更新的 V4.1-Flash-1017，以及月之暗面新发布的 Kimi K3.1 Pro，都在训练过程中大量利用了 OpenAI GPT-6 Astra 的输出进行蒸馏。 DeepSeek 新版在浏览器操作任务上的表现尤其突出。Browser Use 的 180 项真实网页任务测试中，它的得分从旧版的 70.9 提高到 75.0，接近 Astra 的 77.9。但每题模型调用成本仅 0.22 美元，Astra 则高达 10.77 美元，相差近 49 倍。 此前，Claude 一直是国内 AI 公司蒸馏的主要目标。但 Anthropic 最近两个月不断收紧防护，试图提取模型推理过程的难度大幅增加，国内实验室于是把目光转向了 Astra。 DeepSeek 创始人梁文锋原本不愿在 V4 研发中依赖蒸馏。但看到智谱 GLM 等国内竞争对手借助蒸馏取得进展后，最终向竞争压力妥协。
DeepSeek披露单GPU每小时可创造38美元计费收入，AI推理盈利能力引发关注
动察 Beating AI 快讯，DeepSeek 近期开源推理框架 DeepInfer，并披露其集群每天可处理 155 万亿 Token。按照 DeepSeek API 谷时价格折算，平均每 GPU 小时对应约 38 美元的理论计费收入，若按全年不间断运行计算，年化计费收入超过 33 万美元。 DeepSeek 通过专家并行、推测解码、异步调度及 KV Cache 优化等技术提升推理效率，但上述数字属于理论计费收入，并不等于实际营收或利润。实际收益还取决于 GPU 利用率、付费请求比例、硬件与电力成本，以及服务延迟等因素。 AI 行业正面临需求增长与盈利压力并存的局面。一方面，中小企业 AI 应用及 Agent 部署需求持续升温；另一方面，模型训练、推理服务和基础设施投入仍在侵蚀部分企业利润。据报道，CoreWeave 第二季度营收同比增长约 112% 至 25.75 亿美元，但仍净亏损 6.26 亿美元。 分析认为，推理效率提升有望扩大 AI 服务的利润空间，但高效生产 Token 并不必然意味着商业盈利。随着模型调用量增长，企业仍需解决算力成本、服务定价和客户付费意愿之间的平衡问题。
DeepSeek与华为联手挑战英伟达AI算力霸权：参与下一代芯片设计，年底冲刺国产芯片预训练
动察 Beating AI 快讯，去年，DeepSeek 尝试用华为昇腾芯片训练 R2，最后没能成功。《金融时报》当时披露，芯片稳定性、跨卡通信和软件支持都存在问题。即便华为派工程师驻场协助，DeepSeek 最终还是转回英伟达芯片完成训练。 一年多后，双方的合作进一步深入硬件设计。《The Information》现在披露，华为工程师长期驻扎 DeepSeek 办公室，将模型训练中的实际需求直接纳入下一代昇腾芯片的设计，包括如何安排计算任务，以及如何在芯片之间传输数据。 DeepSeek 今年 9 月底刚开源了昇腾版 TileLang，以及矩阵计算、MoE 专家通信等底层工具，减少了模型迁移到国产芯片所需的开发工作。但软件能跑起来，距离完整预训练还有很长一段路。上万颗芯片需要连续协同数周，任何一颗发生故障，或者数据传输出现延迟，都可能拖慢整个集群。如今双方开始从芯片设计阶段处理这些问题。 华为计划将 2027 年第一季度就绪的昇腾 960DT 的大部分供应优先交给 DeepSeek，而不是分散给其他模型公司。DeepSeek 则准备最快今年年底先用 950DT 开始预训练。目前相关测试已使用超过 1000 颗芯片，完整预训练可能需要上万颗，部分集群管理软件仍未完成。与此同时，DeepSeek 仍在寻求更多英伟达芯片。