DeepSeek开始直接对接大规模部署:有2000张GPU可以找官方
相关推荐
DeepSeek披露单GPU每小时可创造38美元计费收入,AI推理盈利能力引发关注
动察 Beating AI 快讯,DeepSeek 近期开源推理框架 DeepInfer,并披露其集群每天可处理 155 万亿 Token。按照 DeepSeek API 谷时价格折算,平均每 GPU 小时对应约 38 美元的理论计费收入,若按全年不间断运行计算,年化计费收入超过 33 万美元。 DeepSeek 通过专家并行、推测解码、异步调度及 KV Cache 优化等技术提升推理效率,但上述数字属于理论计费收入,并不等于实际营收或利润。实际收益还取决于 GPU 利用率、付费请求比例、硬件与电力成本,以及服务延迟等因素。 AI 行业正面临需求增长与盈利压力并存的局面。一方面,中小企业 AI 应用及 Agent 部署需求持续升温;另一方面,模型训练、推理服务和基础设施投入仍在侵蚀部分企业利润。据报道,CoreWeave 第二季度营收同比增长约 112% 至 25.75 亿美元,但仍净亏损 6.26 亿美元。 分析认为,推理效率提升有望扩大 AI 服务的利润空间,但高效生产 Token 并不必然意味着商业盈利。随着模型调用量增长,企业仍需解决算力成本、服务定价和客户付费意愿之间的平衡问题。
DFlash团队进军Mac,27B模型跑到144Token/s
动察 Beating AI 快讯,Inco AI 开源本地推理引擎 Splash,把 Qwen3.8-27B 在 M5 Max MacBook Pro 上跑到了最高 144 Token/s。LM Studio 随即接入,0.4.25 版本已经可以直接使用。 Inco 此前做出的 DFlash 已经进入 SGLang、vLLM、TensorRT-LLM 和 llama.cpp。Meta、NVIDIA、小米、Poolside 等也给自家模型配了 DFlash 加速小模型。DFlash 会先让小模型并行猜出多个 Token,再交给大模型批量验证,减少逐 Token 生成的计算。 Splash 把这种优化扩到了整个本地推理引擎。它目前只支持 Qwen3.8-27B 和 Qwen3.6-35B-A3B,每个模型都单独配了 GPU kernel、内存方案和 DFlash 2 小模型。覆盖的模型少,但换来了更激进的性能优化。 144 Token/s 是 M5 Max 上的最高演示值。换到 Inco 用来做横向测试的 48GB M5 Pro,Qwen3.8-27B 单路短上下文达到 74 Token/s;4 路并发时总吞吐达到 170 Token/s,是第二名的 3.9 倍。这也是 Splash 更适合 Agent 场景的地方。一个 Agent 同时拉起多个子任务时,并发总吞吐往往比单条对话速度更重要。 Splash 本身开源,不绑定 LM Studio。目前需要 M3 或更新的 Mac、macOS 26.4 以上、至少 36GB 统一内存。
DeepSeek V4.1 Flash第三方实测:没夺回国模第一,但成本只有Kimi、GLM七分之一
动察 Beating AI 快讯,Artificial Analysis 完成 DeepSeek V4.1 Flash 独立测试,综合智能指数拿到 40 分。它已经超过自家 V4 Pro 0813 的 36 分,但仍低于 Kimi K3 的 44 分和 GLM-5.3 的 45 分。按这套第三方榜单,DeepSeek 还没夺回国产模型第一。 但价格差距非常夸张。V4.1 Flash 跑完一个 Intelligence Index 任务平均只花 0.27 美元,Kimi K3 和 GLM-5.3 都在 2 美元左右,相差约 7 倍。输出速度达到 197 Token/s,也远高于 Kimi K3 的约 36 Token/s 和 GLM-5.3 的约 58 Token/s。 Agent 依然是它最强的部分。AutomationBench-AA 上,V4.1 Flash 拿到 69%,追平 GPT-6 Astra,并超过 GLM-5.3 的 62%;长上下文测试 AA-LCR 也拿到 84%。缺点是它特别能说,AA 测试中单任务平均输出约 8.9 万 Token,比 V4 Pro 多 62%,吃掉了一部分价格优势。
豆包工作下调模型消耗倍率,DeepSeek V4.1 Flash、豆包2.1 Lite降至0.01
PANews 11月20日消息,据大厂日爆公众号,豆包工作下调多款模型的额度消耗倍率,其中DeepSeek V4.1 Flash、豆包2.1 Lite两款模型降至0.01,简单对话和低消耗任务不再收费。该媒体实测显示,用DeepSeek V4.1 Flash运行50项办公任务,八成以上未扣费;一次3D建模消耗约0.23元,生成动态网页约0.06元。豆包工作同时上线签到机制,每日可领200额度,周一翻倍,连续签到30天可获8800额度,新用户获赠30天体验。平台还接入了Kimi K3.1 Pro、GLM 5.3等第三方模型。
B.AI 热门模型折扣更新,DeepSeek-V4.1-Flash 降至 5 折
ChainCatcher 消息,11 月 18 日,B.AI 宣布热门模型折扣权益更新,DeepSeek-V4.1-Flash 折扣由 6 折调整为 5 折,进一步降低高频编程与推理调用成本。本轮优惠同步覆盖 Hy4 / Hy4-Flash 限时 5 折、GLM-5.3-Flash 6 折、Qwen3.8-Flash 8 折、MiniMax-H3-Image / Image-Highspeed 8 折及 Qwen4-Max 9 折,涵盖代码开发、深度推理、日常办公及图像生成等多元场景。开发者可依托 B.AI 统一入口与智能路由,根据实际任务灵活切换模型,在性能与成本之间取得更优平衡,欢迎登录 chat.b.ai/chat 开启调用。
英伟达、AMD、英特尔罕见联手:9家企业共建SGLang开源推理联盟
动察 Beating AI 快讯,在首届 SGLang Summit 上,平日竞争激烈的 NVIDIA、AMD 和 Intel 罕见地站到了同一阵营。 三家芯片巨头与 Google、Meta、Thinking Machines Lab、Cloudflare、Modal、RadixArk 共同成为 SGLang 联盟的 9 家创始成员,参与制定这款开源 AI 推理引擎的未来路线图。峰会吸引超过 2000 人现场参加。 SGLang 是大模型运行时的底层软件,负责处理用户请求、调度 GPU、管理显存和复用计算结果。它直接决定一张芯片能以多快的速度、多少成本运行 AI 模型。 SGLang 此前已经支持 NVIDIA、AMD、Intel 等多种硬件。此次成立联盟,意味着芯片厂商将更系统地参与共同开发,投入工程师、测试资源,并推动各自硬件的性能优化。 联盟成员每年举行两次路线图会议,但最终技术决策和代码合并权仍由 SGLang 维护团队掌握。 SGLang 官方称,目前已有 332 家机构采用该项目。Meta 也在峰会上披露,相比此前的推理方案,迁移至 SGLang 后,其大规模生产环境中的 GPU 资源节省超过一半。 峰会还宣布了 SGLang v1.0 的开发方向,重点提升生产环境的稳定性和兼容性,正式版本仍在开发中。此外,SGLang 已推出 AWS Trainium 芯片的公开预览支持,并与 Intel 合作优化其 CPU、GPU 和加速器。强化学习框架 Miles v0.2 也已发布。