观点:LLM Token价格腰斩并不意味着AI需求转弱,GPU算力租赁市场仍显示需求强劲
相关推荐
AI Token 价格创历史新低,较 5 月高点腰斩
火星财经消息,据韩联社报道,美国市场信息机构 Silicon Data 发布的 LLM Token 支出指数(LLM Token Expenditure Index)于 8 月 31 日跌至每百万 Token 97 美分,创下该指数自去年底成立以来的历史最低值,较 5 月高点(2.05 美元)下跌逾 50%。分析认为,中国 AI 企业月之暗面推出的开源模型 “Kimi K3”、OpenAI 于 7 月下调 ChatGPT-5.6 系列模型定价,以及头部厂商推行动态定价机制,共同构成此轮价格下行的主要驱动因素。Token 价格下跌虽有助于降低用户使用成本,但对 OpenAI、Anthropic、Google 等模型开发商而言将形成营收压力。投资机构 Seez Group 投资负责人指出,基础模型企业受冲击最为直接,建议转向强化分发渠道、内存及上下文能力,以提升用户迁移成本,应对开源模型的竞争侵蚀。
TypeSafe AI 决策模型 Jev 正式登陆 B.AI API,输入低至 $0.042/百万 Token
ChainCatcher 消息,B.AI 平台宣布 TypeSafe AI 推出的首款 System One 模型 Jev 正式上线 API。 Jev 专为软件内的高速结构化决策打造,不生成任何文本:开发者输入应用状态与类型化问题后,模型直接返回带概率与置信度的决策结果,无需 JSON Prompt,也无需解析输出。模型支持 Choice / Score / Noul 三类原语并行评估,端到端延迟约 70–500ms,输入仅 $0.042/百万 Token,输出免费,适用于工单路由、内容审核、风险评分及 Agent 分支判断等场景。 目前 Jev 已在 B.AI API 的“官方”→“全量接入”列表中开放,可通过 Jev-1.13.0 或 Jev-Latest 调用。
AI模型聚合平台OpenRouter上线批量API,多数模型Token价格减半
PANews 9月23日消息,据OpenRouter在X平台发文称,其批量API(Batch API)已正式上线,面向无需即时返回结果的任务,大多数模型的每Token价格减半,所有结果将在24小时内返回。五折优惠同时适用于输入和输出Token,目前支持70余种模型。OpenRouter称,两周测试期间共完成逾23万个批次任务,完成时间中位数为7分钟,90%在1小时内完成。
DFlash团队进军Mac,27B模型跑到144Token/s
动察 Beating AI 快讯,Inco AI 开源本地推理引擎 Splash,把 Qwen3.8-27B 在 M5 Max MacBook Pro 上跑到了最高 144 Token/s。LM Studio 随即接入,0.4.25 版本已经可以直接使用。 Inco 此前做出的 DFlash 已经进入 SGLang、vLLM、TensorRT-LLM 和 llama.cpp。Meta、NVIDIA、小米、Poolside 等也给自家模型配了 DFlash 加速小模型。DFlash 会先让小模型并行猜出多个 Token,再交给大模型批量验证,减少逐 Token 生成的计算。 Splash 把这种优化扩到了整个本地推理引擎。它目前只支持 Qwen3.8-27B 和 Qwen3.6-35B-A3B,每个模型都单独配了 GPU kernel、内存方案和 DFlash 2 小模型。覆盖的模型少,但换来了更激进的性能优化。 144 Token/s 是 M5 Max 上的最高演示值。换到 Inco 用来做横向测试的 48GB M5 Pro,Qwen3.8-27B 单路短上下文达到 74 Token/s;4 路并发时总吞吐达到 170 Token/s,是第二名的 3.9 倍。这也是 Splash 更适合 Agent 场景的地方。一个 Agent 同时拉起多个子任务时,并发总吞吐往往比单条对话速度更重要。 Splash 本身开源,不绑定 LM Studio。目前需要 M3 或更新的 Mac、macOS 26.4 以上、至少 36GB 统一内存。
腾讯混元 Hy4 Preview 登陆 B.AI API
火星财经消息,9 月 2 日,B.AI 平台宣布腾讯混元团队最新开源旗舰模型 Hy4 Preview 正式上线 API 服务,面向开发者开放接入。该模型为 Hy4 系列早期版本,采用 770B 稀疏 MoE 架构,每 Token 激活 49B 参数,并支持 1M 超长上下文窗口。开发者可通过 B.AI API 官方渠道直接调用,登录 chat.b.ai/chat 或访问 docs.b.ai/zh-Hans/llmservice/models/hy4-preview/ 了解详情。
重仓STONK浮盈近1300万美元,point farm capital再度登顶FOMO日榜
BlockBeats 消息,9 月 24 日,数据显示,交易员 point farm capital 再度位居 FOMO 平台 24 小时收益榜第一,其账户当前资产约 1716.4 万美元,账户页面显示过去 24 小时资产增长约 208.8 万美元。 STONK 仍是其主要持仓。该账户目前持有 3920 万枚 STONK,价值约 1437.6 万美元,占总资产约 84%;按 907.76% 的持仓回报率计算,账面浮盈约 1294.9 万美元。 此外,其 Christmas Cracker(CRACKER)持仓价值约 63.8 万美元,回报率为 283.23%;RuneScape Gold(GP)持仓价值约 51.6 万美元,回报率为 202.35%。