英伟达DSX软件测试：Lambda集群Token吞吐量提高24%
相关推荐
英伟达DSX Flex测试中将GPU集群功耗最多降低40%
火星财经消息,英伟达表示，在一项早期试验中，Emerald AI、EPRI、Nebius、英国国家电网与英伟达合作，在模拟电网事件下，将英伟达Blackwell Ultra GPU集群的功耗最多降低40%，同时保持关键工作负载运行。DSX Flex旨在协调AI工厂用电与电网需求。(财联社)
观点：LLM Token价格腰斩并不意味着AI需求转弱，GPU算力租赁市场仍显示需求强劲
BlockBeats 消息，9 月 24 日，专业数据机构 Silicon Data 发文称，市场近期频繁引用其 LLM Token Index 作为看空 AI 交易的依据，但该指标下跌并不意味着 AI 需求或模型层利润正在走弱。 Silicon Data 表示，其 LLM Token Index 衡量的是样本中 API 用户每百万 Token 实际支付的价格，即「使用量加权价格」，并非 Token 使用量或总支出。该指数从 5 月 28 日的 2.07 美元降至 9 月 21 日的 1 美元，下降 52%，但今年 1 月至 5 月高点期间曾上涨 67%，因此价格变化本身不能直接作为 AI 行业景气度指标。 该机构指出，指数近期下跌主要反映更多任务被分配给廉价、快速的模型，同时 AI 实验室持续推出更多中端模型。由于 Token 并不能完全代表 AI 能力，该指标也无法单独区分模型替代与更高效的 Agent 路由。 相比之下，GPU 算力租赁市场仍显示需求强劲。Silicon Data 数据显示，非超大规模云厂商 H200 租赁价格从 6 月平均 2.87 美元升至目前 3.29 美元，9 月 19 日一度达到 3.32 美元；B200 目前为 5.76 美元，较同期上涨 7%，年初至今上涨 31%；B300 自 4 月底推出以来上涨 44%。 Silicon Data 认为，随着 Agent 大规模应用，未来绝大多数 Token 可能来自廉价、快速模型，因此 Token 价格可以持续下降，同时总 Token 使用量仍大幅增长。该机构表示，真正高价值的任务仍可能集中在前沿模型上，而 AI 全面普及意味着对算力的需求可能「更多，而不是更少」。
芝商所计划与Silicon Data推出AI模型Token支出可交易指数产品
PANews 10月21日消息，据彭博社报道，芝商所集团（CME Group）拟于AI指数初创公司 Silicon Data 合作推出基于AI模型Token支出的可交易产品，相关产品将基于其大语言模型（LLM）Token指数，根据使用量对不同AI模型的Token价格进行加权。Silicon Data首席执行官Carmen Li表示，市场对GPU算力成本已有较充分的认知，但对AI经济中的消费层仍缺乏了解。 今年8月，双方曾宣布计划推出基于GPU租赁成本的期货产品。Silicon Data表示，新的Token指数产品计划于未来几个月推出，但仍需获得监管批准。
Inception发布扩散大模型Mercury 3，支持百万Token上下文
PANews 10月20日消息，据Inception官方公告，该公司发布扩散式大语言模型Mercury 3，支持100万Token上下文。官方称，其在英伟达GPU上的生成速度达每秒1068 Token，多项基准测试表现超过GPT-6 Luna和Claude Haiku 5.5。标准定价为每百万输入Token 0.20美元、输出Token 0.70美元，首发期间半价。模型已通过Inception API、OpenRouter、Baseten和Vercel开放，兼容OpenAI API。
Blockworks：七家加密推理商日均处理约 2110 亿 Token
火星财经消息，Blockworks 发布加密推理服务商现状报告称，全球算力投入庞大且需求仍超供给；流动性加密 AI 市值约 249 亿美元，低于 Crusoe 的 309 亿美元，尚无去中心化算力网络披露超过数千万美元量级的可核验收入。报告比较 OpenRouter 上七家加密原生推理商 Venice、Phala、Darkbloom、io.net、AkashML、NEAR AI 与 Chutes。过去一个月七家日均处理约 2110 亿 Token，约占平台日均 21.9 万亿 Token 的 1%。Venice 日均约 870 亿 Token，团队 7 月称年化经常性收入达 1 亿美元，OpenRouter 贡献不足一成；Phala 过去一周日均约 546 亿 Token，高于 7 月约 50 亿。Chutes 为 Bittensor 推理子网 SN64，运行约 4350 块 GPU，团队称日处理 1600 亿 Token，OpenRouter 渠道日均 57 亿。Akash 活跃 GPU 为 283 块，低于峰值约 897 块，年租赁费约 370 万美元，GPU 激励已结束。io.net 近一个月需求近乎翻倍至日均 148 亿 Token。
天数智芯推出业界最高密度单机柜超节点，单柜集成144颗GPU
在2026工博会上，天数智芯正式推出业界最高密度单机柜超节点方案——天垓300 IXL144，单机柜集成144颗GPU与18颗CPU。IXL144兼容CUDA等AI生态，支持客户复用已有模型与框架，大幅降低迁移上线成本；通过整柜高带宽互联构建统一内存语义算力域，有效提升大模型训练与推理协同效率。据测算，每百万有效Token的成本较国际主流方案可降低40%。