加密货币价格波动剧烈,本站内容仅供参考,不构成投资建议。投资有风险,可能导致全部损失。

查看完整免责声明
返回 7*24 快讯
来源MarsBit

中国工程院院士郑纬民:智能体时代,产出稳定且低成本Token(词元)的能力非常稀缺

火星财经消息,中国工程院院士、清华大学计算机科学与技术系教授郑纬民在Agentic时代AI基础设施创新发展论坛上表示,算力规模快速扩张并不等于产生高效的Token(词元)产能。智能体时代真正稀缺的不只是芯片,而是稳定、低成本、高等级地产出Token的系统能力。Token正从技术指标变为产业核心生产要素,推理系统也从单机优化,走向分布式、缓存化、异构化、服务化。(财联社)
免责声明:以上内容仅为作者观点,不代表 711BTC 的任何立场,不构成与 711BTC 相关的任何投资建议。

相关推荐

08-25 03:08重要

20VC 合伙人:AI Token 正重演铝业百年历史,智能体可能打开“无上限市场”

火星财经消息,20VC 合伙人 P_Bonnet 发文以铝业历史类比 AI,探讨“若一切顺利”的情景。多数供应短缺会在 3-5 年内转为过剩并摧毁价值,但铝用逾百年完成价格下跌超 99.9%、市场扩大超 1000 倍的过程,因每次降价都解锁新用途,而非在同一市场内崩盘。AI Token 正以快约 10 倍的速度走相同成本阶梯,关键节点是人类不再成为约束。对话式 AI 受人类阅读速度与用户规模限制,而推理与智能体可使消费者不再是人,Agentic AI 或彻底移除人类上限,仅剩快速改善的成本与效用。铝业也曾依赖工艺突破才将廉价金属变为结构材料。基础设施层,Alcoa 曾凭工艺、自有矿石与电力垄断数十年;Nvidia 拥有 CUDA 等工艺积累,产能更像租用,且自身缺乏电力,大客户已直接锁定核电并自研芯片。最终价值会层层转移至发现旧价格下不可能存在的新用途的一方,价格崩塌、技术奏效与资金迁移并非对立,而是同一结果。

08-04 13:17

Marvell推出AI“内存解耦”架构,将解决Agentic AI推理带宽瓶颈

Odaily星球日报讯 Marvell Technology 宣布推出面向 AI 基础设施的新一代内存解决方案组合,覆盖服务器级 AI 存储、机架级 CXL 内存扩展与池化,以及多机柜光互联共享内存,旨在解决 Agentic AI 推理过程中日益增长的内存容量和带宽瓶颈。 Marvell 表示,随着 AI 模型规模扩大、上下文窗口延长以及 KV Cache 需求增长,传统计算与内存紧耦合架构正限制 AI 推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高 GPU 利用率并降低数据移动延迟。此次发布的产品包括: Bravera SC6 PCIe 6.0 SSD 控制器:面向 AI 推理存储场景,可帮助云服务商将更多 KV Cache 迁移至高性能 SSD,提升基础设施效率。该产品采用兼容多供应商 NAND 的架构,预计将于 2026 年第四季度开始送样。 Marvell Structera X 内存扩展方案:基于 CXL 技术,支持机架级内存扩展和资源池化,帮助数据中心更灵活地共享和调配内存资源,降低 AI 基础设施成本。 Marvell Photonic Fabric 光互联内存方案:通过光互联技术构建跨多机柜共享内存架构,可支持最高 32TB 温热 KV Cache 卸载,并帮助 AI 推理集群提升吞吐能力。 Marvell 表示,Photonic Fabric 方案可在现有数据中心空间和功耗限制下,实现最高 2 至 3 倍的 Token 吞吐提升,支持更大规模模型和更长上下文 AI 应用。 Marvell 高管 Will Chu 表示,AI 基础设施正在从单一服务器架构转向计算、内存和连接协同运行的系统,未来内存需要更加独立地扩展,以提升资源利用率和 Token 效率。 随着 AI Agent 和大模型推理需求持续增长,内存容量、带宽和数据传输效率正成为继算力之后 AI 基础设施竞争的新焦点。

09-19 08:22

DFlash团队进军Mac,27B模型跑到144Token/s

动察 Beating AI 快讯,Inco AI 开源本地推理引擎 Splash,把 Qwen3.8-27B 在 M5 Max MacBook Pro 上跑到了最高 144 Token/s。LM Studio 随即接入,0.4.25 版本已经可以直接使用。 Inco 此前做出的 DFlash 已经进入 SGLang、vLLM、TensorRT-LLM 和 llama.cpp。Meta、NVIDIA、小米、Poolside 等也给自家模型配了 DFlash 加速小模型。DFlash 会先让小模型并行猜出多个 Token,再交给大模型批量验证,减少逐 Token 生成的计算。 Splash 把这种优化扩到了整个本地推理引擎。它目前只支持 Qwen3.8-27B 和 Qwen3.6-35B-A3B,每个模型都单独配了 GPU kernel、内存方案和 DFlash 2 小模型。覆盖的模型少,但换来了更激进的性能优化。 144 Token/s 是 M5 Max 上的最高演示值。换到 Inco 用来做横向测试的 48GB M5 Pro,Qwen3.8-27B 单路短上下文达到 74 Token/s;4 路并发时总吞吐达到 170 Token/s,是第二名的 3.9 倍。这也是 Splash 更适合 Agent 场景的地方。一个 Agent 同时拉起多个子任务时,并发总吞吐往往比单条对话速度更重要。 Splash 本身开源,不绑定 LM Studio。目前需要 M3 或更新的 Mac、macOS 26.4 以上、至少 36GB 统一内存。

09-18 03:12

全国首个海洋Token工厂落地青岛

火星财经消息,9月17日,2026海洋合作发展论坛“探索深海——海洋未来产业的价值变革”平行论坛现场,全国首个面向海洋产业的专属智能要素供给平台——海洋Token(词元)工厂正式发布并落地青岛。据介绍,海洋Token工厂整体架构包含数据、算力、算法三个部分。数据方面,平台可提供海上作业规范、海洋环境要素等130多类涉海数据,建成面向海洋一线需求的专属数据库;算力方面,已形成总算力规模超过800P的海洋算力资源池,且仍在持续扩容;算法方面,汇聚观海、海星等20多个海洋领域专有大模型,以及“九天”大模型等30多款通用模型。按照规划,海洋Token工厂将深度贯穿深海油气勘探等实战场景,服务行业领军企业需求。(财联社)

09-17 14:03重要

Blockworks 上线 Agentic Detection,交易所可直接接收 AI 代理合规警报

ChainCatcher 消息,Blockworks 宣布推出 Agentic Detection 功能,允许加密货币交易所和银行直接从 AI 代理接收合规警报,无需等待人工分析师审核。该功能于周四在 Messari Monitoring 中上线,每条警报都会标注由代理生成还是经分析师验证。Blockworks 表示,此前分析师验证每项动态约需 5 分钟,而基于 Messari 分析师多年工作训练的自有模型可在数秒内识别警报。Agentic Detection 默认关闭,客户可逐视图开启。联合创始人 Jason Yanowitz 表示,随着链上活动规模扩大,市场以秒而非分钟为单位对事件定价,客户需要近乎实时的警报。该检测层基于七年分析师覆盖数据构建,代理可读取 X、GitHub、治理论坛、Discord、Telegram、项目博客及 1000 多个新闻源,覆盖 1000 多个资产。Blockworks 于 6 月 12 日以逾 1000 万美元收购 Messari,后者 4 月完成由 ParaFi 和 Reciprocal Ventures 领投的 A 轮扩展融资,估值 1.92 亿美元,Coinbase Ventures、MoonPay Ventures 等参投。

09-17 03:39

Meta给Muse上裂变拉新:邀1人送10亿Token,最多拿200亿

动察 Beating AI 快讯,Meta 的个人 AI Agent Muse 上线邀请码。Alexandr Wang 宣布,朋友注册时使用你的邀请码,双方各得 10 亿 Muse Token,最多可以邀请 20 人。拉满后,邀请者还能提前体验电话等新功能。 这个奖励相当大。Muse 免费版目前每周提供 1 亿 Token,成功邀请 1 人拿到的奖励,数量上等于 10 周免费额度;拉满 20 人就是 200 亿 Token,相当于 200 周的基础免费额度。 Muse 上周刚在美国上线,可以自己浏览网页、连接 App,并代用户发邮件、购物和订行程。上线后一直稳居美国 App Store 总榜前几名。Meta 现在直接用大额 Token 奖励,把首批用户变成拉新渠道。