循环Transformer新架构：RLT让Token之间「接着算」
相关推荐
OpenAI最新模型Astra用上字节架构：Transformer同一层反复算
动察 Beating AI 快讯，OpenAI 即将发布的 Astra 用上了一种循环推理架构 recurrent depth，也叫 looped transformer。普通 Transformer 每生成一个 Token，会固定穿过一层层网络；Astra 可以让同一段信息反复经过同一组层，多算几轮再输出。 这条路线字节去年已经公开做过。Seed 团队发布的 Ouro 就是一种 Looped Language Model，同样让一组 Transformer 层循环运行，把更多计算放进模型内部。模型不用一直生成更长的思维链，也能增加推理计算量。较小模型因此能用更多计算，做到接近更大模型的效果。 这种架构也带来一个安全问题。部分推理发生在内部隐藏状态里，人类看不到完整文字记录，更难通过思维链检查模型有没有违规。OpenAI 因此限制了 Astra 使用 recurrent depth 的程度，让它仍保留可读的思维链，并准备加入额外的 CoT 监控。
李佳琦今晚直播卖Token，千问办公负责人陈宇森助阵，豪送20万亿Token
动察 Beating AI 快讯，11 月 2 日晚 7 点 30 分，李佳琦将在天猫双 11 直播间开卖 Token（词元）。阿里巴巴副总裁、千问办公负责人陈宇森将到场，直播间还预告发放 20 万亿 Token。同期亮相的还有预装千问办公的 AI 电脑、AI 听记卡和桌面机器人。 实际上，Token 早已进入电商平台。9 月 3 日，天猫上线 Token 充值中心，接入阿里云、智谱、Kimi、MiniMax 等厂商，销售按月订阅的 AI 套餐和按使用量付费的充值服务，支持卡密兑换或直接充值。
智谱 ZCode 每日向每名用户提供 3 亿 Token
火星财经消息，据动察 Beating 报道，智谱宣布，旗下 AI 编程工具 ZCode 每天向每名用户免费提供 3 亿 GLM-5.3-Flash Token。该额度只能在 ZCode 内使用，且每天仅有 10 小时可用。北京时间每天 19:00 开始领取，23:00 至次日 09:00 才能使用。用户需更新客户端，领取额度后切换至 Global Building，并选择 GLM-5.3-Flash 模型。
AI商业化遭遇现实考验：1%客户贡献Anthropic近半营收，Token用量增长但支出停滞
动察 Beating AI 快讯，Ramp 追踪逾 7 万家美国企业的支付数据发现，Anthropic 和 OpenAI 企业端收入的约 80% 来自仅占客户总量 1% 的头部客户，AI 商业化呈现出明显的客户集中趋势。8 月和 9 月，企业 Token 支出连续两个月几乎零增长，10 月初虽创历史新高，但较 8 月峰值仅高出 1.5%。 价格下跌是支出增长停滞的重要原因。Ornn 数据显示，Anthropic 实际 Token 价格指数已从 9 月中旬的 1.70 美元以上跌至 0.83 美元，跌幅超过 50%；OpenAI 对应指数则为 0.45 美元。据 YipitData，Anthropic 前 1% 客户 8 月贡献了 46% 的营收，高于一年前的 25%。 与此同时，企业 AI 付费采用率增长放缓。Ramp 数据显示，9 月企业 AI 付费采用率仅上升 0.62 个百分点，达到 55.9%。Ramp 首席经济学家 Ara Kharazian 认为，AI 市场增长正从扩大付费用户规模转向提升现有用户的使用深度。 高盛警告，Token 需求增速必须超过价格降幅，才能支撑持续的算力投资。Apollo 首席经济学家 Torsten Slok 也指出，企业对算力价格高度敏感，降价未必能带来足够的新增需求。高盛数据显示，亚马逊、Alphabet、Meta、微软和甲骨文的已实现投资资本回报率已从 40% 降至 25%，创 2016 年以来最低水平。 上述数据对 AI 行业寄予厚望的「杰文斯悖论」提出挑战：算力成本下降能否通过需求增长带来更高收入，仍有待验证。随着客户集中、价格下跌和付费渗透率趋于饱和，AI 企业能否将 Token 消耗转化为实际营收、利润增长或成本节约，将成为检验 AI 基础设施投资回报的关键。
Haiku 5.5独立评测43分：遥遥领先GPT-6 Luna，但最高档Token消耗超3倍
动察 Beating AI 快讯，第三方评测机构 Artificial Analysis 公布 Claude Haiku 5.5 的测试结果。新模型在综合智能指数中获得 43 分，比上一代的 17 分提高 26 分。它超过 GPT-6 Luna 的 38 分、GLM-5.3 Flash 的 42 分，接近 Kimi K3 的 44 分。该指数综合了编程、专业工作、科学推理等 10 项测试。 不过，高分也伴随着大量 token 消耗。在最高推理强度下，Haiku 5.5 每项评测任务平均输出约 16.2 万 tokens，是 GPT-6 Luna 的 3.2 倍。两者基础 API 单价相同，但 Haiku 5.5 的预估单任务成本约为 0.21 美元，Luna 仅为 0.07 美元。Haiku 5.5 从次高档调至最高档，综合得分只增加 2 分，输出量却增加约 80%。 降低推理强度后，差距明显缩小。Haiku 5.5 在 high 档获得 38 分，平均每项任务输出约 5.5 万 tokens，与最高档 GPT-6 Luna 的 38 分和 5 万 tokens 接近。开发者可以通过调整推理强度，减少不必要的 token 消耗。 Haiku 5.5 也并非全面领先。在 AutomationBench-AA 自动化任务评测中，它仅得 35%，落后于 Luna 的 53%。不过，测试期间模型存在过度拒绝执行任务的问题。Anthropic 正在修复，Artificial Analysis 计划重新测试。此外，目前公布的 Haiku 5.5 任务成本尚未计入长上下文加价，实际费用可能更高。
微软要把Windows变成Agent工作台：AI能直接操作电脑，还能少花Token
动察 Beating AI 快讯，微软公布 Windows「混合智能」计划，准备让 AI Agent 直接在电脑上执行任务。获得授权后，Copilot 可以读取本地文件和近期活动，还能整理文件、排查故障、编写程序。微软演示中，它自动找齐报税材料，修改文件名、打包附件，并起草了发给会计师的邮件。 这套方案的关键，是让本地 AI 和云端 AI 配合工作。Copilot 负责接收任务，Windows 提供访问文件和执行操作的能力。部分任务可以交给电脑上的模型处理，减少云端 Token 消耗，也让敏感数据留在本地。需要更强推理能力时，再调用云端模型。 为了支撑本地运行，微软将 1370 亿参数的编程模型 MAI Code 1.1 Flash 压缩至 53GB，让它能在搭载 RTX Spark 的高性能电脑上运行。GitHub Copilot 也将通过 HydraFusion 自动选择本地或云端模型，让部分编程任务不再依赖付费的云端推理。 微软还推出 MXC 安全沙箱，限制 Agent 能访问的文件和网络，防止越权操作。目前 MXC 已正式开放。Copilot 读取本地文件、执行电脑操作等新能力，则将在未来几个月陆续登陆 Copilot+ PC。