腾讯混元开放 Hy4 权重,支持百万 Token 上下文
相关推荐
DiffuSpace开源Clover-35B-A3B:MoE扩散模型提速至680 tokens/s
火星财经消息 10月28日,扩散智能DiffuSpace发布并开源扩散语言模型Clover-35B-A3B-Preview。模型采用MoE架构,总参数350亿、单token激活约30亿,支持128K上下文与块扩散生成;在智能体编程、工具调用等任务上,评测表现超过Mercury 2.5及同尺寸Qwen3.6-35B-A3B。 技术侧重构门控Delta网络,以递归状态压缩历史上下文,结合双向注意力与可学习块大小校准适配块级并行去噪。权重代码已上架Hugging Face、GitHub,支持SGLang、llama.cpp,内部测试整体生成速度达680 tokens/s,较同规模自回归方案最高快5—10倍。(广角观察)
Hy4 preview优化「想太多」:复杂任务轮次和Token消耗双降
动察 Beating AI 快讯,腾讯混元和 WorkBuddy 给 Hy4 preview 做了一轮专项优化,已经在 WorkBuddy 全量上线。官方称,这次主要针对复杂任务里的长思考和过度自我验证,在不损失任务效果的前提下,显著减少任务轮次和输入、输出 token 消耗。 Hy4 preview 是腾讯 8 月底发布的开源旗舰 MoE,总参数 770B、激活参数 49B,支持 1M 上下文,重点面向代码、办公和科研等长任务。腾讯发布时就主动把「复杂任务长思考、过度自我验证」列为已知问题。
FreeToken开源:一张5090跑DeepSeek-V4-Flash,最高25 Token/s
动察 Beating AI 快讯,伯克利、MIT 等研究者开源 FreeToken。这是一个专门为本地设备设计的 MoE(混合专家模型)推理引擎,主要解决超大模型显存装不下的问题。它会把部分权重放在系统内存,并让 CPU 和 GPU 一起参与推理。 FreeToken 会把模型的大量专家权重放在系统内存,只把一部分缓存在显存。遇到显存里没有的专家时,它会根据 PCIe 和 CPU 内存带宽,动态决定是把权重搬到 GPU,还是直接交给 CPU 计算。这样 CPU、GPU、系统内存和 PCIe 可以一起参与推理。 论文实测,一台配备 RTX 5090 的游戏台式机运行 284B 参数的 DeepSeek-V4-Flash,可以达到 22–25 Token/s。这款模型每生成一个 Token 实际只激活约 13B 参数,因此特别适合这种 CPU、GPU 混合推理。 FreeToken 还在 8GB 显存的 RTX 4060 笔记本上把 35B 模型跑到 39.3 Token/s;单张 96GB RTX PRO 6000 则可以运行 753B 参数的 GLM-5.2,速度达到 llama.cpp 的约两倍。项目目前支持超过 20 款 MoE 模型,并已采用 Apache 2.0 许可证开源。
OpenAI 上线后台模式:长任务可挂 8 小时,token 最多便宜 40%
PANews 11月20日消息,据OpenAI开发者文档显示,OpenAI为Responses API后台模式新增”完成窗口”选项。选择2h或8h窗口时,模型token费率分别比Standard低30%和40%;默认的soonest窗口不打折。该功能目前在GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra和GPT-6 Luna上公测。文档还披露,从GPT-6.2 Astra和Sol开始,新模型不再提供Flex处理。打折窗口要求使用Standard处理,不支持流式输出,并与Batch API共用速率限制。
英伟达临时 CEO 克雷斯:Token 价格下跌近 60%
ChainCatcher 消息,英伟达临时 CEO 克雷斯表示,自 5 月以来,Token 价格已下跌近 60%,加速了 Token 使用量和算力需求。
OpenAI披露北约使用其网络安全模型,月用量最高达3000亿tokens
BlockBeats 消息,11 月 17 日,据 The Defiant 报道,OpenAI 披露,其正通过北约通信与信息局(NCIA)向北约核心机构提供先进网络安全模型访问权限,以帮助保护盟军网络。OpenAI 称,北约每月使用的原始输入与输出 tokens 最高达 3000 亿。该公司还支持了北约合作网络防御卓越中心(CCDCOE)组织的 2026 年 Crossed Swords 演习,参与者使用防御工具 Daybreak 构建并评估用于网络行动的 AI 智能体,并强调保持人工监督。NCIA 总经理 Dylan Browne 称,这类模型可加速漏洞发现、以机器速度检测新兴威胁,并帮助保护关键数字基础设施。 除北约外,OpenAI 称已向欧盟网络安全局(ENISA)及法国(ANSSI)、德国和波兰国家网络机构提供网络模型访问权限,乌克兰数字转型部亦在使用 Daybreak 加强民用基础设施网络防御。ENISA 用相关模型在欧盟机构所用软件中发现 4 个漏洞,且均已发布修复;其与 CERT-EU 11 月联合报告称,在审查的 27 个软件项目中,经维护者评估的 88 个潜在问题有 95% 被确认为真实问题。波兰 CERT Polska 借助 OpenAI 模型在 MikroTik RouterOS 中发现 6 个漏洞并协调披露,MikroTik 已发布修复。