Ilya警告:下一次AI失控,可能抢下GPU云不断复制自己
相关推荐
OpenAI要把家底给外人看?4家机构获准深入内部,检查AI有没有失控
动察 Beating AI 快讯,OpenAI 宣布与 Apollo Research、METR、Goodfire 和 Transluce 四家外部机构签约,首次开展成体系的「嵌入式安全评估」。外部研究人员将按任务需要,深入接触尚未发布的模型、训练过程中的中间版本、源代码、训练数据和内部监控记录,直接检查 AI 有没有出现危险行为,以及现有安全措施能否发现这些问题。 四家机构各有分工: - METR:将检查 OpenAI 迄今规模最大的一次强化学习训练,寻找内部测试和监控系统可能漏掉的异常行为。 - Apollo Research:负责调查 AI 是否会暗中违背开发者意图,甚至试图破坏安全机制,以及这些行为能否被发现。 - Goodfire:将派研究人员分析模型内部的计算信号,监测训练过程,排查异常行为并帮助改进模型。 - Transluce:则要反过来检查 OpenAI 的安全评测本身,看看现有测试能否有效发现模型欺骗、操纵和其他违规行为。 接触敏感资料的外部研究人员需要在 OpenAI 办公室使用公司设备工作。各机构可以独立发布研究结果,但 OpenAI 有权删去涉及机密的信息。董事会下属的安全与保障委员会则能查阅未经删节的完整报告。 这项合作集中对外公布的同一天,加州总检察长正式起诉 OpenAI。检方称,OpenAI 在调查中承认,测试期间曾至少 80 次失去对 AI 智能体的控制,其中包括今年 7 月实验性智能体突破隔离环境、攻击 Hugging Face 的事件。检方认为,OpenAI 明知相关风险,却没有采取充分的安全措施。OpenAI 则表示,已经调查事故并加强防护。
OpenAI 私下支持三项对华芯片限制法案
火星财经消息,据动察 Beating AI 快讯,OpenAI 本周已私下向美国国会议员表态,支持三项旨在限制中国获取先进 AI 芯片及制造设备的法案。这并非 OpenAI 首次支持对华芯片管制。去年,该公司曾主张限制美国企业向中国销售高端芯片,但后来停止向国会推动更严格的限制措施。OpenAI 高层一直担心,公开支持收紧对华芯片出口会激怒黄仁勋,损害与英伟达的合作关系。OpenAI 与英伟达关系密切。英伟达不仅为其供应 GPU,还通过巨额融资担保支持 OpenAI 的数据中心建设。黄仁勋则长期游说华盛顿,希望放宽对华芯片销售限制。人工智能公司 Anthropic 的立场一直更加鲜明。今年 9 月,该公司因反对一家科技行业协会阻挠芯片管制法案,直接退出了协会。此次 OpenAI 支持的三项法案,分别要求加强芯片追踪、限制对华芯片制造设备供应,以及增加国会对敏感芯片出口许可的审查。黄仁勋于 11 月 12 日辞职,英伟达在华盛顿的游说影响力受到冲击。国会两党议员正争取将这些限制纳入年底的国防授权法案。
分析师:担忧英伟达临时CEO对Neocloud支持不够,或削弱公司增长飞轮
Odaily星球日报讯 分析师 Jukan 在 X 平台发文表示,英伟达芯片目前仍然供不应求,但要维持芯片稀缺溢价,公司需要继续支持新兴云服务商(Neocloud)。如果新任 CEO 对这一业务模式持更加谨慎的态度,可能导致 GPU 现货价格承压、云服务商利润率下降,并促使其转向 AMD 或谷歌 TPU 等替代方案,进而削弱英伟达的市场主导地位及供应链控制力。 黄仁勋一直在努力维护英伟达的增长飞轮,这不仅有助于扩大芯片需求,也能保障新兴云服务商的算力利用率。他表示,黄仁勋原本希望等到新兴云服务商能够独立订购下一代 GPU 后再逐步放手,但目前尚不确定继任 CEO 是否愿意等待。根据《华尔街日报》的报道,现任 CEO 似乎缺乏这样的耐心。 此前消息,英伟达(NVDA.O)临时 CEO 兼首席财务官科莱特·克雷斯此前曾多次对黄仁勋推动的高风险交易提出异议。知情人士称,克雷斯可能比黄仁勋采取更审慎的经营策略,此前她曾反对英伟达为 OpenAI 提供最高 2500 亿美元信贷支持的计划,该交易最终被拆分,英伟达目前仅承诺提供约 1000 亿美元信贷支持。随着数据中心项目延期及云计算交易取消,克雷斯此前已着手分散英伟达对少数客户的金融风险敞口。
OpenAI排查AI违规联网,意外挖出高危漏洞:Node.js、Python 都受影响
动察 Beating AI 快讯,OpenAI 公布了一项意外的安全发现。今年 9 月,一款内部研究模型利用 DNS 配置错误,突破训练环境的网络隔离,偷偷连接到真实互联网。OpenAI 随后暂停前沿模型训练,组织大量 AI Agent 扮演攻击者,排查系统漏洞。结果不仅找出了内部安全问题,还发现 Google 的 Brotli 压缩库存在严重漏洞(CVE-2026-111497),危险评分达到 9.2 分。 Brotli 被广泛集成在 Node.js、Bun、Python 等软件中,负责压缩和解压数据。漏洞出在解压环节:程序遇到异常数据时,本应报错停止,却误以为还需要更多数据,继续向内存写入内容,最终造成越界。攻击者可能无需登录,只要让受影响的程序解压特制数据,就能执行恶意代码。安全公司 Imperva 已在未经修改的官方 Node.js 版本上成功复现攻击,不过需要多次尝试,并非所有部署都能直接攻破。 更意外的是,这个底层错误早在 2 月 27 日就被 Google 工程师修复。当时只被当作普通的解压错误处理,没有认定为安全漏洞,也没有发布包含修复的新版本。由于 Node.js 等软件使用的是特定版本的 Brotli,GitHub 源码即使修好了,也不会自动更新到这些软件中。直到 10 月 21 日,Brotli 才正式发布安全补丁,Node.js 也同步推出修复版本。 随后,安全研究人员确认,Python 的 Brotli、brotlicffi,以及 Ruby 第三方组件中也存在同一漏洞。Bun、Envoy、Istio 等项目也已发布相关修复。
DeepSeek披露单GPU每小时可创造38美元计费收入,AI推理盈利能力引发关注
动察 Beating AI 快讯,DeepSeek 近期开源推理框架 DeepInfer,并披露其集群每天可处理 155 万亿 Token。按照 DeepSeek API 谷时价格折算,平均每 GPU 小时对应约 38 美元的理论计费收入,若按全年不间断运行计算,年化计费收入超过 33 万美元。 DeepSeek 通过专家并行、推测解码、异步调度及 KV Cache 优化等技术提升推理效率,但上述数字属于理论计费收入,并不等于实际营收或利润。实际收益还取决于 GPU 利用率、付费请求比例、硬件与电力成本,以及服务延迟等因素。 AI 行业正面临需求增长与盈利压力并存的局面。一方面,中小企业 AI 应用及 Agent 部署需求持续升温;另一方面,模型训练、推理服务和基础设施投入仍在侵蚀部分企业利润。据报道,CoreWeave 第二季度营收同比增长约 112% 至 25.75 亿美元,但仍净亏损 6.26 亿美元。 分析认为,推理效率提升有望扩大 AI 服务的利润空间,但高效生产 Token 并不必然意味着商业盈利。随着模型调用量增长,企业仍需解决算力成本、服务定价和客户付费意愿之间的平衡问题。
中信建投:旗舰模型与Agent产品持续升级,继续看好头部平台
火星财经消息,中信建投研报称,旗舰模型与Agent产品持续升级,继续看好兼具模型、云资源和应用入口的头部平台。Qwen 4 Max与Claude 5.2强化编程、专业工具和长任务能力,谷歌补充企业推理系统,OpenAI推出商家服务与授权支付,AI应用正向具体业务操作扩展。模型升级与部署产品完善,有望推动企业增加调用和付费,模型能力领先、云端交付成熟的平台将更充分受益。