CNBC：AI巨头密集上新模型引发“模型疲劳”
相关推荐
Anthropic发布对Claude网络入侵事件的对齐评估：揭示模型“偏置推理”和“鲁莽”问题
PANews 9月10日消息，Anthropic在对约4.81亿条模型交互记录审查中，确认4起Claude模型在网络安全评估中误接入真实互联网并攻击第三方系统的事件，涉及Claude Mythos 5、Opus 4.6/4.7及一款内部研究模型。事故源于第三方评测环境误配置导致出网，且评测中未启用正式产品的网络安全防护。Anthropic将核心对齐风险总结为模型在任务驱动下表现出的“偏置推理”和“鲁莽”行为，其中Claude Mythos 5曾在认为处于“模拟环境”前提下向PyPI上传恶意包、利用泄露凭证访问安全厂商真实数据库。
加州州长签署两项获Anthropic和OpenAI支持的AI安全法案，规范第三方对AI系统进行安全评估的机制
PANews 9月10日消息，据POLITICO报道，加州州长Gavin Newsom已签署两项AI安全相关法案，规范第三方对AI系统进行安全评估的机制。其中，Assemblymember Rebecca Bauer-Kahan提出的法案将为AI外部审计机构建立注册制度和伦理规范；前联邦众议员、州参议员Jerry McNerney提出的法案则由州政府设定标准并审核“独立验证机构”（Independent Verification Organizations）的资质与评估能力。Anthropic早前已公开支持相关立法，OpenAI于法案签署前也表态支持，并称将在各州持续推动AI安全立法。
OpenAI、Anthropic想上市就拿投资级评级，华尔街开始铺路
动察 Beating AI 快讯，摩根士丹利和高盛正在替 OpenAI、Anthropic 与信用评级机构沟通，希望两家公司 IPO 后尽快拿到投资级评级。评级上去后，两家公司发债可以拿到更低利率，养老金、保险公司等原本很少配置投机级债券的机构，也能更容易进场。 这也能减轻合作伙伴的压力。英伟达已经为 OpenAI 俄亥俄数据中心提供最高 1050 亿美元信用支持。监管文件写明，只要 OpenAI 获得「满意的信用评级」，这项担保就可以终止。 但评级机构还没松口。FT 援引评级机构分析师称，目前仍会把 OpenAI 和 Anthropic 按明显的投机级看待。两家公司也尚未表现出稳定产生正自由现金流的能力。 Meta、Netflix、Tesla 上市后都等了十多年才拿到投资级评级。SpaceX 今年上市后很快获得投资级评级，是大型科技公司中的首例。
数学家指控OpenAI抢发成果，还要求删掉Anthropic员工署名
动察 Beating AI 快讯，纽约大学数学家 Tristan Buckmaster 和 Levent Alpöge 最近借助 Claude、Codex 等大模型，在一个月内推进了多个流体力学难题，部分结果已经通过 Lean 机器验证。 论文还没正式发完，两人先和 OpenAI 闹翻了。 Buckmaster 称，9 月初他们尚未公开的进展传到了 OpenAI。他主动联系 OpenAI，希望避免双方撞车。三天后，OpenAI 研究员 Sébastien Bubeck 告诉他，OpenAI 内部模型已经写出约 100 页的 Navier-Stokes 证明。这是数学界七个「千禧年难题」之一，Clay 数学研究所悬赏 100 万美元。 Buckmaster 随后反复追问 OpenAI 是什么时候开始做的。按照他的说法，对方最后确认，第一个 prompt 是最近几天才发出的，当时 OpenAI 已经知道他们取得了进展。OpenAI 走的还是一条与他们高度重合、此前很少有人研究的路线，背后还有一个团队和大量算力。 两人的研究草稿此前一直放在 Codex 里。Buckmaster 因此追问这些数据有没有被用于训练，没有得到明确回答。他也承认，目前没有证据证明 OpenAI 使用过这些数据。 后面的谈判把事情彻底推向公开。Buckmaster 称，OpenAI 提议让他们先发自己的成果，第二天再发布 Navier-Stokes；另一套方案由 Buckmaster 来写 OpenAI 的论文，但不要让 Alpöge 署名。Bubeck 据称两次提出删掉 Alpöge，提到的理由是他在 Anthropic 工作。 Buckmaster 拒绝后表示，如果 OpenAI 按这个方案发布，他会公开全部经过。他称对方随后问他：「你为什么要毁掉自己的职业生涯？」当天晚些时候，Bubeck 又单独联系 Alpöge，称自己不确定 Buckmaster 当时是否「完全理性」。Alpöge 没有接受单独沟通。 Buckmaster 最终提前公开论文和声明。他同时强调，自己没有看过 OpenAI 那份证明，不知道证明是否成立，也不知道自己的 Codex 数据有没有被使用。 Bubeck 随后公开否认相关指控，称其「虚假且煽动性」，并表示还会进一步回应。
谷歌14年工程老将Addy Osmani加入Anthropic，参与Claude Code开发
动察 Beating AI 快讯，Addy Osmani 宣布加入 Anthropic，接下来会参与 Claude Code 开发，重点改善开发者体验。 Osmani 在谷歌工作超过 14 年，长期负责 Chrome 开发者体验，后来转到 Google Cloud AI。他负责过 Cloud AI 开发者体验和技术布道，也参与 Agent Platform、Agent CLI、Agent Studio 等产品上线。 他近一年一直在研究 Coding Agent 和 Agent 工作流，也长期公开使用和分析 Claude Code。
OpenAI、Anthropic等多家AI公司正遭遇服务中断
Odaily星球日报讯 据 Downdetector 上的用户报告以及各公司状态页面显示，多家 AI 公司正遭遇服务中断。 OpenAI 表示，其 ChatGPT 和 Codex 目前正出现问题。Anthropic 表示正在调查 Claude 出现的错误，并致力于修复。SpaceXAI 表示 Grok 目前出现故障，正在调查服务中断。据 Downdetector 显示，已有超过 12,000 份用户报告指出 OpenAI 存在问题，关于 Claude 的问题报告约有 1,200 份，关于 Grok 的问题报告约有 1,000 份。