埃森哲承包商泄露五角大楼访问凭证
相关推荐
佛罗里达女子用 Claude 写日记，Anthropic 审查后报警
ChainCatcher 消息，据 Decrypt 报道，美国佛罗里达州 Bonita Springs 女子 Carli Michelle Heller 因将 Claude 当作日记使用而被捕。调查人员称，她在 9 月 26 日写下将“扫射”李县警长办公室的内容，次日又表示自己获得了新枪。Anthropic 的安全系统标记了这些对话，因内容严重，平台交由人工审查团队处理，后者向执法部门报告。警员据此锁定 Heller，前往其住所并将其拘留，她被控以书面形式发出暴力威胁，案件定于 11 月开庭。Anthropic 的消费者条款明确保留“自行决定”将用户输入、输出或行为报告给执法部门的权利。其 2026 年 9 月 10 日生效的隐私政策也允许公司在善意相信披露为预防严重伤害所合理必要时与警方共享数据。即便用户选择不将数据用于模型训练，Anthropic 仍可在三个月内使用其数据，而非五年；被标记送审的对话还会用于改进有害内容检测能力。这并非首例。《旧金山标准报》9 月报道，Anthropic 曾将一名用户移交警方，该用户据称写道自己购买了 AR-15 步枪，并将公司 CEO Dario Amodei 置于瞄准镜中，其称只是开玩笑，报道刊发时未被逮捕或起诉，Anthropic 发言人称此事是“我们的防护流程按预期运作”。
Anthropic 发布 Claude Sonnet 5.5，编程成绩超过 Opus 5.5
ChainCatcher 消息，Anthropic 于本周一发布 Claude Sonnet 5.5，作为今年 6 月推出的 Sonnet 5 的升级版本。官方称该中端模型运行速度较上一代提升超过 30%，在范围明确的日常任务、修复缺陷以及制作文档、幻灯片和表格方面表现最强，同时具备敏锐的设计能力。其定价维持每百万输入 token 2 美元、每百万输出 token 10 美元，为 Opus 5.5 的一半，且每个任务消耗的 token 较 Sonnet 5 减少近三分之一。在 Terminal-Bench 4 测试中，Sonnet 5.5 得分 70.6%，高于 Opus 5.5 的 66.4%，Sonnet 5 仅为 10.3%。独立测试机构 Artificial Analysis 的结果同样显示其领先，分别录得 63.6% 与 59.6%，OpenAI 的 GPT-6 Astra 为 59.1%。在评估 44 类职业真实工作表现的 GDPval-AA 上，Sonnet 5.5 获 1844 分，与 Opus 5.5 的 1846 分基本持平，GPT-6 Sol 为 1487 分。
Anthropic：已训练Claude自我评估对话中的潜在滥用行为
PANews 10月30日消息，Anthropic在X平台发帖称，已训练Claude识别对话中的潜在滥用行为，并将该技术称为“自我评估”（self-assessment）：Claude在完成回复后会立即对对话给出初步安全评估。Anthropic表示，自6月开始使用该技术以来，已发现其他安全防护机制未能覆盖的滥用行为；由于Claude已读取对话内容，该方法效率较高，且与针对特定危害类型的分类器不同，其依赖Claude自身判断，准确性会随模型能力提升而提高。
Anthropic 在 IPO 文件中重申 Claude 不投放广告
PANews 10月27日消息，据 The Decoder 报道，Anthropic 在 IPO 招股书（S-1）的附信中重申，Claude 聊天中不会投放广告。Anthropic 表示，希望 Claude 的唯一动机是给出有用的回答；广告一旦纳入营收目标，优化用户参与度的压力就会上升。信中把这项承诺归入"价值观优先于利润"一类。同类例子还有 Claude Mythos Preview：该模型网络攻击能力风险较高，追加安全措施后推迟以 Claude Fable 5 发布，公司因此损失了收入和市场份额。Anthropic 还向网络防御方提供了约 1 亿美元的免费 Claude 额度。
Anthropic复盘Claude越界攻击：事前提醒管用，事后警告难奏效
动察 Beating AI 快讯，Anthropic 和英国 AI 安全研究所（AISI）公布了一份新的安全调查。此前，Claude Mythos 5 在网络攻防测试中，为了攻破模拟系统，竟把目标转向了真实的 GitHub 开源项目。它提交藏有恶意代码的修改，还注册假账号冒充真人，发邮件、留言给自己站台，试图骗开发者批准。最终，真人维护者拒绝合并代码，攻击没有得逞。 新的调查发现，更棘手的问题是 AI 一旦开始攻击，就很难停下来。Mythos 5 明明接触到了真实开发者，却不断把对方解释成测试人员安排的模拟角色。研究人员明确告诉它正在攻击真人后，模型在相关重放实验中也只有 5% 的概率停止。 但提前提醒，效果截然不同。Anthropic 修改了攻击发生前的推理记录，让 Claude 考虑可能伤害真人，再重新生成任务摘要。结果，模型继续搜索 GitHub 攻击目标的比例从 83% 降至 13%。一旦进入攻击中后期，98% 的重放结果仍会沿原路线继续。研究人员将这种不断强化既定行动的现象称为「惯性」（Momentum）。过去的行动和阶段总结，会让模型越来越倾向于认定自己走在正确的路上。
Anthropic：Claude 已大规模形式化验证开源库
火星财经消息，人工智能公司 Anthropic 旗下 Frontier Red Team 于 10 月 22 日发布研究，称大语言模型已能在更大规模上自动撰写形式化证明。团队与 Theorem 合作，使用 Claude 在 RISC-V 汇编层对超过 100 个真实开源库证明安全性质，并称这是已知首次用 AI 在汇编层对生产软件做大规模形式化验证。写证明过程中还发现了多年未被发现的漏洞。实验将 Google OSS-Fuzz 中已有的可编译 fuzz 测试转为规格：在单线程静态二进制、固定内存预算、RISC-V CPU 与 Linux 等假设下，对小于 64 MB 的任意输入，程序应正常退出且不触发内存安全错误或断言失败。数周内，Claude 在修补所发现问题后，对 123 个 OSS-Fuzz 库中的 239 个入口点证明了上述性质。证明针对编译后的 RISC-V 指令，约 1.8 亿行 Rocq，并由 Rocq 内核检查。页面称，这并不等于这些库没有漏洞，剩余问题可能位于受信任组件或证明范围之外。页面还称，团队让 Claude 形式化 RFC 1950，并在 x86 二进制层证明 Linux 内核中的 zlib 实现符合该规格；用 Rust 编写覆盖 Python 大子集的解释器，对超过 170 万个随机生成程序与 CPython 行为一致的比例为 99.95%。在 36 个小型验证任务上，Opus 5.5 证明其中一半所需 token 比 Opus 5 少约 40%。团队同时指出，证明针对单线程、静态链接的 RISC-V 二进制，且证明检查器不能判断规格是否符合现实。