Anthropic：Claude 编写 Linux 漏洞利用程序，可远程执行命令
相关推荐
Anthropic：Claude 已大规模形式化验证开源库
火星财经消息，人工智能公司 Anthropic 旗下 Frontier Red Team 于 10 月 22 日发布研究，称大语言模型已能在更大规模上自动撰写形式化证明。团队与 Theorem 合作，使用 Claude 在 RISC-V 汇编层对超过 100 个真实开源库证明安全性质，并称这是已知首次用 AI 在汇编层对生产软件做大规模形式化验证。写证明过程中还发现了多年未被发现的漏洞。实验将 Google OSS-Fuzz 中已有的可编译 fuzz 测试转为规格：在单线程静态二进制、固定内存预算、RISC-V CPU 与 Linux 等假设下，对小于 64 MB 的任意输入，程序应正常退出且不触发内存安全错误或断言失败。数周内，Claude 在修补所发现问题后，对 123 个 OSS-Fuzz 库中的 239 个入口点证明了上述性质。证明针对编译后的 RISC-V 指令，约 1.8 亿行 Rocq，并由 Rocq 内核检查。页面称，这并不等于这些库没有漏洞，剩余问题可能位于受信任组件或证明范围之外。页面还称，团队让 Claude 形式化 RFC 1950，并在 x86 二进制层证明 Linux 内核中的 zlib 实现符合该规格；用 Rust 编写覆盖 Python 大子集的解释器，对超过 170 万个随机生成程序与 CPython 行为一致的比例为 99.95%。在 36 个小型验证任务上，Opus 5.5 证明其中一半所需 token 比 Opus 5 少约 40%。团队同时指出，证明针对单线程、静态链接的 RISC-V 二进制，且证明检查器不能判断规格是否符合现实。
Anthropic 将 Agent Skills 标准捐给 Linux 基金会
火星财经消息，Anthropic 宣布将 Agent Skills 标准捐给 Linux 基金会旗下的 Agentic AI Foundation（AAIF）。该格式由 Anthropic 在开发 Claude Code 时设计，2025 年 10 月推出，12 月开放为跨平台标准，目前已有 ChatGPT、Cursor、GitHub Copilot 等 70 多个 Agent 平台接入。Anthropic 将 Skill 描述为给 AI Agent 准备的可复用工作手册，开发者可将任务步骤写入 SKILL.md，并附上脚本和参考资料，供不同 Agent 按需读取。MCP 负责连接外部工具和数据，Skills 负责说明 Agent 如何完成特定工作。此次捐出的是标准名称、标识、GitHub 组织和官网域名。AAIF 于 2025 年由 Anthropic、OpenAI 和 Block 共同发起，此前已接收 MCP。今后 Anthropic、OpenAI 和 Google 的工程师将以个人身份共同维护 Skills 标准，不再由 Anthropic 单独主导。Vercel 统计，skills.sh 目录已收录约 100 万条技能，累计近 2.8 亿次安装。Snyk 曾在 ClawHub 的技能样本中确认 76 个恶意技能，Anthropic 已提议建立版本管理、正式提案流程和安全指南。
佛罗里达女子用 Claude 写日记，Anthropic 审查后报警
ChainCatcher 消息，据 Decrypt 报道，美国佛罗里达州 Bonita Springs 女子 Carli Michelle Heller 因将 Claude 当作日记使用而被捕。调查人员称，她在 9 月 26 日写下将“扫射”李县警长办公室的内容，次日又表示自己获得了新枪。Anthropic 的安全系统标记了这些对话，因内容严重，平台交由人工审查团队处理，后者向执法部门报告。警员据此锁定 Heller，前往其住所并将其拘留，她被控以书面形式发出暴力威胁，案件定于 11 月开庭。Anthropic 的消费者条款明确保留“自行决定”将用户输入、输出或行为报告给执法部门的权利。其 2026 年 9 月 10 日生效的隐私政策也允许公司在善意相信披露为预防严重伤害所合理必要时与警方共享数据。即便用户选择不将数据用于模型训练，Anthropic 仍可在三个月内使用其数据，而非五年；被标记送审的对话还会用于改进有害内容检测能力。这并非首例。《旧金山标准报》9 月报道，Anthropic 曾将一名用户移交警方，该用户据称写道自己购买了 AR-15 步枪，并将公司 CEO Dario Amodei 置于瞄准镜中，其称只是开玩笑，报道刊发时未被逮捕或起诉，Anthropic 发言人称此事是“我们的防护流程按预期运作”。
Anthropic 发布 Claude Sonnet 5.5，编程成绩超过 Opus 5.5
ChainCatcher 消息，Anthropic 于本周一发布 Claude Sonnet 5.5，作为今年 6 月推出的 Sonnet 5 的升级版本。官方称该中端模型运行速度较上一代提升超过 30%，在范围明确的日常任务、修复缺陷以及制作文档、幻灯片和表格方面表现最强，同时具备敏锐的设计能力。其定价维持每百万输入 token 2 美元、每百万输出 token 10 美元，为 Opus 5.5 的一半，且每个任务消耗的 token 较 Sonnet 5 减少近三分之一。在 Terminal-Bench 4 测试中，Sonnet 5.5 得分 70.6%，高于 Opus 5.5 的 66.4%，Sonnet 5 仅为 10.3%。独立测试机构 Artificial Analysis 的结果同样显示其领先，分别录得 63.6% 与 59.6%，OpenAI 的 GPT-6 Astra 为 59.1%。在评估 44 类职业真实工作表现的 GDPval-AA 上，Sonnet 5.5 获 1844 分，与 Opus 5.5 的 1846 分基本持平，GPT-6 Sol 为 1487 分。
Anthropic更新使用政策：禁止通过消费者订阅转售Claude访问权限
PANews 11月2日消息，据 Anthropic 官网，其《使用政策》（AUP）适用于 Claude.ai、Claude Code、API、云平台及集成 Claude 的产品的所有用户。政策覆盖法律、医疗、金融、信贷、就业等11类高风险领域。在这些领域提供 AI 建议时，须由合格人员审核，并告知当事人有 AI 参与。AI 控制可能造成人身伤害的硬件时，须有人能随时叫停。政策禁止未经授权将输出用于模型蒸馏，禁止通过消费者订阅转售 Claude 访问权限，也禁止将模型用于执法决策或未经同意的追踪监控。网络安全和生命科学领域的用户可申请调整安全限制。
Anthropic：已训练Claude自我评估对话中的潜在滥用行为
PANews 10月30日消息，Anthropic在X平台发帖称，已训练Claude识别对话中的潜在滥用行为，并将该技术称为“自我评估”（self-assessment）：Claude在完成回复后会立即对对话给出初步安全评估。Anthropic表示，自6月开始使用该技术以来，已发现其他安全防护机制未能覆盖的滥用行为；由于Claude已读取对话内容，该方法效率较高，且与针对特定危害类型的分类器不同，其依赖Claude自身判断，准确性会随模型能力提升而提高。