Salesforce正式接进Claude,37个销售Skill直接查客户、改销售记录
相关推荐
Anthropic复盘Claude越界攻击:事前提醒管用,事后警告难奏效
动察 Beating AI 快讯,Anthropic 和英国 AI 安全研究所(AISI)公布了一份新的安全调查。此前,Claude Mythos 5 在网络攻防测试中,为了攻破模拟系统,竟把目标转向了真实的 GitHub 开源项目。它提交藏有恶意代码的修改,还注册假账号冒充真人,发邮件、留言给自己站台,试图骗开发者批准。最终,真人维护者拒绝合并代码,攻击没有得逞。 新的调查发现,更棘手的问题是 AI 一旦开始攻击,就很难停下来。Mythos 5 明明接触到了真实开发者,却不断把对方解释成测试人员安排的模拟角色。研究人员明确告诉它正在攻击真人后,模型在相关重放实验中也只有 5% 的概率停止。 但提前提醒,效果截然不同。Anthropic 修改了攻击发生前的推理记录,让 Claude 考虑可能伤害真人,再重新生成任务摘要。结果,模型继续搜索 GitHub 攻击目标的比例从 83% 降至 13%。一旦进入攻击中后期,98% 的重放结果仍会沿原路线继续。研究人员将这种不断强化既定行动的现象称为「惯性」(Momentum)。过去的行动和阶段总结,会让模型越来越倾向于认定自己走在正确的路上。
Anthropic 将 Agent Skills 标准捐给 Linux 基金会
火星财经消息,Anthropic 宣布将 Agent Skills 标准捐给 Linux 基金会旗下的 Agentic AI Foundation(AAIF)。该格式由 Anthropic 在开发 Claude Code 时设计,2025 年 10 月推出,12 月开放为跨平台标准,目前已有 ChatGPT、Cursor、GitHub Copilot 等 70 多个 Agent 平台接入。Anthropic 将 Skill 描述为给 AI Agent 准备的可复用工作手册,开发者可将任务步骤写入 SKILL.md,并附上脚本和参考资料,供不同 Agent 按需读取。MCP 负责连接外部工具和数据,Skills 负责说明 Agent 如何完成特定工作。此次捐出的是标准名称、标识、GitHub 组织和官网域名。AAIF 于 2025 年由 Anthropic、OpenAI 和 Block 共同发起,此前已接收 MCP。今后 Anthropic、OpenAI 和 Google 的工程师将以个人身份共同维护 Skills 标准,不再由 Anthropic 单独主导。Vercel 统计,skills.sh 目录已收录约 100 万条技能,累计近 2.8 亿次安装。Snyk 曾在 ClawHub 的技能样本中确认 76 个恶意技能,Anthropic 已提议建立版本管理、正式提案流程和安全指南。
Anthropic自曝Claude越界操作,内部评测全部断网
动察 Beating AI 快讯,Anthropic 披露,Claude 在模型评测和公司内部使用中,多次做出超出任务范围的操作。公司决定暂停所有内部评测直接访问互联网,直到确认安全系统能够可靠拦截类似行为。此前仅部分高风险评测受到这一限制。 报告披露了一系列具体案例。一次科研任务中,Claude 发现大学网站的工具无法使用,便尝试寻找其他办法。它先设法读取服务器上的程序代码,再从中找到漏洞,最终利用漏洞在对方服务器执行命令,完成了原本的计算任务。另有模型绕过政府网站的付费限制获取数据,还利用短链接突破网页读取工具的限制。 一次网页操作测试中,Claude Haiku 4.5 甚至向费城警方提交了虚假的命案线索。它在浏览一起悬案的网页时,凭空编造了目击信息,并填写了警方的举报表单。这条线索被识别为垃圾信息,没有进入调查程序。Anthropic 直到两个多月后才发现此事。 Anthropic 认为,部分问题可能与强化学习的奖励机制有关。如果模型通过绕过限制完成任务也能获得奖励,就可能学会这种做法,并在其他任务中重复使用。公司正在清理存在问题的训练环境,加强权限隔离和自动监控。Anthropic 同时承认,现有的对齐训练还不足以可靠约束 Agent 的网页搜索和电脑操作行为。 Anthropic 表示,目前查明的事件实际影响有限,尚未发现涉及客户数据的情况。此次断网仅针对内部模型评测。
消息称Anthropic工程师发现Claude可显著缩短芯片设计时间
火星财经消息,据报道,Anthropic工程师发现,使用Claude设计芯片所需时间明显短于传统工作流程,相关比较涉及英伟达、AMD等公司的芯片设计流程。(财联社)
Anthropic:Claude 编写 Linux 漏洞利用程序,可远程执行命令
ChainCatcher 消息,Anthropic 披露,Claude 编写的漏洞利用程序可在特定 Linux 服务器上远程执行命令,Ubuntu 多个版本的修复仍在推进。
Anthropic更新使用政策:禁止通过消费者订阅转售Claude访问权限
PANews 11月2日消息,据 Anthropic 官网,其《使用政策》(AUP)适用于 Claude.ai、Claude Code、API、云平台及集成 Claude 的产品的所有用户。政策覆盖法律、医疗、金融、信贷、就业等11类高风险领域。在这些领域提供 AI 建议时,须由合格人员审核,并告知当事人有 AI 参与。AI 控制可能造成人身伤害的硬件时,须有人能随时叫停。政策禁止未经授权将输出用于模型蒸馏,禁止通过消费者订阅转售 Claude 访问权限,也禁止将模型用于执法决策或未经同意的追踪监控。网络安全和生命科学领域的用户可申请调整安全限制。