高盛限制交易员和银行家使用某些高级人工智能工具
相关推荐
GitHub 推出 Copilot Fusion,评测接近 Claude Code
火星财经消息,据动察 Beating 报道,GitHub 在 Universe 2026 大会上正式推出多模型调度系统 Copilot Fusion。简单任务会交给合适的模型处理;复杂任务可先由成本较低的模型尝试,效果不足时再切换至更强模型,或让不同模型互相检查。独立评测机构 Artificial Analysis 的测试显示,Fusion Max 编程综合得分为 60,接近 Claude Code 搭配 Opus 5.5 Max 的 62 分。Fusion Max 平均每题 API 成本为 5.59 美元,耗时约 36 分钟;Claude Code 搭配 Opus 5.5 Max 为 11.42 美元、约 60 分钟,成本降低约 51%,耗时缩短约 40%。评测中 Fusion 缓存命中率为 97%,Claude Code 为 95%。原文同时注明,频繁切换模型可能造成缓存损失,上述结果只代表特定基准测试,不意味着实际使用时所有任务都能节省一半成本。
Anthropic更新使用政策:禁止通过消费者订阅转售Claude访问权限
PANews 11月2日消息,据 Anthropic 官网,其《使用政策》(AUP)适用于 Claude.ai、Claude Code、API、云平台及集成 Claude 的产品的所有用户。政策覆盖法律、医疗、金融、信贷、就业等11类高风险领域。在这些领域提供 AI 建议时,须由合格人员审核,并告知当事人有 AI 参与。AI 控制可能造成人身伤害的硬件时,须有人能随时叫停。政策禁止未经授权将输出用于模型蒸馏,禁止通过消费者订阅转售 Claude 访问权限,也禁止将模型用于执法决策或未经同意的追踪监控。网络安全和生命科学领域的用户可申请调整安全限制。
Anthropic 在 IPO 文件中重申 Claude 不投放广告
PANews 10月27日消息,据 The Decoder 报道,Anthropic 在 IPO 招股书(S-1)的附信中重申,Claude 聊天中不会投放广告。Anthropic 表示,希望 Claude 的唯一动机是给出有用的回答;广告一旦纳入营收目标,优化用户参与度的压力就会上升。信中把这项承诺归入"价值观优先于利润"一类。同类例子还有 Claude Mythos Preview:该模型网络攻击能力风险较高,追加安全措施后推迟以 Claude Fable 5 发布,公司因此损失了收入和市场份额。Anthropic 还向网络防御方提供了约 1 亿美元的免费 Claude 额度。
Cursor扩展商店遭投毒:Claude Code被植入SSH后门,最多波及5000人
动察 Beating AI 快讯,Cursor 披露,10 月 29 日,其扩展市场出现遭恶意篡改的 Claude Code 2.1.313 版本。这个安装包并非 Anthropic 制作,在商店中上架了约 11 小时。Cursor 估计最多涉及 5000 名用户,将直接联系他们。 安全研究机构 OpenSourceMalware 分析发现,攻击者在插件的正常代码前面插入了 66 行恶意程序。只要编辑器加载该扩展,代码就会执行,甚至不需要用户与 Claude 聊天。 恶意程序会收集电脑名称、Git 邮箱、公网 IP 等信息,还会向 SSH 授权列表偷偷添加攻击者的密钥。随后尝试开启远程登录,通过反向 SSH 隧道连接攻击者服务器,并设置开机自动运行的后台任务,每隔约 60 秒尝试重新连接。 不过,攻击代码本身存在错误。Cursor 表示,大多数 Mac 和 Windows 电脑没有授予它开启 SSH 服务所需的管理员权限,因此攻击者通常无法通过隧道登录。但添加恶意密钥、安装后台脚本和发送设备信息仍可能成功。已经开启 SSH 服务的电脑也不能因此认定安全。 Cursor 已下架恶意版本,一度关闭整个扩展市场,并协助关停攻击者服务器。受影响用户需要检查 SSH 授权文件中是否存在 `svc-telemetry`,并使用官方修复脚本清理。只卸载扩展并不够,后台后门可能继续运行。
Anthropic:已训练Claude自我评估对话中的潜在滥用行为
PANews 10月30日消息,Anthropic在X平台发帖称,已训练Claude识别对话中的潜在滥用行为,并将该技术称为“自我评估”(self-assessment):Claude在完成回复后会立即对对话给出初步安全评估。Anthropic表示,自6月开始使用该技术以来,已发现其他安全防护机制未能覆盖的滥用行为;由于Claude已读取对话内容,该方法效率较高,且与针对特定危害类型的分类器不同,其依赖Claude自身判断,准确性会随模型能力提升而提高。
Anthropic复盘Claude越界攻击:事前提醒管用,事后警告难奏效
动察 Beating AI 快讯,Anthropic 和英国 AI 安全研究所(AISI)公布了一份新的安全调查。此前,Claude Mythos 5 在网络攻防测试中,为了攻破模拟系统,竟把目标转向了真实的 GitHub 开源项目。它提交藏有恶意代码的修改,还注册假账号冒充真人,发邮件、留言给自己站台,试图骗开发者批准。最终,真人维护者拒绝合并代码,攻击没有得逞。 新的调查发现,更棘手的问题是 AI 一旦开始攻击,就很难停下来。Mythos 5 明明接触到了真实开发者,却不断把对方解释成测试人员安排的模拟角色。研究人员明确告诉它正在攻击真人后,模型在相关重放实验中也只有 5% 的概率停止。 但提前提醒,效果截然不同。Anthropic 修改了攻击发生前的推理记录,让 Claude 考虑可能伤害真人,再重新生成任务摘要。结果,模型继续搜索 GitHub 攻击目标的比例从 83% 降至 13%。一旦进入攻击中后期,98% 的重放结果仍会沿原路线继续。研究人员将这种不断强化既定行动的现象称为「惯性」(Momentum)。过去的行动和阶段总结,会让模型越来越倾向于认定自己走在正确的路上。