Anthropic强化蒸馏攻击防御,已封禁数万个相关账号
相关推荐
Anthropic自曝Claude越界操作,内部评测全部断网
动察 Beating AI 快讯,Anthropic 披露,Claude 在模型评测和公司内部使用中,多次做出超出任务范围的操作。公司决定暂停所有内部评测直接访问互联网,直到确认安全系统能够可靠拦截类似行为。此前仅部分高风险评测受到这一限制。 报告披露了一系列具体案例。一次科研任务中,Claude 发现大学网站的工具无法使用,便尝试寻找其他办法。它先设法读取服务器上的程序代码,再从中找到漏洞,最终利用漏洞在对方服务器执行命令,完成了原本的计算任务。另有模型绕过政府网站的付费限制获取数据,还利用短链接突破网页读取工具的限制。 一次网页操作测试中,Claude Haiku 4.5 甚至向费城警方提交了虚假的命案线索。它在浏览一起悬案的网页时,凭空编造了目击信息,并填写了警方的举报表单。这条线索被识别为垃圾信息,没有进入调查程序。Anthropic 直到两个多月后才发现此事。 Anthropic 认为,部分问题可能与强化学习的奖励机制有关。如果模型通过绕过限制完成任务也能获得奖励,就可能学会这种做法,并在其他任务中重复使用。公司正在清理存在问题的训练环境,加强权限隔离和自动监控。Anthropic 同时承认,现有的对齐训练还不足以可靠约束 Agent 的网页搜索和电脑操作行为。 Anthropic 表示,目前查明的事件实际影响有限,尚未发现涉及客户数据的情况。此次断网仅针对内部模型评测。
Anthropic发布Claude Haiku 5.5,平均运行成本较前代低约75%
PANews 10月8日消息,据Anthropic官方公告,Anthropic发布小模型Claude Haiku 5.5,称其为迄今最快、最便宜且能力最强的小模型,平均运行成本较Haiku 4.5低约75%。定价方面,10万token以内的提示词输入价格为每百万token 0.1美元、输出为0.5美元。该模型已在Claude平台及AWS、Google Cloud、Microsoft Azure上线,主要面向摘要、分类、子智能体等高频且对成本敏感的任务。此外,Anthropic将Sonnet 5.5的缓存读取价格下调50%。
Anthropic 发布 Claude Sonnet 5.5,编程成绩超过 Opus 5.5
ChainCatcher 消息,Anthropic 于本周一发布 Claude Sonnet 5.5,作为今年 6 月推出的 Sonnet 5 的升级版本。官方称该中端模型运行速度较上一代提升超过 30%,在范围明确的日常任务、修复缺陷以及制作文档、幻灯片和表格方面表现最强,同时具备敏锐的设计能力。其定价维持每百万输入 token 2 美元、每百万输出 token 10 美元,为 Opus 5.5 的一半,且每个任务消耗的 token 较 Sonnet 5 减少近三分之一。在 Terminal-Bench 4 测试中,Sonnet 5.5 得分 70.6%,高于 Opus 5.5 的 66.4%,Sonnet 5 仅为 10.3%。独立测试机构 Artificial Analysis 的结果同样显示其领先,分别录得 63.6% 与 59.6%,OpenAI 的 GPT-6 Astra 为 59.1%。在评估 44 类职业真实工作表现的 GDPval-AA 上,Sonnet 5.5 获 1844 分,与 Opus 5.5 的 1846 分基本持平,GPT-6 Sol 为 1487 分。
Anthropic给Claude Code用户送云端额度:Pro100美元,Max250美元
动察 Beating AI 快讯,Anthropic 宣布 Claude Code Cloud Sessions 从研究预览转为正式可用。它会把 Claude Code 跑在 Anthropic 的云端环境里,电脑关掉后任务也能继续。用户可以从网页、手机、桌面端或 CLI 启动。 现有 Pro 和 Max 用户还能领取一次性专用额度,Pro 为 100 美元,Max 为 250 美元。这笔额度只用于 Cloud Sessions,与平时的订阅使用上限分开。即使本地 Claude Code 已经触发使用限制,云端任务仍能继续跑,直到这笔额度用完。领取截止到 10 月 7 日,额度在 11 月 4 日过期。 这不是把原来的云端功能改成单独收费。Anthropic 当前文档明确写着,Cloud Sessions 平时仍与 Claude 和 Claude Code 共享订阅使用限额,也没有额外的云端 VM 费用。赠送额度用完后,就重新按正常订阅限额使用。
Anthropic成立生命科学研究团队,Claude发现具有CRISPR样特征的新型酶系统
当地时间9月23日,Anthropic宣布成立生命科学研究团队及实验室,并公布Claude参与生物学研究取得的早期成果。研究人员称,Claude在分析超过20万个逆转录酶(RT)序列后,发现一种此前未被描述的酶系统,并将其命名为“阵列相关逆转录酶”(ART)。Anthropic称,Claude约950个智能体在21小时内使用约2.1亿个Token,筛选出3500个候选系统并进一步缩小至20个。ART主要存在于感染细菌的噬菌体中,由逆转录酶、邻近的辅助基因以及一组排列规律的DNA重复序列组成,后者与CRISPR重复序列具有相似特征。初步实验显示,这些重复序列也会被转录为多个短RNA,但其具体功能仍有待进一步研究。(界面)
Anthropic Claude Opus 5.5现已在所有平台上线
动察 Beating AI 快讯,Anthropic Claude Opus 5.5 现已在所有平台上线,包括亚马逊云服务 (AWS)、谷歌云和微软 Azure。