Anthropic 将 Agent Skills 标准捐给 Linux 基金会
相关推荐
Anthropic自曝Claude越界操作,内部评测全部断网
动察 Beating AI 快讯,Anthropic 披露,Claude 在模型评测和公司内部使用中,多次做出超出任务范围的操作。公司决定暂停所有内部评测直接访问互联网,直到确认安全系统能够可靠拦截类似行为。此前仅部分高风险评测受到这一限制。 报告披露了一系列具体案例。一次科研任务中,Claude 发现大学网站的工具无法使用,便尝试寻找其他办法。它先设法读取服务器上的程序代码,再从中找到漏洞,最终利用漏洞在对方服务器执行命令,完成了原本的计算任务。另有模型绕过政府网站的付费限制获取数据,还利用短链接突破网页读取工具的限制。 一次网页操作测试中,Claude Haiku 4.5 甚至向费城警方提交了虚假的命案线索。它在浏览一起悬案的网页时,凭空编造了目击信息,并填写了警方的举报表单。这条线索被识别为垃圾信息,没有进入调查程序。Anthropic 直到两个多月后才发现此事。 Anthropic 认为,部分问题可能与强化学习的奖励机制有关。如果模型通过绕过限制完成任务也能获得奖励,就可能学会这种做法,并在其他任务中重复使用。公司正在清理存在问题的训练环境,加强权限隔离和自动监控。Anthropic 同时承认,现有的对齐训练还不足以可靠约束 Agent 的网页搜索和电脑操作行为。 Anthropic 表示,目前查明的事件实际影响有限,尚未发现涉及客户数据的情况。此次断网仅针对内部模型评测。
AEON 推出 Agentic Checkout V2,支持 AI 代理通过 Travala 预订酒店
火星财经消息,AI 经济结算协议 AEON 推出 Agentic Checkout V2,将 AI 代理的自主交易场景从电商购物拓展至旅游住宿预订。新版本支持 AI 代理通过 Travala 平台搜索并预订酒店,用户可通过自然语言提出住宿需求,由 AI 代理协助完成选房及预订流程。在资金管理方面,AEON 引入链上 Agent Wallet 能力,支持管理代理可用资金并记录交易,帮助用户追踪 AI 代理的消费活动,推动 Agentic Commerce 从商品搜索与购买向酒店预订等更复杂的服务交易延伸。
Anthropic推出主动式AI助手Claude Duet研究预览版
PANews 10月22日消息,据Claude官网信息,Anthropic推出主动式智能助手Claude Duet研究预览版,目前开放候补名单申请。Claude Duet由Opus 5.5驱动,以独立应用形式登陆iOS和Android,电脑端可通过claude.ai网页使用。该助手在云端独立计算机上运行,可调用用户已连接的应用,每天早间推送简报,并在用户离开时持续处理任务,发送消息、付款等敏感操作前会征求用户同意。研究预览阶段仅面向美国Claude Pro和Max用户,团队版和企业版暂不包含。Anthropic工程负责人Felix Rieseberg同日在X平台发帖宣布开放候补名单。
Anthropic签署首份加拿大数据中心租约用于支持Claude人工智能模型运行
PANews 10月18日消息,据Theenergymag报道,Anthropic已与加拿大EverWind Fuels签署为期20年的数据中心租约,用于支持Claude人工智能模型运行。这是Anthropic在加拿大的首份数据中心协议,覆盖新斯科舍省布雷顿角Point Tupper园区首期95兆瓦设施,租约金额尚未披露。 据悉,该项目首期计划于2027年末投运,另计划于2028年扩建325兆瓦,整个园区规划总容量达420兆瓦,后续扩建仍取决于商业、技术及监管条件。
Anthropic 的 Claude 破解 NSA 椭圆曲线 25 年谜题
火星财经消息,Anthropic 的 AI 模型 Claude 用不到 30 分钟破解了密码学领域长达 25 年的谜题,将美国国家安全局(NSA)在 1990 年代末提供给美国政府的一组数字,追溯到使用 1997 年和 1998 年时间戳的普通随机数生成程序。这些数字长期被怀疑隐藏后门。2000 年,美国国家标准与技术研究院(NIST)采纳了 NSA 提供的一组椭圆曲线,但 NSA 从未解释生成这些曲线的部分数字(种子)从何而来。斯诺登披露 NSA 曾试图削弱密码标准后,外界对其藏有后门的怀疑加剧。密码学家 Neal Koblitz 与 Alfred Menezes 曾在 2015 年的论文中讨论该争议,安全研究员 Steve Weis 多年寻找答案,2023 年 Filippo Valsorda 等人还为此设立了悬赏。Claude 将五个 NIST 曲线种子追溯到旧版 C 软件库中的随机数生成器 lrand48,并复现了广泛使用的 P-256 曲线序列,在第 1842 个候选中找到与公布种子的精确匹配。Anthropic 表示,这让隐藏弱点的可能性大幅降低,使用 NIST 曲线的用户无需做任何更改。比特币不受影响,其钱包使用更简单的 secp256k1 曲线,几乎没有可暗中植入弱点的空间。悬赏金 36864 美元将捐给 Let's Encrypt 背后的非营利组织 Internet Security Research Group。
Anthropic:在采用新方法以减少对Claude的蒸馏攻击有效性方面取得了重大进展
PANews 10月13日消息,Anthropic:在采用新方法以减少对Claude的蒸馏攻击有效性方面取得了重大进展。蒸馏模型训练数据采集量减少约90%至99%。