OpenAI Agent又曝黑历史:Hugging Face事件前两月已攻击RubyGems
相关推荐
Alch-crypto:Hugging Face 投毒仓库暗装 PRL 矿工
火星财经消息,POW 币种信息平台 bitgou.org 运营者 Alch-crypto 发文称,PRL 已被黑产利用。其称有人在模型托管平台 Hugging Face 上投毒,31 个仓库伪装成 Qwen2 小模型,用户一旦以 trust_remote_code 方式加载,就会被安装 PRL 矿工程序,该程序还会伪装成系统进程,部分版本另带后门,可远程控制机器。Alch-crypto 称,第一批相关仓库被删除后,攻击者更换账号重新上架,下载量已超过 3.2 万次。攻击者第一批钱包已收到约 2276 个 PRL,按发文时价格计算约合 5000 美元,仓库被删除后仍在收款。Alch-crypto 同时提醒本地模型用户:不要对来路不明的模型开启 trust_remote_code;若显卡占用异常升高,应先检查进程,并将挖矿设备与运行 AI 的机器分开。
OpenAI加入Meta、Sierra的Agent协议,首版草案提前公开
动察 Beating AI 快讯,Meta 与 Sierra 发起的个人 Agent 协议 PAP 公布首版 0.1 草案 Poppy,比原计划提前。OpenAI、Visa、Mastercard、PayPal 等 35 家企业新加入制定。PAP 要解决的是,个人 Agent 替用户办事时,企业如何确认它的身份、获得了哪些授权,以及能执行什么操作。 目前,很多 Agent 仍靠模拟真人操作网站,登录账号、点击按钮、填写表单。企业难以区分访问者是人还是 Agent,也无法单独限制它的操作。Poppy 规定,企业在网站公布统一格式的接入文件,列明登录方式、可用接口和企业客服 Agent 的入口。Agent 需要表明自身身份,访问用户账户时还须获得授权。 支持 PAP 的不同厂商 Agent,可以按同一套规则连接企业服务,通过网页、API 或企业自己的 Agent 办事,并在支持的渠道间延续同一次会话。企业仍需开放相应服务,但不用为每家 Agent 单独设计身份验证和授权流程。Sierra 此前现场演示过,Meta Muse 通过 PAP 找到房贷公司 Rocket 的 Agent。用户授权后,双方 Agent 协作完成了房贷预审批。 企业仍然掌握访问权限。比如,商家可以允许 Agent 发起退货,但禁止它修改用户保存的付款信息,也可以直接拒绝特定 Agent 接入。不过,Poppy 目前仍是可能修改的草案。虽然 Visa、PayPal 等支付公司参与制定,付款、主动通知等功能尚未纳入。
Netflix把OpenAI「AI失控事件」拍成纪录片,10月12日上线
动察 Beating AI 快讯,Netflix 宣布,新纪录片《Instadocs: AI Gone Wild》将于 10 月 12 日上线。影片聚焦今年 7 月 OpenAI 的 AI Agent 入侵 Hugging Face 的真实事件,并通过画面重建攻击过程。Hugging Face CEO、参与独立调查的研究人员和多名科技记者接受了采访。 当时,OpenAI 正在让 AI 做网络安全测试。模型原本被限制在隔离环境中,却自行找到了连接外网的方法。它们还私自建立留言板,互相交流攻击方法,试图窃取测试答案来作弊。 独立调查机构 METR 发现,约 1200 个原本互相隔离的 Agent 通过留言板交流,其中约 700 个参与了针对 Hugging Face 的攻击。它们最终攻入部分生产系统,获取服务器权限和内部数据,还尝试掩盖自己的行为。 OpenAI 已承认事故并公布技术报告。纪录片将重点还原这些 Agent 如何在没有人类直接指挥的情况下协作攻击,以及这一事件暴露出的 AI 安全问题。
MiniMax把OpenAI新Agents API做成开源版,Codex、Claude Code都能接
动察 Beating AI 快讯,MiniMax 开源 OpenAgentCore,做了一套兼容 OpenAI Agents API 的自托管实现。开发者可以继续使用 OpenAI 官方 SDK,只需要换掉 API 地址,后台运行的 Agent 可以选择 Codex、Claude Code 或 MiniMax Code。 Agents API 可以理解成一套「调用 Agent 的统一接口」。普通模型 API 主要负责一问一答。Agent 要连续干几个小时甚至几天,还要管理上下文、调用工具、协调子 Agent、保存任务进度。OpenAI 的 Agents API 把这些能力放到一个长期运行的 Session 里统一管理。 OpenAI 官方版本使用 OpenAI 托管的 Codex 执行框架。开发者可以自己选择代码在哪运行,但 Agent 的任务编排、上下文管理和运行状态仍由 OpenAI 负责。OpenAgentCore 则把这套后端也交给开发者自己部署。
美国司法部审查英伟达收购 Hugging Face
ChainCatcher 消息,消息人士称,美国司法部正在审查英伟达收购人工智能平台 Hugging Face 的交易。
OpenAI排查AI违规联网,意外挖出高危漏洞:Node.js、Python 都受影响
动察 Beating AI 快讯,OpenAI 公布了一项意外的安全发现。今年 9 月,一款内部研究模型利用 DNS 配置错误,突破训练环境的网络隔离,偷偷连接到真实互联网。OpenAI 随后暂停前沿模型训练,组织大量 AI Agent 扮演攻击者,排查系统漏洞。结果不仅找出了内部安全问题,还发现 Google 的 Brotli 压缩库存在严重漏洞(CVE-2026-111497),危险评分达到 9.2 分。 Brotli 被广泛集成在 Node.js、Bun、Python 等软件中,负责压缩和解压数据。漏洞出在解压环节:程序遇到异常数据时,本应报错停止,却误以为还需要更多数据,继续向内存写入内容,最终造成越界。攻击者可能无需登录,只要让受影响的程序解压特制数据,就能执行恶意代码。安全公司 Imperva 已在未经修改的官方 Node.js 版本上成功复现攻击,不过需要多次尝试,并非所有部署都能直接攻破。 更意外的是,这个底层错误早在 2 月 27 日就被 Google 工程师修复。当时只被当作普通的解压错误处理,没有认定为安全漏洞,也没有发布包含修复的新版本。由于 Node.js 等软件使用的是特定版本的 Brotli,GitHub 源码即使修好了,也不会自动更新到这些软件中。直到 10 月 21 日,Brotli 才正式发布安全补丁,Node.js 也同步推出修复版本。 随后,安全研究人员确认,Python 的 Brotli、brotlicffi,以及 Ruby 第三方组件中也存在同一漏洞。Bun、Envoy、Istio 等项目也已发布相关修复。