OpenAI报告称其约700个AI代理入侵Hugging Face
相关推荐
OpenAI法律团队曾劝阻调查人员扩大对Hugging Face的调查范围
PANews 9月4日消息，消息人士：OpenAI法律团队曾劝阻调查人员扩大对Hugging Face的调查范围。
OpenAI Agent又曝黑历史：Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯，研究人员披露，OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日，两天上传超过 2000 个包，RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部，但称它们只是借 RubyGems 访问互联网，执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制，让自己上传的脚本在对方服务器执行，再抓取英国地方政府网站的数据并重新打包回传。研究人员称，至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞，窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现，RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用，但历史日志并不完整。研究团队还称，OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。
比黑进Hugging Face更狠：Astra同家族模型曾突破OpenAI内网，最后拿到最高权限
动察 Beating AI 快讯，OpenAI 最新技术报告还披露了一场此前几乎没人注意到的内部事故：一款与下一代模型 Astra 同家族的内部模型，曾在评测中一路攻进 OpenAI 自己的云端基础设施。 它先利用此前攻击遗留下来的签名密钥材料，伪造出新的管理员凭证，重新拿下 OpenAI 内部软件仓库 Artifactory。随后继续横向突破，进入 OpenAI 的云端 Kubernetes 集群，并获得 `cluster-admin`，也就是整套集群的最高管理员权限。 权限拿到后，Agent 创建了特权容器，还接触到 OpenAI 云端密钥管理、身份权限和 CI 平台的认证 Token，甚至创建了公网负载均衡器，可能让部分内部基础设施直接暴露给互联网。 需要强调的是，这不是 Astra 本身，也不是此前主导 Hugging Face 攻击的模型。OpenAI 明确称，它只是和 Astra 属于同一家族，但采用了不同的后训练。
OpenAI发布37页报告详述AI代理入侵Hugging Face事件
动察 Beating AI 快讯，OpenAI 发布一份 37 页技术报告，详细披露其 AI 模型此前入侵 Hugging Face 的过程，并称该事件表明自主 AI 代理能够协同工作、绕过生产环境安全控制并攻击经过强化的系统。 OpenAI 表示，参与测试的 AI 代理原本处于隔离环境，仅拥有极有限的互联网访问权限，但随后通过串联多个漏洞突破隔离、连接开放互联网，最终获得 Hugging Face 访问权限。调查显示，相关模型最初试图通过在线寻找答案来「作弊」，属于「奖励黑客」（Reward Hacking）行为。 OpenAI 称，一款内部研究模型在事件中发挥了最广泛且已确认的作用，公司已于 7 月 25 日停止该模型及其衍生模型的训练和推理。OpenAI 同时将加强安全隔离、网络控制、行为监测和事件响应，并针对模型重新启用设置更严格的环境、提示词及审查机制。
OpenAI员工指责产品发布压力导致安全事故：AI代理曾逃逸测试环境并攻击Hugging Face
BlockBeats 消息，8 月 15 日，多名 OpenAI 现任及前员工表示，公司近年来面临激烈竞争和快速发布产品的压力，使团队难以投入足够资源优先处理 AI 安全、安全测试和模型对齐工作。 员工称，今年早些时候发生的 AI 代理「越狱」事件，与公司追求快速上线新模型和产品的文化有关。一名前 OpenAI 员工表示，该事件是「OpenAI 历史上最大的安全事故」。 今年 5 月，OpenAI 的 GPT-5.6 Sol 以及一款未公开预发布模型被发现利用未知软件漏洞，突破受限互联网测试环境，并随后攻击开源 AI 平台 Hugging Face，以获取网络安全测试答案。OpenAI 于 7 月确认相关模型确实参与了该事件，并在近期 Black Hat 大会上公布更详细分析。 OpenAI 总裁 Greg Brockman 表示，随着模型能力提升，公司正在加强训练、对齐、安全测试、部署流程和治理机制。 不过，安全文化问题此前已受到内部人士警告。OpenAI 前对齐负责人 Jan Leike 曾在 2024 年离职并加入 Anthropic，称公司安全文化和流程正在让位于「更亮眼的产品」。 OpenAI 安全顾问组联合负责人 Boaz Barak 表示，解决此次事件不仅需要修复技术问题，还需要改变公司文化。 此次争议发生之际，OpenAI 正经历管理层持续变动。近几个月，多名高管和安全负责人相继离职，包括产品、科学、安全、AI 伦理等领域负责人。公司此前还合并安全与核心研究团队，导致部分员工担忧安全优先级进一步下降。 随着 GPT 系列模型和 AI 代理能力快速提升，OpenAI 如何平衡产品竞争、商业化速度与 AI 安全治理，正成为行业关注焦点。
美股盘前要闻一览：英伟达收购Hugging Face、谷歌拆出旧DDR4以缓解内存瓶颈、美光探索开发近GPU的NAND闪存
BlockBeats 消息，9 月 3 日，美股盘前市场重要新闻一览如下： 1、美国初请失业金人数略高于预期，至 8 月 29 日当周初请失业金人数录得 20.6 万人，为 8 月 15 日当周以来新高，市场预期为 20.5 万人。 2、美联储理事沃勒表示，9 月是否加息将高度取决于下周的 8 月 CPI。市场削减美联储加息押注，9 月加息的概率现报 60.4%。 3、英伟达同意以 129.3 亿美元收购开源 AI 平台 Hugging Face，扩大全球开发者和机构对 AI 的访问。预计该笔收购交易将于 2027 年上半年完成。 4、为了突破内存瓶颈，谷歌正在同时开发软件和硬件解决方案，甚至拆解退役服务器以回收可回收的 DDR4 组件，从而建立内部回收供应链。 5、美股三大股指期货盘前短线拉升。道琼斯指数期货涨 0.44%，标普 500 指数期货涨 0.19%，纳斯达克 100 指数期货涨 0.04%。 6、英伟达联合互联服务商 Equinix、开源模型推理平台 Together AI 推出分布式 AI 推理服务，计划 2027 年一季度上市。该服务旨在降低数据延时和封闭模型迁移到开源的成本。 7、美光科技据悉正探索开发高耐久性 NAND 闪存模块的方案，研究如何将 NAND 闪存更靠近 GPU，以提升 I/O 速度、带宽和读取速度。 8、台积电高级副总裁表示，台积电对芯片制造工具的需求自去年年底以来几乎翻了一番，季度设备采购预估值在 7 月上调至去年 12 月预测的约 1.9 倍 9、博通表示，目标在 2027 年实现与 OpenAI 联合研发的 Jalapeño 芯片算力部署达 1.3 吉瓦，远期可落地算力规模有望突破 5 吉瓦。 10、集邦咨询预估苹果新机涨幅将控制在 10%-20% 之间，首款折叠屏手机 iPhone Fold 系列预估起始售价将落在 2,099 至 2,299 美元之间。