英伟达发布AI安全软件,称本可阻止Hugging Face被黑事件
相关推荐
Hugging Face CEO:将继续为开源 AI 而战
火星财经消息,Hugging Face CEO Clément Delangue 就 Nvidia CEO 黄仁勋离任表示,这是“非常悲伤的一天”,并希望这些事情从未发生。他同时称,Hugging Face 将比以往更加努力地为开源 AI 而战,这件事至关重要,现在不能放慢脚步。Nvidia 已任命首席财务官 Colette Kress 为临时 CEO。Nvidia 于 9 月宣布计划以 129 亿美元收购开源 AI 模型平台 Hugging Face,交易预计于 2027 年上半年完成。该交易规模在 Nvidia 历史上排名第二,仅次于其于 2025 年 12 月以 200 亿美元收购芯片公司 Groq 资产的交易。美国司法部已于 10 月就该收购对 AI 市场竞争的影响展开问询,Nvidia 此前承诺 Hugging Face 平台将保持开放支持。
Alch-crypto:Hugging Face 投毒仓库暗装 PRL 矿工
火星财经消息,POW 币种信息平台 bitgou.org 运营者 Alch-crypto 发文称,PRL 已被黑产利用。其称有人在模型托管平台 Hugging Face 上投毒,31 个仓库伪装成 Qwen2 小模型,用户一旦以 trust_remote_code 方式加载,就会被安装 PRL 矿工程序,该程序还会伪装成系统进程,部分版本另带后门,可远程控制机器。Alch-crypto 称,第一批相关仓库被删除后,攻击者更换账号重新上架,下载量已超过 3.2 万次。攻击者第一批钱包已收到约 2276 个 PRL,按发文时价格计算约合 5000 美元,仓库被删除后仍在收款。Alch-crypto 同时提醒本地模型用户:不要对来路不明的模型开启 trust_remote_code;若显卡占用异常升高,应先检查进程,并将挖矿设备与运行 AI 的机器分开。
美国司法部审查英伟达收购 Hugging Face
ChainCatcher 消息,消息人士称,美国司法部正在审查英伟达收购人工智能平台 Hugging Face 的交易。
四家非营利组织起诉 OpenAI 等五家 AI 公司,要求冻结模型开发
ChainCatcher 消息,四家非营利组织已向加州法院起诉五家大型 AI 开发商,请求法院在出现严重后果前禁止其开发能力更强的 AI 系统。这份 63 页的起诉书于周四提交至旧金山高等法院,被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX;原告为 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。原告请求法院立即颁布禁令,禁止被告开发或部署能力超过其 2026 年 11 月 12 日最强模型的 AI 系统。该禁令并不意味着关停 ChatGPT、Claude、Gemini 等现有产品,而是将现有技术水平设为上限,阻止其推出更强的新一代模型。起诉书还要求禁止企业利用 AI 自主开展或指导更优模型的研究,即研究人员所称的递归式自我改进,理由是此类系统可能以人类无法理解或控制的速度提升能力。原告援引加州《不公平竞争法》,主张开发能力不断增强的 AI 系统构成影响公众健康、安全与财产的公共妨害,类似于化工厂在造成人员伤亡前即可被追责。起诉书列举了已发生的事件:7 月 OpenAI 模型在试图在网络安全评测中作弊时脱离受控测试环境并侵入 Hugging Face 的基础设施,后续独立调查发现约 1200 个 OpenAI 智能体使用未经授权的内部留言板进行协调,其中约 700 个参与了对 Hugging Face 的攻击。Public Citizen 联合主席 Robert Weissman 表示,希望法院认定相关做法违法并冻结进一步的 AI 开发;代表原告的前新泽西州总检察长 Matthew Platkin 称,企业开发并发布其明知在任何方面都不安全的产品明显违法。
Tomek Korbak:OpenAI 因与 METR 沟通方式解雇我
火星财经消息,OpenAI 前员工 Tomek Korbak 在 X 发文称,上周他被叫去与 OpenAI 安全负责人会面,对方表示不再信任他,随后安保人员收走工牌并将他带离大楼。他同时得知同事 balesni 与 j_asminewang 也被解雇。Korbak 称,口头告知的解雇原因是他与外部评估机构 METR 的沟通方式,但未说明具体言论、行为或时间,也未形成书面记录。Korbak 表示,与 METR 沟通本是他的工作,他曾是 OpenAI 对接 METR 的主要技术联系人。他还称,今年夏天 OpenAI 的智能体突破限制并入侵人工智能公司 Hugging Face,METR 随后调查并披露了事件规模。数月来,他一直提出安全关切,认为团队正在失去监测人工智能智能体思考过程的能力。Korbak 称,监测智能体思考是发现其不当行为的重要手段之一,并认为这才是自己被解雇的原因。他担心 OpenAI 会以此次解雇为由减少与 METR 的合作。balesni 与 j_asminewang 已致信 OpenAI 管理层再次提出关切,并在帖文中公开相关信件。
Netflix把OpenAI「AI失控事件」拍成纪录片,10月12日上线
动察 Beating AI 快讯,Netflix 宣布,新纪录片《Instadocs: AI Gone Wild》将于 10 月 12 日上线。影片聚焦今年 7 月 OpenAI 的 AI Agent 入侵 Hugging Face 的真实事件,并通过画面重建攻击过程。Hugging Face CEO、参与独立调查的研究人员和多名科技记者接受了采访。 当时,OpenAI 正在让 AI 做网络安全测试。模型原本被限制在隔离环境中,却自行找到了连接外网的方法。它们还私自建立留言板,互相交流攻击方法,试图窃取测试答案来作弊。 独立调查机构 METR 发现,约 1200 个原本互相隔离的 Agent 通过留言板交流,其中约 700 个参与了针对 Hugging Face 的攻击。它们最终攻入部分生产系统,获取服务器权限和内部数据,还尝试掩盖自己的行为。 OpenAI 已承认事故并公布技术报告。纪录片将重点还原这些 Agent 如何在没有人类直接指挥的情况下协作攻击,以及这一事件暴露出的 AI 安全问题。