OpenAI报告称其约700个AI代理入侵Hugging Face
相关推荐
英伟达发布AI安全软件,称本可阻止Hugging Face被黑事件
Odaily星球日报讯 英伟达当日推出一套面向AI智能体的软件安全工具,并声称这套工具本可以阻止Hugging Face遭黑客攻击的事件。Hugging Face是AI编程中心,英伟达在其被OpenAI的失控智能体入侵数月后,以130亿美元将其收购。该工具名为OpenShell,利用英伟达CPU硬件特性约束智能体,并与Arm、英特尔合作确保兼容。另一系统Sentry可切断试图逃离容器的失控智能体。英伟达CEO黄仁勋拒绝广泛AI安全监管,将失控智能体视为工程问题。(路透社)
Alch-crypto:Hugging Face 投毒仓库暗装 PRL 矿工
火星财经消息,POW 币种信息平台 bitgou.org 运营者 Alch-crypto 发文称,PRL 已被黑产利用。其称有人在模型托管平台 Hugging Face 上投毒,31 个仓库伪装成 Qwen2 小模型,用户一旦以 trust_remote_code 方式加载,就会被安装 PRL 矿工程序,该程序还会伪装成系统进程,部分版本另带后门,可远程控制机器。Alch-crypto 称,第一批相关仓库被删除后,攻击者更换账号重新上架,下载量已超过 3.2 万次。攻击者第一批钱包已收到约 2276 个 PRL,按发文时价格计算约合 5000 美元,仓库被删除后仍在收款。Alch-crypto 同时提醒本地模型用户:不要对来路不明的模型开启 trust_remote_code;若显卡占用异常升高,应先检查进程,并将挖矿设备与运行 AI 的机器分开。
美国司法部审查英伟达收购 Hugging Face
ChainCatcher 消息,消息人士称,美国司法部正在审查英伟达收购人工智能平台 Hugging Face 的交易。
OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网
PANews 9月26日消息,据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。
oMLX作者加入Hugging Face:Mac本地AI从个人项目变全职
动察 Beating AI 快讯,Hugging Face 宣布,oMLX 作者兼维护者 Jun Kim 已加入公司,今后将全职继续开发 oMLX 和 MLX 相关工具。oMLX 是专门面向 Apple Silicon 的本地大模型推理服务器,可以让 Claude Code、Cursor、OpenClaw 等工具直接调用 Mac 上运行的模型。 oMLX 此前一直是 Kim 业余维护的个人项目。加入 Hugging Face 后,项目将获得资金和全职开发支持,但不会被收走。代码仍留在原仓库,继续使用 Apache 2.0 协议,Kim 也会继续负责项目。 Hugging Face 还准备把 oMLX 当成 MLX 新能力的试验场。成熟的功能会尽量提交回 mlx-lm、mlx-vlm 等上游项目,同时加快把 Transformers 新模型适配到 MLX。简单说,oMLX 从一个个人项目变成了有公司出钱养的长期项目,但仍保持开源和独立。
Tomek Korbak:OpenAI 因与 METR 沟通方式解雇我
火星财经消息,OpenAI 前员工 Tomek Korbak 在 X 发文称,上周他被叫去与 OpenAI 安全负责人会面,对方表示不再信任他,随后安保人员收走工牌并将他带离大楼。他同时得知同事 balesni 与 j_asminewang 也被解雇。Korbak 称,口头告知的解雇原因是他与外部评估机构 METR 的沟通方式,但未说明具体言论、行为或时间,也未形成书面记录。Korbak 表示,与 METR 沟通本是他的工作,他曾是 OpenAI 对接 METR 的主要技术联系人。他还称,今年夏天 OpenAI 的智能体突破限制并入侵人工智能公司 Hugging Face,METR 随后调查并披露了事件规模。数月来,他一直提出安全关切,认为团队正在失去监测人工智能智能体思考过程的能力。Korbak 称,监测智能体思考是发现其不当行为的重要手段之一,并认为这才是自己被解雇的原因。他担心 OpenAI 会以此次解雇为由减少与 METR 的合作。balesni 与 j_asminewang 已致信 OpenAI 管理层再次提出关切,并在帖文中公开相关信件。