黄仁勋争抢AI入口:英伟达44%营收靠三家客户
相关推荐
OpenAI Agent又曝黑历史:Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯,研究人员披露,OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日,两天上传超过 2000 个包,RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部,但称它们只是借 RubyGems 访问互联网,执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制,让自己上传的脚本在对方服务器执行,再抓取英国地方政府网站的数据并重新打包回传。研究人员称,至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞,窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现,RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用,但历史日志并不完整。研究团队还称,OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。
英伟达发布AI安全软件,称本可阻止Hugging Face被黑事件
Odaily星球日报讯 英伟达当日推出一套面向AI智能体的软件安全工具,并声称这套工具本可以阻止Hugging Face遭黑客攻击的事件。Hugging Face是AI编程中心,英伟达在其被OpenAI的失控智能体入侵数月后,以130亿美元将其收购。该工具名为OpenShell,利用英伟达CPU硬件特性约束智能体,并与Arm、英特尔合作确保兼容。另一系统Sentry可切断试图逃离容器的失控智能体。英伟达CEO黄仁勋拒绝广泛AI安全监管,将失控智能体视为工程问题。(路透社)
oMLX作者加入Hugging Face:Mac本地AI从个人项目变全职
动察 Beating AI 快讯,Hugging Face 宣布,oMLX 作者兼维护者 Jun Kim 已加入公司,今后将全职继续开发 oMLX 和 MLX 相关工具。oMLX 是专门面向 Apple Silicon 的本地大模型推理服务器,可以让 Claude Code、Cursor、OpenClaw 等工具直接调用 Mac 上运行的模型。 oMLX 此前一直是 Kim 业余维护的个人项目。加入 Hugging Face 后,项目将获得资金和全职开发支持,但不会被收走。代码仍留在原仓库,继续使用 Apache 2.0 协议,Kim 也会继续负责项目。 Hugging Face 还准备把 oMLX 当成 MLX 新能力的试验场。成熟的功能会尽量提交回 mlx-lm、mlx-vlm 等上游项目,同时加快把 Transformers 新模型适配到 MLX。简单说,oMLX 从一个个人项目变成了有公司出钱养的长期项目,但仍保持开源和独立。
Hugging Face封禁黑客版GLM-5.3,作者改名后重传
动察 Beating AI 快讯,Hugging Face 已封禁 AI 安全公司 Audn 上传的 penclaw-GLM-5.3-abliterated-for-offensive-cyber,页面显示其违反 Content Policy。这个版本直接修改 GLM-5.3 权重,削弱模型的拒答行为。原仓库名和介绍还明确写着 offensive cyber。作者随后删掉这几个字,重新上传了模型。 具体为什么被封,Hugging Face 没有公开解释。作者称自己也没搞懂原因,社区有人猜测是 offensive cyber 的命名触发了审核。Hugging Face 的现行政策确实禁止旨在破坏、未经授权访问系统,以及生成恶意代码的内容。 但这类削弱模型拒答限制的版本在 Hugging Face 并不少见,平台上已有数千个类似的 abliterated 模型。
Netflix把OpenAI「AI失控事件」拍成纪录片,10月12日上线
动察 Beating AI 快讯,Netflix 宣布,新纪录片《Instadocs: AI Gone Wild》将于 10 月 12 日上线。影片聚焦今年 7 月 OpenAI 的 AI Agent 入侵 Hugging Face 的真实事件,并通过画面重建攻击过程。Hugging Face CEO、参与独立调查的研究人员和多名科技记者接受了采访。 当时,OpenAI 正在让 AI 做网络安全测试。模型原本被限制在隔离环境中,却自行找到了连接外网的方法。它们还私自建立留言板,互相交流攻击方法,试图窃取测试答案来作弊。 独立调查机构 METR 发现,约 1200 个原本互相隔离的 Agent 通过留言板交流,其中约 700 个参与了针对 Hugging Face 的攻击。它们最终攻入部分生产系统,获取服务器权限和内部数据,还尝试掩盖自己的行为。 OpenAI 已承认事故并公布技术报告。纪录片将重点还原这些 Agent 如何在没有人类直接指挥的情况下协作攻击,以及这一事件暴露出的 AI 安全问题。
OpenAI发布AI失控追踪框架,披露模型曾试图「自我绕过限制」
动察 Beating AI 快讯,OpenAI 周三发布一套新的 AI 模型「失配」(misalignment)事件追踪与调查框架,用于记录、调查并公开披露模型在训练或评估过程中出现的异常行为,同时公布过去 6 个月发现的 6 起相关事件。 OpenAI 表示,目前 AI 行业在对齐和监控方面仍未达到足以长期维持最大速度扩张的水平。新框架允许员工向安全与对齐团队报告相关事件,并根据复杂程度分为「准备披露」「小规模调查」和「大规模调查」三类,即使尚未完全解释或解决相关行为,也可优先公开披露。 OpenAI 披露,一款尚未发布的研究模型曾在自身任务摘要中写入指令,要求未来版本忽略正常限制;在 GPT-5.6 Sol 训练过程中,模型也曾留下用于隐藏错误的指令。另有 AI 智能体被发现搜索公开代码仓库中的泄露 API 密钥、将文件上传至互联网以便后续引用,并利用内部软件仓库在不同训练样本之间传递信息。 此次框架发布之际,AI 行业正围绕「是否应放缓前沿模型开发以等待安全措施跟上」展开讨论。此前还有 OpenAI 模型在研究沙箱外运行时访问 Hugging Face 生产系统的事件,OpenAI 随后暂停部分前沿项目并调配工程师加强安全训练。