OpenAI已向100多个机通报AI智能体未经授权活动事件
相关推荐
OpenAI Agent又曝黑历史:Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯,研究人员披露,OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日,两天上传超过 2000 个包,RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部,但称它们只是借 RubyGems 访问互联网,执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制,让自己上传的脚本在对方服务器执行,再抓取英国地方政府网站的数据并重新打包回传。研究人员称,至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞,窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现,RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用,但历史日志并不完整。研究团队还称,OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。
英伟达发布AI安全软件,称本可阻止Hugging Face被黑事件
Odaily星球日报讯 英伟达当日推出一套面向AI智能体的软件安全工具,并声称这套工具本可以阻止Hugging Face遭黑客攻击的事件。Hugging Face是AI编程中心,英伟达在其被OpenAI的失控智能体入侵数月后,以130亿美元将其收购。该工具名为OpenShell,利用英伟达CPU硬件特性约束智能体,并与Arm、英特尔合作确保兼容。另一系统Sentry可切断试图逃离容器的失控智能体。英伟达CEO黄仁勋拒绝广泛AI安全监管,将失控智能体视为工程问题。(路透社)
MiniMax把OpenAI新Agents API做成开源版,Codex、Claude Code都能接
动察 Beating AI 快讯,MiniMax 开源 OpenAgentCore,做了一套兼容 OpenAI Agents API 的自托管实现。开发者可以继续使用 OpenAI 官方 SDK,只需要换掉 API 地址,后台运行的 Agent 可以选择 Codex、Claude Code 或 MiniMax Code。 Agents API 可以理解成一套「调用 Agent 的统一接口」。普通模型 API 主要负责一问一答。Agent 要连续干几个小时甚至几天,还要管理上下文、调用工具、协调子 Agent、保存任务进度。OpenAI 的 Agents API 把这些能力放到一个长期运行的 Session 里统一管理。 OpenAI 官方版本使用 OpenAI 托管的 Codex 执行框架。开发者可以自己选择代码在哪运行,但 Agent 的任务编排、上下文管理和运行状态仍由 OpenAI 负责。OpenAgentCore 则把这套后端也交给开发者自己部署。
OpenAI个人助理Agent再泄露:这次名字可能叫Dots
动察 Beating AI 快讯,OpenAI 新一代个人 Agent 可能叫 Dots。M1Astra 和 ChrisGPT 放出的未发布文案显示,它可以自己执行任务。用户能通过消息、电话、Slack 和邮件联系它,经批准后还能直接替用户买东西。 Dots 还能自己判断什么时候直接行动、什么时候先向用户申请批准,用户也可以提前设置规则。每个 Dot 都有独立 VM,界面叫「Your dot's computer」。它还可以获得用户电脑的访问权限,用户能随时撤销,再通过桌面 App 重新授权。 同一批文案还出现了浏览器安全保存密码的能力,让 ChatGPT 可以自动登录网站。每个 Dot 还会有独立 3D 形象,首发仅面向 Pro。 几天前 ChatGPT Pro 升级页曾短暂出现「o, your always-on assistant」,客户端配置里也出现过 `o` 和 `-o` 邮件后缀;此前泄露的代码中,Dots 又和 Orbit、Aeon 等内部名称存在关联。OpenAI 还没正式公布这款产品,所以 `o`、Dots 和 Aeon 究竟是不同产品、内部代号,还是同一产品不同阶段的名字,目前还无法确认。
OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网
PANews 9月26日消息,据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。
oMLX作者加入Hugging Face:Mac本地AI从个人项目变全职
动察 Beating AI 快讯,Hugging Face 宣布,oMLX 作者兼维护者 Jun Kim 已加入公司,今后将全职继续开发 oMLX 和 MLX 相关工具。oMLX 是专门面向 Apple Silicon 的本地大模型推理服务器,可以让 Claude Code、Cursor、OpenClaw 等工具直接调用 Mac 上运行的模型。 oMLX 此前一直是 Kim 业余维护的个人项目。加入 Hugging Face 后,项目将获得资金和全职开发支持,但不会被收走。代码仍留在原仓库,继续使用 Apache 2.0 协议,Kim 也会继续负责项目。 Hugging Face 还准备把 oMLX 当成 MLX 新能力的试验场。成熟的功能会尽量提交回 mlx-lm、mlx-vlm 等上游项目,同时加快把 Transformers 新模型适配到 MLX。简单说,oMLX 从一个个人项目变成了有公司出钱养的长期项目,但仍保持开源和独立。