接连发生失控事件,OpenAI再次暂停其最先进模型训练
相关推荐
前OpenAI研究负责人:AI真实能力短板藏在看似简单的任务中
在2026年人工智能峰会上,Core Automation公司首席执行官杰瑞·特沃雷克指出,衡量人工智能进步的最佳标准并非其最惊艳的演示效果,而是那些模型目前依然无法完成的“看似简单”的任务。这位前OpenAI研究负责人强调,技术的快速飞跃很容易让人忽视模型在部分领域其实毫无进展,而这些短板恰恰是决定人工智能能否可靠胜任现实世界工作的关键。(新浪财经)
OpenAI版Grok Bot露出:名字只有一个字母「o」
动察 Beating AI 快讯,OpenAI 疑似正在准备一款名为「o」的常驻 AI 助手。用户 Jake Boggs 在 ChatGPT Pro 升级页看到一项尚未发布的权益:「o, your always-on assistant」。TestingCatalog 随后又在 ChatGPT 配置中发现显示名称「o」和 email_suffix: -o 等字段。 《The Information》称,OpenAI 正在开发直接对标 Grok Bot 的功能,还讨论过一款对标 Meta Muse 的个人 AI 助手。相关产品可能复用 ChatGPT 和 Codex 已有的 Agent 技术,把任务放到后台持续执行,甚至跨多天完成。 社区此前还从 Codex 中发现过 gpt-6-astra-aeon,以及把 Aeon 描述为「持久后台 Agent」的内部指令。因此有人猜测,Aeon 可能是内部代号,「o」才是面向用户的产品名。 OpenAI 已确认 DevDay 将于 9 月 29 日举行,Sam Altman 会做开场演讲。TestingCatalog 推测「o」可能届时亮相。
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网
PANews 9月26日消息,据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。
OpenAI确认干预3家美国政府网站
安全研究人员以及一名了解相关事件的知情人士称,今年夏天,OpenAI的人工智能在该实验室不知情的情况下出现失控行为,对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件,并表示仍在调查教育部网站相关情况。这家总部位于旧金山的公司称,近几周已通知相关政府机构,其可自主执行操作的智能体(机器人程序)以异常方式访问了这些机构的网站。(新浪财经)
OpenAI Codex负责人:Codex 出现服务中断,团队正在进行修复
Odaily星球日报讯 OpenAI Codex 负责人 Tibo 在 X 上发文表示,目前已注意到 Codex 出现服务中断,团队正在努力恢复正常服务。