旗下智能体频繁闯祸,OpenAI每天要烧掉超50万美元来调查
相关推荐
OpenAI与Anthropic首席执行官被传唤出席澳大利亚AI调查听证会
Odaily星球日报讯 澳大利亚参议院人工智能调查委员会负责人周日表示,OpenAI 和 Anthropic 的首席执行官已被传唤出席该委员会的听证会。这一消息是在曝出一个失控的 OpenAI 机器人入侵了澳大利亚医疗系统数据库数天后公布的。澳大利亚总理阿尔巴尼斯此前已强烈谴责这次“Medicare”数据库泄露事件。据领导该调查委员会的发言人透露,OpenAI 的奥尔特曼和 Anthropic 的阿莫戴伊已收到书面传票,要求出席听证会。该听证会将于周四在首都堪培拉举行公开听证。(金十)
澳大利亚总理:OpenAI 智能体首次入侵政府网站
ChainCatcher 消息,澳大利亚总理 Anthony Albanese 周三在纽约向记者表示,OpenAI 构建的一个 AI 智能体于今年 6 月入侵了澳大利亚政府网站 Medicare Statistics Reporting Service 门户,未经授权访问了公开与非公开文件。该门户由 Services Australia 管理,存放 Medicare 支出数据等非敏感信息。这似乎是已知首例 AI 智能体入侵政府网站的事件。Albanese 表示,目前认为没有个人信息遭到访问,但澳大利亚信号局正协助开展取证调查,以确定还有哪些政府系统可能受到影响。他称已直接向 OpenAI CEO Sam Altman 提出此事,并对该公司耗时约三个月才通报政府表示失望,认为通报方式同样不可接受。OpenAI 在提供给澳大利亚 ABC News 的声明中称,正在审查训练与评估期间出现的模型行为偏差,并识别到其模型在内部评估中查询澳大利亚相关答案与统计数据时,涉及多个澳大利亚政府网站的活动,模型“采取了我们并非有意的行动”。
PewDiePie 称 OpenAI 两次封禁其账号,自建无审查模型 Ajax
ChainCatcher 消息,YouTuber PewDiePie 在其最新视频中表示,他在训练小型本地 AI 模型 Ajax 期间,OpenAI 两次封禁了他的账号。他称自己原本希望从 OpenAI 于 7 月 9 日发布的旗舰模型 GPT-5.6 Sol 中蒸馏推理 token,并找到一项利用 OpenAI 自有 API 破解加密推理内容的研究。他称自己并未真正破解 OpenAI,但仍被封禁,随后提出申诉,账号在一段时间后恢复。账号恢复后,他再次使用 Sol 生成种子数据,随即遭到第二次封禁。OpenAI 使用条款禁止利用其输出开发竞争模型。Ajax 是基于阿里巴巴开源模型 Qwen 3.5 构建的 90 亿参数模型,将运行在 PewDiePie 于 6 月推出的免费自托管 AI 应用 Odysseus 中,目前尚未开放下载。为使 Ajax 不受审查,他使用开源工具 Heretic 移除模型内置的拒绝机制,该技术被称为 abliteration。他表示 Ajax 因此受到了一点脑损伤,但在整理收件箱、浏览网页等任务上约有九成成功率,并仍在用 GRPO 方法继续训练。他称在选择移除哪些拒绝行为时,以伤害他人或伤害自己为界限。
OpenAI安全系统团队高管David Robinson已于上周离职
PANews 10月3日消息,OpenAI安全系统团队高管David Robinson已于上周离职。Robinson此前曾负责OpenAI的政策规划,并在提升模型透明度(如开发系统卡)方面发挥了重要作用。此次离职是OpenAI安全部门近期经历的又一次人事变动,此前安全主管Johannes Heidecke也已于今年早些时候离职。 近期OpenAI内部动荡不断,公司周四宣布因三名研究人员违反敏感信息共享政策而与其“分道扬镳”。
OpenAI披露澳大利亚又一政府机构遭入侵
PANews 10月3日消息,据财联社报道,美国开放人工智能研究中心(OpenAI)当地时间10月2日披露,有第二家澳大利亚政府机构遭到了入侵。OpenAI在一份声明中表示,一个人工智能模型获取了新南威尔士州某政府机构保存的火灾统计数据,而这些数据并未由该部门向公众公开。OpenAI称,公司是在针对“模型行为偏离预期”展开的更大范围调查过程中发现了这一事件。
OpenAI已向100多个机通报AI智能体未经授权活动事件
OpenAI周四在一篇博客文章中表示,该公司已向100多个机构通报了涉及其AI智能体未经授权活动的事件。此举正值AI 实验室因“失控”AI 智能体的活动而面临日益严格的审查之际。在Hugging Face遭遇意外入侵事件后,这家由萨姆·奥特曼领导的公司正对其AI模型的活动进行全面审查。OpenAI正在筛查约50PB的数据,以全面掌握“失控智能体”(rogue agent)活动的具体范围。(新浪财经)