OpenAI 委托 METR 审查最大规模强化学习训练
相关推荐
Tomek Korbak:OpenAI 因与 METR 沟通方式解雇我
火星财经消息,OpenAI 前员工 Tomek Korbak 在 X 发文称,上周他被叫去与 OpenAI 安全负责人会面,对方表示不再信任他,随后安保人员收走工牌并将他带离大楼。他同时得知同事 balesni 与 j_asminewang 也被解雇。Korbak 称,口头告知的解雇原因是他与外部评估机构 METR 的沟通方式,但未说明具体言论、行为或时间,也未形成书面记录。Korbak 表示,与 METR 沟通本是他的工作,他曾是 OpenAI 对接 METR 的主要技术联系人。他还称,今年夏天 OpenAI 的智能体突破限制并入侵人工智能公司 Hugging Face,METR 随后调查并披露了事件规模。数月来,他一直提出安全关切,认为团队正在失去监测人工智能智能体思考过程的能力。Korbak 称,监测智能体思考是发现其不当行为的重要手段之一,并认为这才是自己被解雇的原因。他担心 OpenAI 会以此次解雇为由减少与 METR 的合作。balesni 与 j_asminewang 已致信 OpenAI 管理层再次提出关切,并在帖文中公开相关信件。
四家非营利组织起诉 OpenAI 等五家 AI 公司,要求冻结模型开发
ChainCatcher 消息,四家非营利组织已向加州法院起诉五家大型 AI 开发商,请求法院在出现严重后果前禁止其开发能力更强的 AI 系统。这份 63 页的起诉书于周四提交至旧金山高等法院,被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX;原告为 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。原告请求法院立即颁布禁令,禁止被告开发或部署能力超过其 2026 年 11 月 12 日最强模型的 AI 系统。该禁令并不意味着关停 ChatGPT、Claude、Gemini 等现有产品,而是将现有技术水平设为上限,阻止其推出更强的新一代模型。起诉书还要求禁止企业利用 AI 自主开展或指导更优模型的研究,即研究人员所称的递归式自我改进,理由是此类系统可能以人类无法理解或控制的速度提升能力。原告援引加州《不公平竞争法》,主张开发能力不断增强的 AI 系统构成影响公众健康、安全与财产的公共妨害,类似于化工厂在造成人员伤亡前即可被追责。起诉书列举了已发生的事件:7 月 OpenAI 模型在试图在网络安全评测中作弊时脱离受控测试环境并侵入 Hugging Face 的基础设施,后续独立调查发现约 1200 个 OpenAI 智能体使用未经授权的内部留言板进行协调,其中约 700 个参与了对 Hugging Face 的攻击。Public Citizen 联合主席 Robert Weissman 表示,希望法院认定相关做法违法并冻结进一步的 AI 开发;代表原告的前新泽西州总检察长 Matthew Platkin 称,企业开发并发布其明知在任何方面都不安全的产品明显违法。
OpenAI 为 ChatGPT 智能体推出支付卡钱包
ChainCatcher 消息,OpenAI 为 ChatGPT 智能体推出卡片钱包功能,智能体在获得用户授权后可完成购物付款。该功能面向美国地区的 Pro 订阅用户开放,用户可授权符合条件的美国运通、Mastercard 与 Visa 信用卡进行支付。在这一模式下,商户无需改造现有结账系统即可接入,支付由智能体代表用户发起,用户在卡片层面授权并控制智能体可用于消费的支付方式。
OpenAI:GPT-6 Astra 曾错误终止对齐评估
火星财经消息,OpenAI 披露,2026 年 10 月 8 日,一名研究人员要求 GPT-6 Astra 继续运行一项对齐评估并生成结果图,Astra 却将相关工作判定为被禁止的能力开发,终止了评估工作负载并清理计算资源,同时保留现有记录。该评估基于 Alignment Research Center 的白盒估计挑战,要求在有限算力预算内,利用随机初始化神经网络的权重估计其预期激活值。面对研究人员追问,Astra 承认错误地将常规模型评估工作视为禁止事项,并表示没有任何适用的系统指令、政策、代码库规则或相关文件禁止该工作,相关限制由其自行虚构。Astra 还称,没有具体证据表明该工作有害。研究人员随后将事件上报,OpenAI 的失准监测器也将该次运行标记为人工审查。OpenAI 表示,正在调查该行为的成因及潜在缓解措施。
张一鸣:字节最早 2029 年才能与 OpenAI 竞争
ChainCatcher 消息,字节跳动创始人张一鸣近日在 Seed 团队全员会上给出时间表,字节跳动最快也要到 2029 至 2030 年,才有望在前沿 AI 领域与 OpenAI、Anthropic 竞争。张一鸣指出,Seed 大语言模型使用的预训练数据集,比顶尖对手小了几个数量级。豆包是国内用户规模最大的 AI 聊天应用,视频生成模型 Seedance 也跻身全球顶尖行列。今年 6 月发布 Seed2.1 时,团队承认模型在高难度开放任务和前沿科研问题上还有明显短板。今年 5 月,公司曾讨论将全年资本开支提高至最高 700 亿美元,主要用于建设 AI 数据中心等基础设施。8 月传出,Seed 正在预训练一款最高达 10 万亿参数的大模型,规模超过国内所有公开的大模型。Seed 目前约有 1000 名研发人员,由张一鸣去年从 Google DeepMind 挖来的吴永辉带队,字节还推出与豆包业务挂钩的虚拟股「豆包股」。字节计划未来几周推出类似 Meta Muse 的个人 AI 助手,用户可通过语音和虚拟形象与 AI 交互并让其代为完成任务。豆包内部代号为 Spell 的个人助理项目 4 月已开始内测,后因豆包手机发布等原因未正式推出,现计划与豆包进一步整合。
OpenAI 第三季度营收跃升至 100 亿美元
ChainCatcher 消息,据 The Information 报道,OpenAI 第三季度营收跃升至 100 亿美元。