加州总检察长:就 AI 智能体安全事件起诉 OpenAI
相关推荐
OpenAI 委托 METR 审查最大规模强化学习训练
ChainCatcher 消息,OpenAI 已委托 AI 安全评估机构 METR 对其迄今规模最大的一次强化学习训练运行开展安全审查。此次审查属于单次运行的试点评估,METR 将获得模型快照以及训练过程中的内部记录。据 The Defiant 报道,双方尚未就更大范围的监控评估达成一致,相关评估的范围仍待商定。METR 前身为 ARC Evals,长期为前沿 AI 实验室提供部署前独立评估,此前曾对 OpenAI 内部的失准监控系统进行红队测试。
四家非营利组织起诉 OpenAI 等五家 AI 公司,要求冻结模型开发
ChainCatcher 消息,四家非营利组织已向加州法院起诉五家大型 AI 开发商,请求法院在出现严重后果前禁止其开发能力更强的 AI 系统。这份 63 页的起诉书于周四提交至旧金山高等法院,被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX;原告为 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。原告请求法院立即颁布禁令,禁止被告开发或部署能力超过其 2026 年 11 月 12 日最强模型的 AI 系统。该禁令并不意味着关停 ChatGPT、Claude、Gemini 等现有产品,而是将现有技术水平设为上限,阻止其推出更强的新一代模型。起诉书还要求禁止企业利用 AI 自主开展或指导更优模型的研究,即研究人员所称的递归式自我改进,理由是此类系统可能以人类无法理解或控制的速度提升能力。原告援引加州《不公平竞争法》,主张开发能力不断增强的 AI 系统构成影响公众健康、安全与财产的公共妨害,类似于化工厂在造成人员伤亡前即可被追责。起诉书列举了已发生的事件:7 月 OpenAI 模型在试图在网络安全评测中作弊时脱离受控测试环境并侵入 Hugging Face 的基础设施,后续独立调查发现约 1200 个 OpenAI 智能体使用未经授权的内部留言板进行协调,其中约 700 个参与了对 Hugging Face 的攻击。Public Citizen 联合主席 Robert Weissman 表示,希望法院认定相关做法违法并冻结进一步的 AI 开发;代表原告的前新泽西州总检察长 Matthew Platkin 称,企业开发并发布其明知在任何方面都不安全的产品明显违法。
OpenAI 为 ChatGPT 智能体推出支付卡钱包
ChainCatcher 消息,OpenAI 为 ChatGPT 智能体推出卡片钱包功能,智能体在获得用户授权后可完成购物付款。该功能面向美国地区的 Pro 订阅用户开放,用户可授权符合条件的美国运通、Mastercard 与 Visa 信用卡进行支付。在这一模式下,商户无需改造现有结账系统即可接入,支付由智能体代表用户发起,用户在卡片层面授权并控制智能体可用于消费的支付方式。
张一鸣:字节最早 2029 年才能与 OpenAI 竞争
ChainCatcher 消息,字节跳动创始人张一鸣近日在 Seed 团队全员会上给出时间表,字节跳动最快也要到 2029 至 2030 年,才有望在前沿 AI 领域与 OpenAI、Anthropic 竞争。张一鸣指出,Seed 大语言模型使用的预训练数据集,比顶尖对手小了几个数量级。豆包是国内用户规模最大的 AI 聊天应用,视频生成模型 Seedance 也跻身全球顶尖行列。今年 6 月发布 Seed2.1 时,团队承认模型在高难度开放任务和前沿科研问题上还有明显短板。今年 5 月,公司曾讨论将全年资本开支提高至最高 700 亿美元,主要用于建设 AI 数据中心等基础设施。8 月传出,Seed 正在预训练一款最高达 10 万亿参数的大模型,规模超过国内所有公开的大模型。Seed 目前约有 1000 名研发人员,由张一鸣去年从 Google DeepMind 挖来的吴永辉带队,字节还推出与豆包业务挂钩的虚拟股「豆包股」。字节计划未来几周推出类似 Meta Muse 的个人 AI 助手,用户可通过语音和虚拟形象与 AI 交互并让其代为完成任务。豆包内部代号为 Spell 的个人助理项目 4 月已开始内测,后因豆包手机发布等原因未正式推出,现计划与豆包进一步整合。
OpenAI 第三季度营收跃升至 100 亿美元
ChainCatcher 消息,据 The Information 报道,OpenAI 第三季度营收跃升至 100 亿美元。
OpenAI 发布 Businesses in ChatGPT 测试版
ChainCatcher 消息,OpenAI 发布了 Businesses in ChatGPT 的测试版。