OpenAI与Anthropic首席执行官被传唤出席澳大利亚AI调查听证会
相关推荐
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
OpenAI、Anthropic被要求在完成白宫测试前不能向英国分享新模型
据知情人士和一位获准匿名描述该请求的美国政府高级官员透露,白宫已要求 OpenAI 和 Anthropic 在美国政府完成测试之前,不要与英国政府的测试机构分享其最新的人工智能模型。这项来自美国国家网络总监办公室的请求,使相关企业陷入了两难境地:他们要么拒绝向英国人工智能安全研究所提供模型——该机构是全球资源最丰富的政府测试机构之一,此前曾享有优先获取新模型的特权;要么就得冒着惹恼特朗普政府白宫的风险。(新浪财经)
谷歌、OpenAI和Anthropic的人工智能安全组织正在成形
PANews 9月24日消息,据The Information报道,谷歌、OpenAI和Anthropic人工智能安全组织正在成形。三方筹建的新人工智能安全标准机构暂定名称为“前沿人工智能标准机构”。谷歌、OpenAI和Anthropic人工智能安全组织计划独立运营,以填补政府监管空白。该AI智能安全组织曾接洽斯里拉姆·克里希南Sriram Krishnan,邀请其担任首席执行官。(金十数据APP)
分析师:个人智能体护城河远超聊天机器人 OpenAI和Anthropic恐承压
火星财经消息,Stratechery分析师本·汤普森表示,Meta的Muse对OpenAI和Anthropic等前沿AI实验室构成的战略威胁,可能比之前估计的更大。汤普森认为,个人智能体的护城河可能比聊天机器人强得多,一旦用户把个人信息喂给智能体并将其融入日常生活,转向其他服务就会变得困难得多。(财联社)
英国议会将邀Meta、谷歌、OpenAI和Anthropic讨论AI安全
9月22日,英国议会商业、创新、科学与贸易委员会宣布,已向Meta、谷歌、OpenAI和Anthropic发出邀请,要求四家公司参加10月13日举行的AI安全问题听证会。委员会将询问AI企业是否应被强制进行发布前安全测试、是否应强制报告重大安全事故,以及如何防止企业和国家间的竞争导致AI安全标准下降。英国政府人工智能安全研究所也获邀参加。(界面)
摩根大通报告:Anthropic 承诺约 15 GW 电力,OpenAI 目标 2030 年 30 GW
火星财经消息,摩根大通私人银行 Eye on the Market 报告作者 Michael Cembalest 于 2026 年 9 月 10 日发布报告称,Anthropic 承诺约 15 GW 额外电力接入,估计云、芯片和数据中心租赁成本约 5000 亿美元,此前为 1-2 GW。OpenAI 目标到 2030 年达到 30 GW,数据中心支出约 7500 亿美元。大多数电力为电网或表后天然气发电,现场约 75 GW 几乎全为燃气设备,其中包括与 Amazon AWS 的 1000 亿美元 / 5000 MW 等交易。报告还提到,OpenAI 未发布模型声称对 Navier-Stokes 千禧年大奖问题给出证明,正在数学审查中,传闻在 Hodge 猜想上有进展,Anthropic 在 Birch and Swinnerton-Dyer 猜想上有进展。GPT-6 Astra 在 ARC-AGI-3 标准 harness 得分 62%,Provider Adapter 得分 99%。Francois Chollet 指出 AGI 进展快于预期。