黄仁勋:若前沿实验室无法控制AI,则必须停止相关实验
相关推荐
英国议会将邀Meta、谷歌、OpenAI和Anthropic讨论AI安全
9月22日,英国议会商业、创新、科学与贸易委员会宣布,已向Meta、谷歌、OpenAI和Anthropic发出邀请,要求四家公司参加10月13日举行的AI安全问题听证会。委员会将询问AI企业是否应被强制进行发布前安全测试、是否应强制报告重大安全事故,以及如何防止企业和国家间的竞争导致AI安全标准下降。英国政府人工智能安全研究所也获邀参加。(界面)
Google加快推出Gemini 4,力争重新追上OpenAI和Anthropic
Google正在加快推进新一代旗舰AI模型Gemini 4,目标是在今年年底前更早发布首个版本。Google DeepMind负责人Koray Kavukcuoglu表示,Gemini 4目前已经进入后训练阶段,公司希望尽快推出早期后训练版本,并在发布后持续进行快速迭代。(新浪财经)
OpenAI CEO将在联合国推动全球AI安全标准
动察 Beating AI 快讯,OpenAI CEO Sam Altman 将在联合国安理会发言,主张建立统一的全球 AI 安全标准,同时避免出台可能拖慢创新的限制措施。OpenAI 表示,它并不支持设立某个具体的国际监管机构,更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei 预计也将通过视频参会。 此前据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。相关提议正值 AI 安全担忧升温之际。
分析师:个人智能体护城河远超聊天机器人 OpenAI和Anthropic恐承压
火星财经消息,Stratechery分析师本·汤普森表示,Meta的Muse对OpenAI和Anthropic等前沿AI实验室构成的战略威胁,可能比之前估计的更大。汤普森认为,个人智能体的护城河可能比聊天机器人强得多,一旦用户把个人信息喂给智能体并将其融入日常生活,转向其他服务就会变得困难得多。(财联社)
Anthropic钦点的「独立第三方」遭质疑:创始圈与公司关系盘根错节
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 最近主张,让 METR 这类第三方评估机构长期进驻前沿 AI 公司,获得接近员工级别的权限,检查安全措施、事故和模型训练过程。但《纽约邮报》调查发现,METR 和 Anthropic 所在的 AI 安全圈关系远比普通「外部审计」更近。 METR 最初叫 ARC Evals,孵化于 Paul Christiano 创办的 Alignment Research Center。Christiano 不仅曾和 Amodei 在 OpenAI 共事,《纽约邮报》称两人还做过室友;他后来又成为 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 现任技术人员 Ajeya Cotra 是 Christiano 的妻子,此前还负责 Coefficient Giving 的 AI 安全资助。 更直接的问题来自 METR 自己。今年它评估 Anthropic、OpenAI、Google 和 Meta 时,当时还没有适用的人员利益冲突政策,也没有进行正式的回避流程。METR 披露,直接参与项目的员工和合作者中,至少 6 人与 AI 公司员工存在密切私人关系。 当然这并不能证明 METR 被 Anthropic 控制。METR 明确表示不接受前沿 AI 公司及其员工的资金,做风险评估也不收费,不过这些公司会免费提供大量模型 Token。
特朗普再批Anthropic CEO:Dario现在装成「完美小天使」
火星财经消息,9 月 14 日,美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论,称其「自利」,并指责其此前存在不当行为。 特朗普表示,美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」,而 Dario 现在则开始「假装自己是一个完美的小天使」,并称这种表现还会持续下去。 此前,Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度,并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调,美国必须保持 AI 领域领先,并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。