OpenAI、谷歌等六家公司签署白宫自愿AI安全协议,承诺接受外部审计
相关推荐
英国议会将邀Meta、谷歌、OpenAI和Anthropic讨论AI安全
9月22日,英国议会商业、创新、科学与贸易委员会宣布,已向Meta、谷歌、OpenAI和Anthropic发出邀请,要求四家公司参加10月13日举行的AI安全问题听证会。委员会将询问AI企业是否应被强制进行发布前安全测试、是否应强制报告重大安全事故,以及如何防止企业和国家间的竞争导致AI安全标准下降。英国政府人工智能安全研究所也获邀参加。(界面)
OpenAI、Anthropic等AI科研负责人联名呼吁加强监管,警惕AI智能体失控
OpenAI、Anthropic、Meta以及微软的研究负责人呼吁政策制定者,调查各家企业在AI研究自动化方面已经达到的程度,行业普遍呼吁加强对这项快速迭代技术的监管,上述研究者也加入这一行列。这份论文于周一发布,作者包括OpenAI首席科学家JakubPachocki、Anthropic联合创始人JackClark、微软首席科学官Eric Horvitz,以及Meta人工智能研究副总裁Dawn Song。文中提出,AI研究自动化可能触发一场“智能爆炸”。作者称,该现象会将数年的技术进展压缩至数月甚至更短时间内完成,其迭代速度将超出人类的理解能力。(新浪财经)
谷歌、OpenAI和Anthropic的人工智能安全组织正在成形
PANews 9月24日消息,据The Information报道,谷歌、OpenAI和Anthropic人工智能安全组织正在成形。三方筹建的新人工智能安全标准机构暂定名称为“前沿人工智能标准机构”。谷歌、OpenAI和Anthropic人工智能安全组织计划独立运营,以填补政府监管空白。该AI智能安全组织曾接洽斯里拉姆·克里希南Sriram Krishnan,邀请其担任首席执行官。(金十数据APP)
分析师:个人智能体护城河远超聊天机器人 OpenAI和Anthropic恐承压
火星财经消息,Stratechery分析师本·汤普森表示,Meta的Muse对OpenAI和Anthropic等前沿AI实验室构成的战略威胁,可能比之前估计的更大。汤普森认为,个人智能体的护城河可能比聊天机器人强得多,一旦用户把个人信息喂给智能体并将其融入日常生活,转向其他服务就会变得困难得多。(财联社)
OpenAI正在开发新功能以应对Grok Bot的竞争,并考虑如何回应Meta推出的Muse
PANews 9月21日消息,据The Information:OpenAI正在开发新功能以应对Grok Bot的竞争,并考虑如何回应Meta推出的Muse。
OpenAI与Anthropic正洽谈相互对对方的AI模型进行压力测试
PANews 9月21日消息,据The Information:OpenAI与Anthropic正洽谈相互对对方的人工智能模型进行压力测试。