OpenAI与Anthropic正洽谈相互对对方的AI模型进行压力测试
相关推荐
消息人士:Anthropic和OpenAI正寻求规模较小的AI数据中心合作项目
PANews 9月18日消息,据金十报道,消息人士透露,随着争夺部署工作负载所需基础设施的竞争日益白热化,Anthropic和OpenAI正积极寻求规模较小的AI数据中心合作项目。过去一年里,这两家人工智能实验室都曾签署过涉及数百兆瓦乃至吉瓦级容量的人工智能数据中心巨额协议,但知情人士表示,这两家公司目前也在寻求针对20至30兆瓦这种规模小得多的部署计算能力的协议。 四位知情人士透露,Anthropic已在英国和北欧地区就该容量范围内的协议进行了接洽;其中两位消息人士表示,OpenAI此前一直在北欧地区探索此类小容量部署的机会。
黑客利用 Anthropic Claude 入侵 OpenAI 内部系统
PANews 9月18日消息,据《华尔街日报》报道,独立安全研究团队利用 Anthropic 的 Claude 软件攻破 OpenAI 一名员工的 ChatGPT 账户,得以访问并修改该员工关联的 OpenAI 内部代码系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码,随后获取认证令牌,并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户,同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
查尔斯国王召集英伟达、OpenAI、Anthropic讨论AI安全
PANews 9月18日消息,据Decrypt报道,英国国王查尔斯在苏格兰东艾尔郡Dumfries House召集英伟达、OpenAI、Anthropic、谷歌DeepMind等公司参会,讨论如何让AI"服务于人类",以及产业界与各国政府能否就一套共同指导原则达成一致。会议由Ditchley基金会与国王信托基金、国王基金会、可持续市场倡议共同举办,英国AI大臣Kanishka Narayan出席。会议未宣布任何具约束力的协议或承诺,报道亦未点名出席高管。
加州州长签署两项获Anthropic和OpenAI支持的AI安全法案,规范第三方对AI系统进行安全评估的机制
PANews 9月10日消息,据POLITICO报道,加州州长Gavin Newsom已签署两项AI安全相关法案,规范第三方对AI系统进行安全评估的机制。其中,Assemblymember Rebecca Bauer-Kahan提出的法案将为AI外部审计机构建立注册制度和伦理规范;前联邦众议员、州参议员Jerry McNerney提出的法案则由州政府设定标准并审核“独立验证机构”(Independent Verification Organizations)的资质与评估能力。Anthropic早前已公开支持相关立法,OpenAI于法案签署前也表态支持,并称将在各州持续推动AI安全立法。
Anthropic与OpenAI、谷歌分歧扩大,反对放宽州级AI安全监管
Odaily星球日报讯 Anthropic 正因一项马萨诸塞州 AI 安全法案与谷歌、OpenAI 等大型科技公司产生分歧。该法案提议要求大型 AI 开发商每四个月聘请独立评估机构,对其 AI 模型可能造成的灾难性风险进行评估。如果通过,该提案可能成为美国州级 AI 监管的新标准。 在美国国会迟迟未能推进联邦 AI 监管立法之际,各州正加速推出相关规则。Anthropic 此次与其他科技巨头在 AI 安全监管问题上的立场分化,也反映出行业内部对于 AI 模型风险评估及监管强度仍存在明显分歧。(The Information)
OpenAI:正与Anthropic和谷歌合作开展人工智能安全工作
动察 Beating AI 快讯,OpenAI 正与 Anthropic 和谷歌合作开展人工智能安全工作。(金十)