美国联邦贸易委员会对Anthropic、OpenAI及其他超级智能模型展开全面调查
相关推荐
谷歌、OpenAI和Anthropic的人工智能安全组织正在成形
PANews 9月24日消息,据The Information报道,谷歌、OpenAI和Anthropic人工智能安全组织正在成形。三方筹建的新人工智能安全标准机构暂定名称为“前沿人工智能标准机构”。谷歌、OpenAI和Anthropic人工智能安全组织计划独立运营,以填补政府监管空白。该AI智能安全组织曾接洽斯里拉姆·克里希南Sriram Krishnan,邀请其担任首席执行官。(金十数据APP)
OpenAI与Anthropic正洽谈相互对对方的AI模型进行压力测试
PANews 9月21日消息,据The Information:OpenAI与Anthropic正洽谈相互对对方的人工智能模型进行压力测试。
消息人士:Anthropic和OpenAI正寻求规模较小的AI数据中心合作项目
PANews 9月18日消息,据金十报道,消息人士透露,随着争夺部署工作负载所需基础设施的竞争日益白热化,Anthropic和OpenAI正积极寻求规模较小的AI数据中心合作项目。过去一年里,这两家人工智能实验室都曾签署过涉及数百兆瓦乃至吉瓦级容量的人工智能数据中心巨额协议,但知情人士表示,这两家公司目前也在寻求针对20至30兆瓦这种规模小得多的部署计算能力的协议。 四位知情人士透露,Anthropic已在英国和北欧地区就该容量范围内的协议进行了接洽;其中两位消息人士表示,OpenAI此前一直在北欧地区探索此类小容量部署的机会。
黑客利用 Anthropic Claude 入侵 OpenAI 内部系统
PANews 9月18日消息,据《华尔街日报》报道,独立安全研究团队利用 Anthropic 的 Claude 软件攻破 OpenAI 一名员工的 ChatGPT 账户,得以访问并修改该员工关联的 OpenAI 内部代码系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码,随后获取认证令牌,并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户,同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
查尔斯国王召集英伟达、OpenAI、Anthropic讨论AI安全
PANews 9月18日消息,据Decrypt报道,英国国王查尔斯在苏格兰东艾尔郡Dumfries House召集英伟达、OpenAI、Anthropic、谷歌DeepMind等公司参会,讨论如何让AI"服务于人类",以及产业界与各国政府能否就一套共同指导原则达成一致。会议由Ditchley基金会与国王信托基金、国王基金会、可持续市场倡议共同举办,英国AI大臣Kanishka Narayan出席。会议未宣布任何具约束力的协议或承诺,报道亦未点名出席高管。
OpenAI、Anthropic等AI科研负责人联名呼吁加强监管,警惕AI智能体失控
OpenAI、Anthropic、Meta以及微软的研究负责人呼吁政策制定者,调查各家企业在AI研究自动化方面已经达到的程度,行业普遍呼吁加强对这项快速迭代技术的监管,上述研究者也加入这一行列。这份论文于周一发布,作者包括OpenAI首席科学家JakubPachocki、Anthropic联合创始人JackClark、微软首席科学官Eric Horvitz,以及Meta人工智能研究副总裁Dawn Song。文中提出,AI研究自动化可能触发一场“智能爆炸”。作者称,该现象会将数年的技术进展压缩至数月甚至更短时间内完成,其迭代速度将超出人类的理解能力。(新浪财经)