贝森特批评 Anthropic、OpenAI 等风险警告:危言耸听
相关推荐
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
OpenAI CEO将在联合国推动全球AI安全标准
动察 Beating AI 快讯,OpenAI CEO Sam Altman 将在联合国安理会发言,主张建立统一的全球 AI 安全标准,同时避免出台可能拖慢创新的限制措施。OpenAI 表示,它并不支持设立某个具体的国际监管机构,更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei 预计也将通过视频参会。 此前据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。相关提议正值 AI 安全担忧升温之际。
特朗普:美国政府或考虑入股OpenAI和Anthropic
Odaily星球日报讯 美国总统特朗普在接受《TIME》采访时表示,美国政府可能考虑持有 OpenAI 和 Anthropic 的股份,类似于其与 Intel 达成的交易。(Cointelegraph)
美国联邦贸易委员会对Anthropic、OpenAI及其他超级智能模型展开全面调查
PANews 9月30日消息,据纽约邮报:美国联邦贸易委员会(FTC)对Anthropic、OpenAI及其他超级智能模型展开全面调查。
特朗普称赞 Anthropic CEO“很出色”
火星财经消息,据《华尔街日报》报道,北京时间 9 月 30 日,美国总统特朗普与约 24 位科技公司 CEO 及行业领袖共进午餐,其中包括此前与其关系不和的 AI 公司 Anthropic CEO 达里奥·阿莫代伊。特朗普称赞阿莫代伊“很出色”,并称赞英伟达 CEO 黄仁勋是“一个帅哥”、谷歌 CEO 桑达尔·皮查伊是“一个厉害人物”。双方此前因 Anthropic AI 模型在军方的使用问题发生冲突。特朗普重申宽松监管立场,阿莫代伊则批评该立场,并曾发文警告 AI 可能对人类构成严重风险、呼吁放缓发展。上周日两人首次面对面会谈;周二阿莫代伊出席白宫午餐会,一天前在国会大厦与参议院多数党领袖约翰·图恩会面。图恩与参议员埃米·克洛布彻正在推动一项旨在防止 AI 造成灾难性危害的法案。阿莫代伊周二表示:“如果我们把这件事做好,如果我们与总统以及这里的每个人合作,我们就能在确保安全的情况下取得成功。”
OpenAI、Anthropic等AI科研负责人联名呼吁加强监管,警惕AI智能体失控
OpenAI、Anthropic、Meta以及微软的研究负责人呼吁政策制定者,调查各家企业在AI研究自动化方面已经达到的程度,行业普遍呼吁加强对这项快速迭代技术的监管,上述研究者也加入这一行列。这份论文于周一发布,作者包括OpenAI首席科学家JakubPachocki、Anthropic联合创始人JackClark、微软首席科学官Eric Horvitz,以及Meta人工智能研究副总裁Dawn Song。文中提出,AI研究自动化可能触发一场“智能爆炸”。作者称,该现象会将数年的技术进展压缩至数月甚至更短时间内完成,其迭代速度将超出人类的理解能力。(新浪财经)