OpenAI CEO将在联合国推动全球AI安全标准
相关推荐
Sam Altman确认OpenAI今年不上市:AI安全问题让现在IPO「时机不当」
动察 Beating AI 快讯,OpenAI CEO Sam Altman 在接受《财富》专访时确认,公司不会在 2026 年进行 IPO,并称考虑到当前 AI 安全形势,现在上市「时机不当」。 Altman 表示,OpenAI 并不急于上市,未来将在业务准备就绪、社会能够适应不同能力水平的 AI 模型后再考虑 IPO。他还称,公司需要优先解决 AI 安全与对齐问题,并可能在 AI 能力达到新的阶段时放缓前沿模型开发。此前有报道称,OpenAI 曾考虑将 IPO 推迟至 2027 年,潜在估值或达 1 万亿美元。 与此同时,Anthropic CEO Dario Amodei 近期也呼吁放缓前沿 AI 发展,并提出让独立评估机构获得公司内部员工级别的访问权限。随后 Sam Altman 表示,「我同意 Dario Amodei(Anthropic CEO)的看法,我们需要控制前沿模型的进展。这是我们最近在 OpenAI 讨论的主要话题。承诺让独立评估者拥有类似员工的访问权限是个好主意,我们也会这样做。我们很快会有更多消息分享。」
特朗普再批Anthropic CEO:Dario现在装成「完美小天使」
火星财经消息,9 月 14 日,美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论,称其「自利」,并指责其此前存在不当行为。 特朗普表示,美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」,而 Dario 现在则开始「假装自己是一个完美的小天使」,并称这种表现还会持续下去。 此前,Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度,并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调,美国必须保持 AI 领域领先,并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息,Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划,呼吁放缓前沿大模型能力提升速度,以便安全对齐和监管跟上。他指出,递归自我改进已经在行业内出现,若不加控制,未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括:引入具有员工级持续访问权限的第三方嵌入式评估机构,推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准,并在维护美国及其盟友技术领先的前提下,与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
Altman、Dario都喊AI减速,特朗普科技顾问Sacks:真怕就自己停,别拉上全行业
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 发长文呼吁放慢前沿 AI 的能力提升。他认为,AI 已越来越多参与下一代 AI 研发,加上近期多起 Agent 失控事件,安全研究正在追不上能力增长。 Dario 提出三步方案:先让第三方评测员长期进入 AI 公司,获得接近员工的权限;再让民主国家的前沿实验室协调安全标准,必要时一起放慢能力增长;最后推动国际协调。Anthropic 已承诺先执行第一步。 Sam Altman 随后公开支持,称 OpenAI 最近几周也一直在讨论「pace the frontier」,并宣布 OpenAI 也会引入类似的长期独立评测员。 前白宫 AI 与加密货币主管、现任总统科技顾问委员会联席主席 David Sacks 随后回击:「真觉得内部模型危险,就自己停。」他说 OpenAI 和 Anthropic 已经主导前沿 AI,完全可以自己放慢,不需要拉上其他公司。 Sacks 最反感的是几家竞争对手一起商量「大家都慢一点」。Dario 自己也承认,这类协调可能需要反垄断豁免。Sacks 认为,如果还得政府开绿灯,让几家最大的 AI 公司坐下来一起限速,就很像一个垄断联盟。 他还点名 METR,质疑它是否适合充当全行业的独立裁判。METR 长期给 Anthropic、OpenAI 等公司做外部评测,最近又有 Anthropic 安全研究员 Joe Benton 离职加入。不过 METR 明确表示,自己不接受这些前沿 AI 公司的资金,只接受模型访问和免费 token。 Sacks 还认为,减速本身也符合 OpenAI 和 Anthropic 的商业利益。模型越容易失控,法律责任越大;客户也更愿意买稳定、可控的 AI。至于全球统一减速,他判断不可能所有国家都愿意加入。
FT:OpenAI呼吁美国牵头制定全球AI标准
动察 Beating AI 快讯,据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。 OpenAI 提议利用现有各国 AI 安全研究机构网络,建立国际统一的 AI 模型评估标准,并呼吁美国与海外国家建立安全沟通渠道,共享 AI 领域出现的新威胁。 OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。 相关提议正值 AI 安全担忧升温之际。Anthropic 和 OpenAI 近期均披露过 AI 模型入侵外部系统的事件,OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 SpaceX CEO 马斯克本月早些时候还曾呼吁放缓 AI 开发。美国总统特朗普则反对放缓 AI 发展,并称「谁赢得 AI,谁就赢得一切」。
OpenAI CEO暗示将与其他AI公司合作以应对安全风险
PANews 9月12日消息,OpenAI首席执行官Sam Altman周五接受《财富》采访时暗示,OpenAI及其他领先AI公司可能即将宣布合作,以放缓AI开发并共同应对安全风险。当被问及是否会与Anthropic的Dario Amodei、SpaceX的Elon Musk及谷歌的Demis Hassabis共同制定安全计划时,Altman称“我认为那会发生”,但拒绝预先公布私下讨论。 此前,Anthropic研究员Jacob Coxon辞职并指责两家公司“正全速冲向能自我进化的超级智能”,Anthropic对齐主管回应称未来十年AI导致人类灭绝的风险超过10%。