美国拟向G20输出AI监管路线:马斯克、奥特曼、黄仁勋都来了
相关推荐
Altman、Dario都喊AI减速,特朗普科技顾问Sacks:真怕就自己停,别拉上全行业
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 发长文呼吁放慢前沿 AI 的能力提升。他认为,AI 已越来越多参与下一代 AI 研发,加上近期多起 Agent 失控事件,安全研究正在追不上能力增长。 Dario 提出三步方案:先让第三方评测员长期进入 AI 公司,获得接近员工的权限;再让民主国家的前沿实验室协调安全标准,必要时一起放慢能力增长;最后推动国际协调。Anthropic 已承诺先执行第一步。 Sam Altman 随后公开支持,称 OpenAI 最近几周也一直在讨论「pace the frontier」,并宣布 OpenAI 也会引入类似的长期独立评测员。 前白宫 AI 与加密货币主管、现任总统科技顾问委员会联席主席 David Sacks 随后回击:「真觉得内部模型危险,就自己停。」他说 OpenAI 和 Anthropic 已经主导前沿 AI,完全可以自己放慢,不需要拉上其他公司。 Sacks 最反感的是几家竞争对手一起商量「大家都慢一点」。Dario 自己也承认,这类协调可能需要反垄断豁免。Sacks 认为,如果还得政府开绿灯,让几家最大的 AI 公司坐下来一起限速,就很像一个垄断联盟。 他还点名 METR,质疑它是否适合充当全行业的独立裁判。METR 长期给 Anthropic、OpenAI 等公司做外部评测,最近又有 Anthropic 安全研究员 Joe Benton 离职加入。不过 METR 明确表示,自己不接受这些前沿 AI 公司的资金,只接受模型访问和免费 token。 Sacks 还认为,减速本身也符合 OpenAI 和 Anthropic 的商业利益。模型越容易失控,法律责任越大;客户也更愿意买稳定、可控的 AI。至于全球统一减速,他判断不可能所有国家都愿意加入。
Sam Altman确认OpenAI今年不上市:AI安全问题让现在IPO「时机不当」
动察 Beating AI 快讯,OpenAI CEO Sam Altman 在接受《财富》专访时确认,公司不会在 2026 年进行 IPO,并称考虑到当前 AI 安全形势,现在上市「时机不当」。 Altman 表示,OpenAI 并不急于上市,未来将在业务准备就绪、社会能够适应不同能力水平的 AI 模型后再考虑 IPO。他还称,公司需要优先解决 AI 安全与对齐问题,并可能在 AI 能力达到新的阶段时放缓前沿模型开发。此前有报道称,OpenAI 曾考虑将 IPO 推迟至 2027 年,潜在估值或达 1 万亿美元。 与此同时,Anthropic CEO Dario Amodei 近期也呼吁放缓前沿 AI 发展,并提出让独立评估机构获得公司内部员工级别的访问权限。随后 Sam Altman 表示,「我同意 Dario Amodei(Anthropic CEO)的看法,我们需要控制前沿模型的进展。这是我们最近在 OpenAI 讨论的主要话题。承诺让独立评估者拥有类似员工的访问权限是个好主意,我们也会这样做。我们很快会有更多消息分享。」
OpenAI寄望利用监管不确定性打压Kimi K3,David Sacks公开驳斥并力挺模型开源
据 动察 Beating 监测,美国总统科学技术顾问委员会主席 David Sacks 刚刚公开批评 OpenAI 战略负责人 Dean W. Ball。Ball 发文指出,月之暗面的 Kimi K3 模型性能已接近 2026 年一季度顶级公开模型,建议美国政府故意制造监管不确定性,让受监管企业不敢使用。 Sacks 直接驳斥这一主张:「把监管不确定性武器化作为竞争工具是完全不可接受的。监管决策必须基于事实、逻辑和证据,而不是故意制造恐惧和不确定性。」 Sacks 进一步警告,这种偷偷摸摸通过制造疑虑来达成目的的做法将腐蚀美国法治,并为未来针对任何人滥用权力打开先例。当前领先的闭源大模型实验室已形成收入双寡头格局,正试图利用政府力量消灭开源竞争。呼吁硅谷其他支持开放竞争的多数派站出来表态。 Sacks 此前已多次为开源模型辩护,认为企业真正的安全底线是保留模型层选择权而非依赖单一闭源供应商。 -------------------------------- 点击下方原文链接,加入动察 Beating · 飞书 AI 新闻渠道,7×24 小时不间断监测全球 AI 热点与新闻。
David Sacks力挺Palantir CEO炮轰AI实验室:真正的企业AI安全是掌控自己的数据、模型和算力
据 动察 Beating 监测,美国总统科学与技术顾问委员会联合主席 David Sacks 发文力挺 Palantir CEO Alex Karp 对前沿 AI 实验室的尖锐批评,称主流媒体将其访谈贬为「崩溃式失态」恰恰说明 Karp 说中了要害。Sacks 指出,企业环境中真正的「AI 安全」并非抽象的「对齐研究」或政府主导的认证体系,而是能否掌控自己的数据、模型权重和算力——这样前沿实验室就无法将企业的专有知识「吸走」并变成下一款产品。他引用 Karp 的原话:「他们希望自己拥有生产资料,而不是把这些拱手让给别人。」 Sacks 以 Figma 与 Anthropic 的冲突为典型案例:Anthropic 在发布 Claude Design 前三天,其首席产品官仍担任 Figma 董事会成员,Figma 创始人表示 Anthropic「并没有一直对他们保持诚实」;此后 Figma 股价大跌而 Anthropic 估值飙升。他进一步列举 Claude Science、Claude Security、Claude Legal 及 Claude Code 等产品,指出 Anthropic 每次都在直接切入原本由依赖其模型构建的企业所服务的垂直领域,模式一致——「先观察价值在哪里被创造,然后直接杀入」。 Sacks 认为,开源模型被斥为「危险」并非对企业而言——保留模型层选择权、决定谁能使用自己的核心优势,才是企业真正的安全底线。此前 Palantir 已与英伟达合作,将 Nemotron 开放 AI 模型部署于主权环境中,服务于美国政府及关键基础设施客户,帮助机构在本地训练与部署 AI 的同时完全掌控数据与知识产权。 Palantir CEO Alex Karp 近日接受 CNBC《Squawk Box》采访时言辞激烈批评了 AI 前沿大模型公司,称 AI 的销售方式「完全错误」。Karp 强调目前企业已对 OpenAI、Anthropic 等「前沿实验室」不满,认为它们只追求 token 最大化(tokenmaxxing),让企业浪费时间和金钱,却把专有价值和 IP 拱手让人。Karp 称企业「愤怒」,将致力于自主拥有 AI 生产资料而非依赖第三方。 6 月 29 日 Palantir 与 Nvidia 合作,将 Nvidia Nemotron 开放 AI 模型部署于主权环境中,主要服务美国政府和关键基础设施
Sam Altman:对行业能够自行保障 AI 安全有信心
ChainCatcher 消息,OpenAI 首席执行官 Sam Altman 表示,他相信人工智能公司能够安全地发展该技术,而不会对广大民众造成重大伤害。Altman 周二在旧金山 Dreamforce 大会上与 Salesforce 首席执行官 Marc Benioff 的讨论中称:我非常有信心,我们公司——我们整个行业——有能力安全地做到这一点。
Sam Altman:控制AI发展节奏并不意味着停止,但能力提升速度不能超过安全对齐和监控
Odaily星球日报讯 OpenAI CEO Sam Altman 在 X 平台发文表示,欢迎美国建立联邦层面的前沿 AI 安全监管框架,为行业制定一致的安全要求,但 AI 公司无需等待反垄断豁免或相关立法出台,就可以主动采取安全措施。 Altman 表示,OpenAI 目前会在预计将显著提升模型能力的前沿强化学习训练开始前,提前制定明确的安全论证,并希望行业在模型失控风险、监控和安全方面形成共同标准。他强调,所谓控制 AI 发展的“节奏(pacing)”并不意味着停止进步,而是应接受安全措施带来的速度和成本代价,“无论美国面临多大的竞争压力,都不应让 AI 能力的发展速度超过对齐和监控能力。” 此前消息,Anthropic、OpenAI 与 Google 自 7 月起已就筹建各自的 AI 安全标准机构展开工作组磋商。此外,美国民主党议员将于周二上午召开党团会议,专门讨论人工智能相关立法行动,并称应对 AI 带来的挑战是“高优先级”,需要尽快采取措施。