特朗普白宫会晤AI巨头:签署自律承诺,短期监管压力暂缓
相关推荐
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息,Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划,呼吁放缓前沿大模型能力提升速度,以便安全对齐和监管跟上。他指出,递归自我改进已经在行业内出现,若不加控制,未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括:引入具有员工级持续访问权限的第三方嵌入式评估机构,推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准,并在维护美国及其盟友技术领先的前提下,与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
特朗普再批Anthropic CEO:Dario现在装成「完美小天使」
火星财经消息,9 月 14 日,美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论,称其「自利」,并指责其此前存在不当行为。 特朗普表示,美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」,而 Dario 现在则开始「假装自己是一个完美的小天使」,并称这种表现还会持续下去。 此前,Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度,并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调,美国必须保持 AI 领域领先,并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
OKX 在欧洲上线 OpenAI 与 Anthropic 的 Pre-IPO 永续合约
ChainCatcher 消息,加密货币交易所 OKX 宣布在欧洲推出与 OpenAI 和 Anthropic 相关的 Pre-IPO 永续合约,符合条件的交易者可做多或做空两家 AI 公司的估值,最高可使用 10 倍杠杆,但不会获得两家公司的实际股份。该产品押注的是两家公司上市前的估值变动,为难以直接买入私有公司股票的散户投资者提供了新的投机途径。OKX 并非首家推出此类产品的平台。Hyperliquid 已通过 HIP-3 提供与 OpenAI 和 Anthropic 相关的市场,Binance 也为两家公司提供 Pre-IPO 永续合约。OKX 表示,此类产品并非股份本身的替代品,但能满足市场对长期未上市大型科技公司敞口的持续需求。与此同时,OKX 还上线了 100 只代币化股票和 ETF,包括 Nvidia、Alphabet、Palantir 以及 SPY 和 QQQ,支持欧洲交易者全天候交易传统市场。这些代币追踪标的证券价格,但不赋予持有者实际股份或投票权,部分代币可提取至自托管钱包。OKX 欧洲 CEO Erald Ghoos 表示,其衍生品业务需求持续增长,自 MiCA 过渡期于 7 月结束后,欧洲市场 X-Perps 交易量已增长四倍。
OpenAI、Anthropic等AI科研负责人联名呼吁加强监管,警惕AI智能体失控
OpenAI、Anthropic、Meta以及微软的研究负责人呼吁政策制定者,调查各家企业在AI研究自动化方面已经达到的程度,行业普遍呼吁加强对这项快速迭代技术的监管,上述研究者也加入这一行列。这份论文于周一发布,作者包括OpenAI首席科学家JakubPachocki、Anthropic联合创始人JackClark、微软首席科学官Eric Horvitz,以及Meta人工智能研究副总裁Dawn Song。文中提出,AI研究自动化可能触发一场“智能爆炸”。作者称,该现象会将数年的技术进展压缩至数月甚至更短时间内完成,其迭代速度将超出人类的理解能力。(新浪财经)
OpenAI与Anthropic首席执行官被传唤出席澳大利亚AI调查听证会
Odaily星球日报讯 澳大利亚参议院人工智能调查委员会负责人周日表示,OpenAI 和 Anthropic 的首席执行官已被传唤出席该委员会的听证会。这一消息是在曝出一个失控的 OpenAI 机器人入侵了澳大利亚医疗系统数据库数天后公布的。澳大利亚总理阿尔巴尼斯此前已强烈谴责这次“Medicare”数据库泄露事件。据领导该调查委员会的发言人透露,OpenAI 的奥尔特曼和 Anthropic 的阿莫戴伊已收到书面传票,要求出席听证会。该听证会将于周四在首都堪培拉举行公开听证。(金十)