特朗普盟友备忘录点名 Anthropic CEO,视其为 AI 末日论代表
相关推荐
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息,Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划,呼吁放缓前沿大模型能力提升速度,以便安全对齐和监管跟上。他指出,递归自我改进已经在行业内出现,若不加控制,未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括:引入具有员工级持续访问权限的第三方嵌入式评估机构,推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准,并在维护美国及其盟友技术领先的前提下,与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
特朗普再批Anthropic CEO:Dario现在装成「完美小天使」
火星财经消息,9 月 14 日,美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论,称其「自利」,并指责其此前存在不当行为。 特朗普表示,美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」,而 Dario 现在则开始「假装自己是一个完美的小天使」,并称这种表现还会持续下去。 此前,Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度,并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调,美国必须保持 AI 领域领先,并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
Anthropic CEO:就算模型今天停更,现有AI可能也只用了5%–10%的价值
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 在 Salesforce 年度大会 Dreamforce 上表示,即使模型能力从今天开始不再进步,人们可能也只开发出了现有 AI 潜在价值的 5%–10%。 他认为,模型能力已经跑在实际应用前面。很多企业和普通用户甚至还不知道现有 AI 已经能做什么,更谈不上把这些能力真正用进日常工作。 Dario 举了 Anthropic 自己的例子。公司内部已经有人让 Claude 直接结合 Salesforce 数据,找出本周最大的交易、最可能丢掉的订单,再分析项目的问题和成单机会。这些能力今天已经能用,但真正把它们用起来的人还很少。 这也补充了他最近关于「放慢前沿 AI」的主张。Dario 想放慢的是最前沿模型继续变强的速度,并不主张放慢 AI 应用。按他的判断,就算模型暂时停在今天,企业把现有能力真正用起来,仍有很大的空间。
OpenAI CEO将在联合国推动全球AI安全标准
动察 Beating AI 快讯,OpenAI CEO Sam Altman 将在联合国安理会发言,主张建立统一的全球 AI 安全标准,同时避免出台可能拖慢创新的限制措施。OpenAI 表示,它并不支持设立某个具体的国际监管机构,更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei 预计也将通过视频参会。 此前据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。相关提议正值 AI 安全担忧升温之际。
Nic Carter:Anthropic 放缓前沿旨在拉大公私差距
火星财经消息,Castle Island Ventures 联合创始人 Nic Carter 发文评论 Anthropic CEO Dario Amodei 提出的「放缓前沿」主张。Nic Carter:若目标是拉大公众与内部真正前沿之间的差距,并需要竞品配合,则该主张具有合理性。Anthropic 的主要商业风险是蒸馏导致的模型商品化,而非安全问题。Nic Carter 称,安全与利润激励在限制公众获取真正前沿模型方面趋于一致。前沿 token 的最高回报用途是内部研发及捕获下游知识产权,而非公开 API 销售。Anthropic 已将 Mythos Preview 等模型仅向少数合作伙伴开放。Nic Carter 表示,单方面放缓无法解决囚徒困境,协调克制需要反垄断豁免或监管。Dario 在相关文章中呼吁美国政府为安全讨论提供有限豁免,以便企业自愿制定标准。
Palantir CEO:AI 公司应为自身行为承担法律责任
PANews 9月18日消息,据彭博社报道,Palantir CEO Alex Karp 在接受 CNBC 采访时表示,开发和部署 AI 系统的公司应对其技术带来的后果自行负责,而不应仅依赖政府监管。针对 Anthropic CEO Dario Amodei 提出的在 AI 企业内部嵌入第三方安全评估机构的建议,Karp 称相关监管机制复杂且需要真正懂技术的人参与,并指出目前大多数懂 AI 的专家都“拿着某家公司的薪水”,难以保证独立性。Nvidia CEO 黄仁勋则表示,AI 公司有责任确保产品安全,如无法保证安全,应暂停发布并“确保把事情做好”后再推出。