Palantir CEO：AI 公司应为自身行为承担法律责任
相关推荐
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息，Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划，呼吁放缓前沿大模型能力提升速度，以便安全对齐和监管跟上。他指出，递归自我改进已经在行业内出现，若不加控制，未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括：引入具有员工级持续访问权限的第三方嵌入式评估机构，推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准，并在维护美国及其盟友技术领先的前提下，与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
特朗普再批Anthropic CEO：Dario现在装成「完美小天使」
火星财经消息，9 月 14 日，美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论，称其「自利」，并指责其此前存在不当行为。 特朗普表示，美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」，而 Dario 现在则开始「假装自己是一个完美的小天使」，并称这种表现还会持续下去。 此前，Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度，并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调，美国必须保持 AI 领域领先，并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
Anthropic CEO：就算模型今天停更，现有AI可能也只用了5%–10%的价值
动察 Beating AI 快讯，Anthropic CEO Dario Amodei 在 Salesforce 年度大会 Dreamforce 上表示，即使模型能力从今天开始不再进步，人们可能也只开发出了现有 AI 潜在价值的 5%–10%。 他认为，模型能力已经跑在实际应用前面。很多企业和普通用户甚至还不知道现有 AI 已经能做什么，更谈不上把这些能力真正用进日常工作。 Dario 举了 Anthropic 自己的例子。公司内部已经有人让 Claude 直接结合 Salesforce 数据，找出本周最大的交易、最可能丢掉的订单，再分析项目的问题和成单机会。这些能力今天已经能用，但真正把它们用起来的人还很少。 这也补充了他最近关于「放慢前沿 AI」的主张。Dario 想放慢的是最前沿模型继续变强的速度，并不主张放慢 AI 应用。按他的判断，就算模型暂时停在今天，企业把现有能力真正用起来，仍有很大的空间。
英伟达、Palantir和Booz Allen或将限制Anthropic模型使用
Odaily星球日报讯 据消息人士透露，随着企业越来越担心 Anthropic 或 OpenAI 可能从客户使用过程中获取或学习其知识产权，涉及敏感企业业务的多家大型公司开始收紧 AI 模型使用。Palantir、英伟达和 Booz Allen Hamilton 等公司已要求 AI 厂商提供新的数据安全保障，或减少乃至停止使用其最先进的模型。（The Information）
Anthropic钦点的「独立第三方」遭质疑：创始圈与公司关系盘根错节
动察 Beating AI 快讯，Anthropic CEO Dario Amodei 最近主张，让 METR 这类第三方评估机构长期进驻前沿 AI 公司，获得接近员工级别的权限，检查安全措施、事故和模型训练过程。但《纽约邮报》调查发现，METR 和 Anthropic 所在的 AI 安全圈关系远比普通「外部审计」更近。 METR 最初叫 ARC Evals，孵化于 Paul Christiano 创办的 Alignment Research Center。Christiano 不仅曾和 Amodei 在 OpenAI 共事，《纽约邮报》称两人还做过室友；他后来又成为 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 现任技术人员 Ajeya Cotra 是 Christiano 的妻子，此前还负责 Coefficient Giving 的 AI 安全资助。 更直接的问题来自 METR 自己。今年它评估 Anthropic、OpenAI、Google 和 Meta 时，当时还没有适用的人员利益冲突政策，也没有进行正式的回避流程。METR 披露，直接参与项目的员工和合作者中，至少 6 人与 AI 公司员工存在密切私人关系。 当然这并不能证明 METR 被 Anthropic 控制。METR 明确表示不接受前沿 AI 公司及其员工的资金，做风险评估也不收费，不过这些公司会免费提供大量模型 Token。
Anthropic 计算承诺或达 5170 亿美元
ChainCatcher 消息，据 The Information 分析，Anthropic 已承诺云、芯片和数据中心交易，成本可能高达 5170 亿美元，主要在未来十年内。这几乎是其早前至 2029 年服务器租赁 1800 亿美元预测的近 3 倍，不过新估算覆盖更长期限和更广泛支出类别。自 10 月以来，Anthropic 已签署至少 14.8 吉瓦计算容量协议，加上此前获得的 1 至 2 吉瓦。亚马逊和谷歌占 11 吉瓦，估计成本超过 3000 亿美元，约十年。其他合作伙伴包括微软、SpaceX、Lambda 和 Nscale。Anthropic CEO Dario Amodei 敦促 AI 实验室“pace the frontier”，Claude Code 和 Cowork 需求推动公司获取更多计算能力。