Anthropic CEO:就算模型今天停更,现有AI可能也只用了5%–10%的价值
相关推荐
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息,Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划,呼吁放缓前沿大模型能力提升速度,以便安全对齐和监管跟上。他指出,递归自我改进已经在行业内出现,若不加控制,未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括:引入具有员工级持续访问权限的第三方嵌入式评估机构,推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准,并在维护美国及其盟友技术领先的前提下,与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
视频|Dario Amodei:为安全推迟发布Claude六个月,亲手错过了「ChatGPT时刻」
Anthropic CEO Dario Amodei 在参加 CFR CEO Speaker Series 时表示,Anthropic 当年其实有机会抢在 ChatGPT 之前发布 Claude,但出于安全考虑,主动将发布时间推迟了大约 6 个月,也因此错过了「ChatGPT 时刻」。这个决定确实让 Anthropic 付出了商业上的代价,但也奠定了公司此后更重视安全的文化。
特朗普再批Anthropic CEO:Dario现在装成「完美小天使」
火星财经消息,9 月 14 日,美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论,称其「自利」,并指责其此前存在不当行为。 特朗普表示,美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」,而 Dario 现在则开始「假装自己是一个完美的小天使」,并称这种表现还会持续下去。 此前,Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度,并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调,美国必须保持 AI 领域领先,并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
Salesforce正式接进Claude,37个销售Skill直接查客户、改销售记录
动察 Beating AI 快讯,Anthropic 和 Salesforce 正式推出 Salesforce in Claude Beta。它把 Salesforce 里的客户、商机和销售管道直接接进 Claude,并内置 37 个销售 Skill。销售人员不用离开对话,就能查客户、准备会议、评估商机、查看销售管道,也能直接更新 CRM 记录。此前这项功能只向少数客户试点开放。 Claude 还能把 Salesforce、Slack 和邮件里的信息合在一起,自动生成每日简报、会前材料和会后跟进,甚至根据实时数据生成交互式销售看板。修改 Salesforce 数据前,Claude 默认仍会要求用户确认,而且只能访问原账号有权限查看的数据。 Salesforce 内部已有约 7000 名销售人员在使用,GitLab、Siemens 和 Legora 也已部署。 以后销售未必还要天天点 CRM 界面,Claude 可以直接成为操作 Salesforce 的入口。
Anthropic钦点的「独立第三方」遭质疑:创始圈与公司关系盘根错节
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 最近主张,让 METR 这类第三方评估机构长期进驻前沿 AI 公司,获得接近员工级别的权限,检查安全措施、事故和模型训练过程。但《纽约邮报》调查发现,METR 和 Anthropic 所在的 AI 安全圈关系远比普通「外部审计」更近。 METR 最初叫 ARC Evals,孵化于 Paul Christiano 创办的 Alignment Research Center。Christiano 不仅曾和 Amodei 在 OpenAI 共事,《纽约邮报》称两人还做过室友;他后来又成为 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 现任技术人员 Ajeya Cotra 是 Christiano 的妻子,此前还负责 Coefficient Giving 的 AI 安全资助。 更直接的问题来自 METR 自己。今年它评估 Anthropic、OpenAI、Google 和 Meta 时,当时还没有适用的人员利益冲突政策,也没有进行正式的回避流程。METR 披露,直接参与项目的员工和合作者中,至少 6 人与 AI 公司员工存在密切私人关系。 当然这并不能证明 METR 被 Anthropic 控制。METR 明确表示不接受前沿 AI 公司及其员工的资金,做风险评估也不收费,不过这些公司会免费提供大量模型 Token。
Anthropic 计算承诺或达 5170 亿美元
ChainCatcher 消息,据 The Information 分析,Anthropic 已承诺云、芯片和数据中心交易,成本可能高达 5170 亿美元,主要在未来十年内。这几乎是其早前至 2029 年服务器租赁 1800 亿美元预测的近 3 倍,不过新估算覆盖更长期限和更广泛支出类别。自 10 月以来,Anthropic 已签署至少 14.8 吉瓦计算容量协议,加上此前获得的 1 至 2 吉瓦。亚马逊和谷歌占 11 吉瓦,估计成本超过 3000 亿美元,约十年。其他合作伙伴包括微软、SpaceX、Lambda 和 Nscale。Anthropic CEO Dario Amodei 敦促 AI 实验室“pace the frontier”,Claude Code 和 Cowork 需求推动公司获取更多计算能力。