Nic Carter：Anthropic 放缓前沿旨在拉大公私差距
相关推荐
特朗普再批Anthropic CEO：Dario现在装成「完美小天使」
火星财经消息，9 月 14 日，美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论，称其「自利」，并指责其此前存在不当行为。 特朗普表示，美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」，而 Dario 现在则开始「假装自己是一个完美的小天使」，并称这种表现还会持续下去。 此前，Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度，并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调，美国必须保持 AI 领域领先，并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息，Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划，呼吁放缓前沿大模型能力提升速度，以便安全对齐和监管跟上。他指出，递归自我改进已经在行业内出现，若不加控制，未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括：引入具有员工级持续访问权限的第三方嵌入式评估机构，推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准，并在维护美国及其盟友技术领先的前提下，与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
Anthropic CEO：就算模型今天停更，现有AI可能也只用了5%–10%的价值
动察 Beating AI 快讯，Anthropic CEO Dario Amodei 在 Salesforce 年度大会 Dreamforce 上表示，即使模型能力从今天开始不再进步，人们可能也只开发出了现有 AI 潜在价值的 5%–10%。 他认为，模型能力已经跑在实际应用前面。很多企业和普通用户甚至还不知道现有 AI 已经能做什么，更谈不上把这些能力真正用进日常工作。 Dario 举了 Anthropic 自己的例子。公司内部已经有人让 Claude 直接结合 Salesforce 数据，找出本周最大的交易、最可能丢掉的订单，再分析项目的问题和成单机会。这些能力今天已经能用，但真正把它们用起来的人还很少。 这也补充了他最近关于「放慢前沿 AI」的主张。Dario 想放慢的是最前沿模型继续变强的速度，并不主张放慢 AI 应用。按他的判断，就算模型暂时停在今天，企业把现有能力真正用起来，仍有很大的空间。
Sonic 前 CEO Michael Kong：离职非自愿，对方拒不履行协议
火星财经消息，Sonic 前 CEO Michael Kong 发文回应 Sonic Labs 近日发布的“即刻终止合作关系”声明。他称，公司在同一天仍向其寻求协助并表示希望其安好，但公告未说明原因，由此产生的“其因可能存在不当行为而被解职”的印象并不属实。Kong 表示，此次离开并非自愿，其在 Fantom / Sonic 工作逾八年后，已与 Sonic Labs 及其关联方谈判并签署遣散与免责协议。Kong 称，过去两个半月 Sonic Labs 多次承诺履行该协议，但目前拒绝履行，其既有承包协议同样未被遵守。该免责协议约定双方不得公开贬损对方，而本应内部处理的事项被 Sonic Labs 公开，已造成损害，故其选择公开回应。他提到，曾几乎凭一己之力为公司赢得韩国约 1.5 亿美元诉讼，当时被描述为韩国最大加密货币争议之一，并援引 Fantom 与 Sonic 所有者 David Richardson 的书面评价称其工作应获基金会感谢。Kong 表示，其保留对 Sonic Labs 及其关联方提出任何索赔的全部权利。
Palantir CEO：AI 公司应为自身行为承担法律责任
PANews 9月18日消息，据彭博社报道，Palantir CEO Alex Karp 在接受 CNBC 采访时表示，开发和部署 AI 系统的公司应对其技术带来的后果自行负责，而不应仅依赖政府监管。针对 Anthropic CEO Dario Amodei 提出的在 AI 企业内部嵌入第三方安全评估机构的建议，Karp 称相关监管机制复杂且需要真正懂技术的人参与，并指出目前大多数懂 AI 的专家都“拿着某家公司的薪水”，难以保证独立性。Nvidia CEO 黄仁勋则表示，AI 公司有责任确保产品安全，如无法保证安全，应暂停发布并“确保把事情做好”后再推出。
Anthropic钦点的「独立第三方」遭质疑：创始圈与公司关系盘根错节
动察 Beating AI 快讯，Anthropic CEO Dario Amodei 最近主张，让 METR 这类第三方评估机构长期进驻前沿 AI 公司，获得接近员工级别的权限，检查安全措施、事故和模型训练过程。但《纽约邮报》调查发现，METR 和 Anthropic 所在的 AI 安全圈关系远比普通「外部审计」更近。 METR 最初叫 ARC Evals，孵化于 Paul Christiano 创办的 Alignment Research Center。Christiano 不仅曾和 Amodei 在 OpenAI 共事，《纽约邮报》称两人还做过室友；他后来又成为 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 现任技术人员 Ajeya Cotra 是 Christiano 的妻子，此前还负责 Coefficient Giving 的 AI 安全资助。 更直接的问题来自 METR 自己。今年它评估 Anthropic、OpenAI、Google 和 Meta 时，当时还没有适用的人员利益冲突政策，也没有进行正式的回避流程。METR 披露，直接参与项目的员工和合作者中，至少 6 人与 AI 公司员工存在密切私人关系。 当然这并不能证明 METR 被 Anthropic 控制。METR 明确表示不接受前沿 AI 公司及其员工的资金，做风险评估也不收费，不过这些公司会免费提供大量模型 Token。