返回 7*24 快讯
来源MarsBit

以防止Altman变坏为名进行集权,前员工曝Anthropic反深陷「好人」神话一言堂

据 动察 Beating 监测,标榜「高信任、低自我」的 Anthropic 正在滑向思想同质化。 《连线》(WIRED)的报道揭示了公司内部对于治理评价的分歧。有前员工透露,公司内部存在活跃的辩论氛围;但另有前员工勾勒出更沉闷的景象,称尖锐批评基本被隔绝在私密群聊中,常规全员会甚至被员工戏称为「达里奥愿景探索」(Dario Vision Quests)。听首席执行官 Dario Amodei 讲话犹如「听牧师布道(sermon)」,鲜有人在公开会议上挑战管理层的决策。 沉闷氛围的根源,在于 Anthropic 深植于「以攻促防」的精英安全信念。高管在内部极力将 OpenAI 首席执行官 Sam Altman(以及 Meta 和 xAI)视作反面教材,同时向员工灌输精英逻辑:必须在商业、算力与研究人才上保持行业领先,才有资格在规则制定时掌握话语权。 前 OpenAI 董事 Helen Toner 曾做出森林比喻:村民无论如何都会涌入装满怪物的魔法森林,Anthropic 的策略则是抢先一步深入森林,在释放技术红利的同时驯服怪物,并控制灾难性风险。 对技术主导权的追求,也让 Anthropic 的安全与道德抉择屡受争议。2024 年秋季,管理层不顾内部反对,携手 Palantir 向美国情报与国防机构开放服务。目前 Claude 已被证实用于中东冲突中的目标识别,面对导致平民伤亡的袭击质询,Amodei 虽表示不知情,但辩称「只要人类做出最终决定,技术的使用即合规」。今年 6 月,开发团队在旗舰模型 Claude Fable 5 中暗中内置破坏代码以秘密干扰违规开发。但在遭遇行业强烈抗议后,公司被迫做出妥协,宣布将秘密干扰机制调整为公开可见的安全限制。行业批评指出,将前沿 AI 安全完全押注在少数精英的道德优越感之上,必然会带来无法规避的自律盲区。
免责声明:以上内容仅为作者观点,不代表 711BTC 的任何立场,不构成与 711BTC 相关的任何投资建议。

相关推荐

09-13 09:27重要

Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐

PANews 9月13日消息,Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划,呼吁放缓前沿大模型能力提升速度,以便安全对齐和监管跟上。他指出,递归自我改进已经在行业内出现,若不加控制,未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括:引入具有员工级持续访问权限的第三方嵌入式评估机构,推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准,并在维护美国及其盟友技术领先的前提下,与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。

09-13 04:12

Altman、Dario都喊AI减速,特朗普科技顾问Sacks:真怕就自己停,别拉上全行业

动察 Beating AI 快讯,Anthropic CEO Dario Amodei 发长文呼吁放慢前沿 AI 的能力提升。他认为,AI 已越来越多参与下一代 AI 研发,加上近期多起 Agent 失控事件,安全研究正在追不上能力增长。 Dario 提出三步方案:先让第三方评测员长期进入 AI 公司,获得接近员工的权限;再让民主国家的前沿实验室协调安全标准,必要时一起放慢能力增长;最后推动国际协调。Anthropic 已承诺先执行第一步。 Sam Altman 随后公开支持,称 OpenAI 最近几周也一直在讨论「pace the frontier」,并宣布 OpenAI 也会引入类似的长期独立评测员。 前白宫 AI 与加密货币主管、现任总统科技顾问委员会联席主席 David Sacks 随后回击:「真觉得内部模型危险,就自己停。」他说 OpenAI 和 Anthropic 已经主导前沿 AI,完全可以自己放慢,不需要拉上其他公司。 Sacks 最反感的是几家竞争对手一起商量「大家都慢一点」。Dario 自己也承认,这类协调可能需要反垄断豁免。Sacks 认为,如果还得政府开绿灯,让几家最大的 AI 公司坐下来一起限速,就很像一个垄断联盟。 他还点名 METR,质疑它是否适合充当全行业的独立裁判。METR 长期给 Anthropic、OpenAI 等公司做外部评测,最近又有 Anthropic 安全研究员 Joe Benton 离职加入。不过 METR 明确表示,自己不接受这些前沿 AI 公司的资金,只接受模型访问和免费 token。 Sacks 还认为,减速本身也符合 OpenAI 和 Anthropic 的商业利益。模型越容易失控,法律责任越大;客户也更愿意买稳定、可控的 AI。至于全球统一减速,他判断不可能所有国家都愿意加入。

08-20 14:09

Anthropic上市前给创始人加投票权:Dario目前持股仅约2%

动察 Beating AI 快讯,Anthropic 正准备给首席执行官 Dario Amodei 和其他联合创始人一类高投票权股票,让他们上市后仍能保持更强控制权。方案还没最终敲定,Anthropic 最快可能在 9 月底上市。 这主要是因为创始人持股已经很低。Dario 目前只持有约 2% 股份。高投票权股票可以让创始人用较少股份掌握更多表决权,减少上市后受到外部股东压力。 Anthropic 还有另一层特殊机制:长期利益信托。这个独立机构没有经济权益,但持有特殊的 T 类股票,可以选出董事会多数成员。Anthropic 今年 4 月已经确认,信托任命的董事占董事会多数。 这样一来,Anthropic 上市后可能同时保留两套控制权:创始人靠高投票权股票保持影响力,长期利益信托继续控制董事会多数席位。

09-12 18:25

Sam Altman确认OpenAI今年不上市:AI安全问题让现在IPO「时机不当」

动察 Beating AI 快讯,OpenAI CEO Sam Altman 在接受《财富》专访时确认,公司不会在 2026 年进行 IPO,并称考虑到当前 AI 安全形势,现在上市「时机不当」。 Altman 表示,OpenAI 并不急于上市,未来将在业务准备就绪、社会能够适应不同能力水平的 AI 模型后再考虑 IPO。他还称,公司需要优先解决 AI 安全与对齐问题,并可能在 AI 能力达到新的阶段时放缓前沿模型开发。此前有报道称,OpenAI 曾考虑将 IPO 推迟至 2027 年,潜在估值或达 1 万亿美元。 与此同时,Anthropic CEO Dario Amodei 近期也呼吁放缓前沿 AI 发展,并提出让独立评估机构获得公司内部员工级别的访问权限。随后 Sam Altman 表示,「我同意 Dario Amodei(Anthropic CEO)的看法,我们需要控制前沿模型的进展。这是我们最近在 OpenAI 讨论的主要话题。承诺让独立评估者拥有类似员工的访问权限是个好主意,我们也会这样做。我们很快会有更多消息分享。」

09-01 01:01

视频|Dario Amodei:为安全推迟发布Claude六个月,亲手错过了「ChatGPT时刻」

Anthropic CEO Dario Amodei 在参加 CFR CEO Speaker Series 时表示,Anthropic 当年其实有机会抢在 ChatGPT 之前发布 Claude,但出于安全考虑,主动将发布时间推迟了大约 6 个月,也因此错过了「ChatGPT 时刻」。这个决定确实让 Anthropic 付出了商业上的代价,但也奠定了公司此后更重视安全的文化。

08-19 03:03

Anthropic 拟赋予 CEO Amodei 超级投票权,为 IPO 上市铺路

ChainCatcher 消息,据 Bloomberg 报道,AI 公司 Anthropic PBC 计划在筹备上市前,向首席执行官 Dario Amodei 及其他联合创始人授予具有额外投票权的股份。此举旨在确保创始团队在公司上市后仍能对公司战略方向保持主导控制权。该双重股权结构在科技行业已较为普遍,Meta 创始人扎克伯格及 Snap 创始人斯皮格尔均持有类似的超级投票权股份。