Kevin Bass:Anthropic 构建无法关闭的监管俘获机器,呼吁国会调查
相关推荐
Anthropic 向 METR 开放类员工访问,推进独立安全评估
火星财经消息,10 月 15 日,Anthropic 宣布已开始向非营利组织 METR 的一个团队提供类员工访问权限,用于评估其模型与安全实践。公司称,上个月已承诺加强独立第三方评估,并签署白宫《超级智能协议》,其中包含与独立外部审计方或评估方合作的承诺。过去一年,Anthropic 已与 METR 合作审查若干份风险报告,METR 将公布其风险评估结果。Anthropic 已为 6 名 METR 员工配备公司硬件、办公空间,以及与自身风险评估团队大致相当的内部工具和系统访问权限。除客户数据、律师与客户特权信息、模型架构信息等少数明确类别外,员工被鼓励像对待从事对齐风险工作的同事一样分享信息。METR 可发表对风险水平、事件或做法的分析,Anthropic 不能否决发表,但可要求删除预先界定的狭窄类别信息;METR 可公开说明删节情况,并在不泄露被删内容的前提下说明其是否认为删节合理。该安排仅限于在可执行协议下工作的小团队,其他 METR 员工与该团队工作隔离。Anthropic 同时与 SecureBio、Accenture 合作开展评估,并与包括 Hugging Face 在内的其他组织进行早期讨论。SecureBio 正在审查 2026 年 8 月风险报告中的化学与生物武器章节,此前已完成并发表对上一份风险报告的试点审查。
Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿
火星财经消息,Anthropic 最近向美国国会议员提交一份 AI 安全法案草案,遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛,风险须涉及生物武器、网络攻击或 AI 失控等情形,并可能造成超过 50 人死亡或重伤,或超过 10 亿美元损失;部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月,公司修改原本严格的安全政策:过去承诺若安全措施跟不上模型能力就暂停训练或发布,新政策不再要求公司在更高风险阶段独自停止研发,理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队,并让 Claude 承担更多 AI 研发任务。10 月 21 日,Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误,但坚持争夺最先进 AI 能力并未违背安全使命,并称公司奉行向上竞赛,只有保持在技术最前沿,才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定,包括将 Mythos 级模型限制开放数月,以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称,现有政策主要针对危险模型部署,未来可能需要直接限制研发速度,并计划在 2027 年 1 月 15 日前提出相关政策方案,或解释为何没有提出。
Anthropic陷入FUD舆论风波:联创兄妹薪酬曝光,市场担忧资金分流
Odaily星球日报讯 人工智能公司 Anthropic 在 2026 年上半年净亏损约 807 亿美元,较去年同期的 130 亿美元大幅扩大,同时该公司联创兄妹获数千万美元股权奖励引发较大争议。 据悉,Anthropic 联合创始人兼首席执行官 Dario Amodei 与其妹妹、公司总 Daniela Amodei 虽然基本年薪均约为 65.5 万美元,但计入股票及期权奖励后两人全年总薪酬分别达到约 1800 万美元和 1650 万美元。 市场观点认为,Anthropic 正面临一轮 FUD 舆论压力,背后可能与传统金融市场及加密市场对大型 IPO 潜在流动性抽离的担忧有关,传统金融市场和加密市场都不希望再次出现 SpaceX IPO 期间那样的巨额流动性流出。(纽约邮报)
纽约市审计长敦促Anthropic暂停推进IPO
PANews 10月15日消息,据CNBC报道,纽约市审计长Mark Levine接受采访时表示,他已致信Anthropic首席执行官Dario Amodei,呼吁该公司暂停其计划中的首次公开募股(IPO)。信中敦促Anthropic在全面、透明地回应公司自身提出的AI安全、治理和开发相关担忧之前,暂停IPO计划。Levine写道,公司应把重点放在解决这些风险上,而不是推进IPO。纽约市目前通过私募市场持有Anthropic不到1000万美元的投资敞口。
分析:Anthropic IPO临近,投资者难以为AI失控风险定价
PANews 10月8日消息,据彭博社报道,Anthropic计划中的大规模IPO令投资者面临难题:如何为一家被部分人担忧可能带来极端风险的公司估值。此前有研究人员在X平台讨论AI导致人类灭绝的概率达10%以上,Anthropic CEO Dario Amodei曾撰文指出人类可能失去对AI系统的控制,以及AI被用于网络攻击、生物恐怖等风险。
佛罗里达女子用 Claude 写日记,Anthropic 审查后报警
ChainCatcher 消息,据 Decrypt 报道,美国佛罗里达州 Bonita Springs 女子 Carli Michelle Heller 因将 Claude 当作日记使用而被捕。调查人员称,她在 9 月 26 日写下将“扫射”李县警长办公室的内容,次日又表示自己获得了新枪。Anthropic 的安全系统标记了这些对话,因内容严重,平台交由人工审查团队处理,后者向执法部门报告。警员据此锁定 Heller,前往其住所并将其拘留,她被控以书面形式发出暴力威胁,案件定于 11 月开庭。Anthropic 的消费者条款明确保留“自行决定”将用户输入、输出或行为报告给执法部门的权利。其 2026 年 9 月 10 日生效的隐私政策也允许公司在善意相信披露为预防严重伤害所合理必要时与警方共享数据。即便用户选择不将数据用于模型训练,Anthropic 仍可在三个月内使用其数据,而非五年;被标记送审的对话还会用于改进有害内容检测能力。这并非首例。《旧金山标准报》9 月报道,Anthropic 曾将一名用户移交警方,该用户据称写道自己购买了 AR-15 步枪,并将公司 CEO Dario Amodei 置于瞄准镜中,其称只是开玩笑,报道刊发时未被逮捕或起诉,Anthropic 发言人称此事是“我们的防护流程按预期运作”。