美商务部长：Anthropic已与特朗普政府「修复关系」
相关推荐
Anthropic给第三方员工级权限，老伙伴埃森哲先进场
动察 Beating AI 快讯，Anthropic 正式开始落地「嵌入式评估」。埃森哲旗下 AI 公司 Faculty 将派人进入 Anthropic 内部，评测和红队测试模型、做对齐评估，并检查安全措施。 这和普通的外部评测差别很大。评估员会拿到接近员工的权限，可以查看模型训练过程，了解开发和部署决策，还能直接和内部员工沟通。 双方未来五年各投入至少 10 亿美元建设这套评估能力。Anthropic 也承认，目前行业连统一规则都没有，评估员具体能看什么、结果怎么公开、钱由谁出都还在定。眼下埃森哲的评估工作由 Anthropic 直接付钱。 但埃森哲本身就是 Anthropic 的长期战略合作伙伴，还专门成立了 Anthropic Business Group，培训约 3 万人使用 Claude。AI Evaluator Forum 同日提出的最低条件之一，恰恰是评估机构不应与被评公司存在重大商业往来。 Anthropic 之后还会引入其他评估机构，也在和 METR（也是 Anthropic 的老伙伴）等非营利组织谈试点。
Anthropic已建立生物学实验室，希望让Claude人工智能系统控制实体机器人
动察 Beating AI 快讯，据路透社，消息人士称，Anthropic 已建立生物学实验室，用于开展实体实验，以推进其药物研发目标。Anthropic 希望让 Claude 人工智能系统控制实体机器人，并在仅需有限人工参与的情况下运行实验室测试。
被指和Anthropic关系太近，METR总裁回应：我们没拿AI公司的钱
动察 Beating AI 快讯，这几天，Anthropic 推荐的第三方评估机构 METR 接连遭到质疑。外界发现，它的不少核心成员和 Anthropic、OpenAI 等 AI 公司关系密切。METR 自己也承认，此前一次评估中至少 6 名参与者与 AI 公司员工有密切私人关系，当时甚至还没有正式的利益冲突政策。 METR 总裁 Chris Painter 现在正面回应。他称 METR 靠捐款运营，从未接受前沿 AI 公司及其员工的钱，给 Anthropic、OpenAI 等公司做评估也不收费。这些公司会免费开放模型和 Token，让 METR 做测试。 Painter 强调，METR 的目标不是替 AI 公司证明模型「安全」，而是在发现模型可能失控时，把证据公开给政府和公众。
Anthropic CEO：就算模型今天停更，现有AI可能也只用了5%–10%的价值
动察 Beating AI 快讯，Anthropic CEO Dario Amodei 在 Salesforce 年度大会 Dreamforce 上表示，即使模型能力从今天开始不再进步，人们可能也只开发出了现有 AI 潜在价值的 5%–10%。 他认为，模型能力已经跑在实际应用前面。很多企业和普通用户甚至还不知道现有 AI 已经能做什么，更谈不上把这些能力真正用进日常工作。 Dario 举了 Anthropic 自己的例子。公司内部已经有人让 Claude 直接结合 Salesforce 数据，找出本周最大的交易、最可能丢掉的订单，再分析项目的问题和成单机会。这些能力今天已经能用，但真正把它们用起来的人还很少。 这也补充了他最近关于「放慢前沿 AI」的主张。Dario 想放慢的是最前沿模型继续变强的速度，并不主张放慢 AI 应用。按他的判断，就算模型暂时停在今天，企业把现有能力真正用起来，仍有很大的空间。
Anthropic钦点的「独立第三方」遭质疑：创始圈与公司关系盘根错节
动察 Beating AI 快讯，Anthropic CEO Dario Amodei 最近主张，让 METR 这类第三方评估机构长期进驻前沿 AI 公司，获得接近员工级别的权限，检查安全措施、事故和模型训练过程。但《纽约邮报》调查发现，METR 和 Anthropic 所在的 AI 安全圈关系远比普通「外部审计」更近。 METR 最初叫 ARC Evals，孵化于 Paul Christiano 创办的 Alignment Research Center。Christiano 不仅曾和 Amodei 在 OpenAI 共事，《纽约邮报》称两人还做过室友；他后来又成为 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 现任技术人员 Ajeya Cotra 是 Christiano 的妻子，此前还负责 Coefficient Giving 的 AI 安全资助。 更直接的问题来自 METR 自己。今年它评估 Anthropic、OpenAI、Google 和 Meta 时，当时还没有适用的人员利益冲突政策，也没有进行正式的回避流程。METR 披露，直接参与项目的员工和合作者中，至少 6 人与 AI 公司员工存在密切私人关系。 当然这并不能证明 METR 被 Anthropic 控制。METR 明确表示不接受前沿 AI 公司及其员工的资金，做风险评估也不收费，不过这些公司会免费提供大量模型 Token。
OpenAI：正与Anthropic和谷歌合作开展人工智能安全工作
动察 Beating AI 快讯，OpenAI 正与 Anthropic 和谷歌合作开展人工智能安全工作。(金十)