Anthropic对人工智能的警告被视为芯片股的暂时性挫折
相关推荐
Anthropic与和特朗普关联的Rum Group达成137亿美元的算力协议
Odaily星球日报讯 Anthropic 与和特朗普有关联的 Rum Group 达成 137 亿美元的算力协议。(The Information)
Anthropic告知投资者，其将连续第二个季度实现盈利
BlockBeats 消息，9 月 14 日，据英国《金融时报》援引知情人士报道，Anthropic 已告知一小部分股东，其调整后营业利润将连续第二个季度为正。该指标剔除了股权激励等成本。 据知情人士透露，在未计入与亚马逊等分销合作伙伴分享的收入以及模型训练成本的情况下，Anthropic 的毛利率超过 80%。
Anthropic 选择在纳斯达克上市进行 IPO
Foresight News 消息，据 Business Insider 援引一名知情人士透露，Anthropic 已选择纳斯达克作为其潜在 IPO 的上市地点。 据另一名知情人士透露，这家计划于 10 月上市的公司选择纳斯达克，意味着后者又赢得了一场重要的交易所竞争。今年早些时候，纳斯达克成功争取到 SpaceX 上市。SpaceX 估值达到 1.75 万亿美元，而一些估算认为 Anthropic 的估值可能达到 2 万亿美元，不过这一数字目前尚未最终确定。此前，OpenAI 首席执行官萨姆·奥特曼表示，鉴于围绕 AI 可能对人类构成生存威胁的争议，OpenAI 目前不会上市。
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息，Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划，呼吁放缓前沿大模型能力提升速度，以便安全对齐和监管跟上。他指出，递归自我改进已经在行业内出现，若不加控制，未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括：引入具有员工级持续访问权限的第三方嵌入式评估机构，推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准，并在维护美国及其盟友技术领先的前提下，与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
AI灭绝论刷屏后，Anthropic给外部审查员开到接近员工级权限
动察 Beating AI 快讯，Anthropic 前研究员 Jacob Coxon 的辞职帖三天多冲到 1.6 亿浏览，AI 灭绝风险这周迅速冲进美国主流舆论场。OpenAI 首席科学家 Jakub Pachocki 此前已经呼吁同行必要时协调减速；Coxon 爆火后，Sam Altman 又在内部表示愿意和其他实验室一起放慢研发，OpenAI 也开始推动强制性的全国 AI 安全监管。 现在 Anthropic 也拿出了具体动作。公司承诺让第三方安全团队长期驻场，给他们工位、门禁、公司电脑，以及接近内部风险评估团队的工具和权限。他们可以检查训练流程、安全措施和事故，还能独立对外发布结论。Anthropic 可以删掉涉及安全、法律和客户隐私的信息，但不能因为结论难看就删。Anthropic CEO Dario 称，这种做法比目前任何 AI 公司都走得更远。 Dario 对「减速」的态度也变了。他说，2023 年业界讨论暂停 AI 时，自己还觉得没什么意义。现在 AI 已经越来越多参与下一代 AI 的研发，能力进步开始加速，他认为光做安全研究已经不够，模型能力本身也该慢下来。 他还点名 OpenAI 的 Hugging Face 失控事件，警告照现在的速度再过 6 到 12 个月，类似的 Agent 群可能已经有能力建立覆盖大范围互联网系统的僵尸网络，造成数千亿美元损失。下一步，他希望美国等民主国家的头部 AI 公司统一安全标准和研发速度，再尝试和中国协调全球 AI 发展速度。不过先进芯片和模型蒸馏仍要继续限制，让美国在减速时保持领先。
Anthropic CEO：提议民主国家内的前沿AI公司进行协调，建立共同的安全标准
Odaily星球日报讯 Anthropic 联合创始人兼首席执行官：提议民主国家内的前沿 AI 公司进行协调，建立共同的安全标准。(金十)