Anthropic披露又一起AI模型侵入第三方系统事件
相关推荐
AI灭绝论刷屏后，Anthropic给外部审查员开到接近员工级权限
动察 Beating AI 快讯，Anthropic 前研究员 Jacob Coxon 的辞职帖三天多冲到 1.6 亿浏览，AI 灭绝风险这周迅速冲进美国主流舆论场。OpenAI 首席科学家 Jakub Pachocki 此前已经呼吁同行必要时协调减速；Coxon 爆火后，Sam Altman 又在内部表示愿意和其他实验室一起放慢研发，OpenAI 也开始推动强制性的全国 AI 安全监管。 现在 Anthropic 也拿出了具体动作。公司承诺让第三方安全团队长期驻场，给他们工位、门禁、公司电脑，以及接近内部风险评估团队的工具和权限。他们可以检查训练流程、安全措施和事故，还能独立对外发布结论。Anthropic 可以删掉涉及安全、法律和客户隐私的信息，但不能因为结论难看就删。Anthropic CEO Dario 称，这种做法比目前任何 AI 公司都走得更远。 Dario 对「减速」的态度也变了。他说，2023 年业界讨论暂停 AI 时，自己还觉得没什么意义。现在 AI 已经越来越多参与下一代 AI 的研发，能力进步开始加速，他认为光做安全研究已经不够，模型能力本身也该慢下来。 他还点名 OpenAI 的 Hugging Face 失控事件，警告照现在的速度再过 6 到 12 个月，类似的 Agent 群可能已经有能力建立覆盖大范围互联网系统的僵尸网络，造成数千亿美元损失。下一步，他希望美国等民主国家的头部 AI 公司统一安全标准和研发速度，再尝试和中国协调全球 AI 发展速度。不过先进芯片和模型蒸馏仍要继续限制，让美国在减速时保持领先。
Anthropic CEO：提议民主国家内的前沿AI公司进行协调，建立共同的安全标准
Odaily星球日报讯 Anthropic 联合创始人兼首席执行官：提议民主国家内的前沿 AI 公司进行协调，建立共同的安全标准。(金十)
Anthropic联合创始人兼首席执行官：我们必须放缓提升AI模型能力的速度，确保公司有足够的时间进行对齐，保护模型
Odaily星球日报讯 Anthropic 联合创始人兼首席执行官：我们必须放缓提升 AI 模型能力的速度。放缓节奏并不意味着停止模型训练或技术进步，而是要确保公司有足够的时间进行对齐，保护模型。(金十)
Long.xyz上线OpenAI、Anthropic盘前交易合约，支持最高5倍杠杆
火星财经消息，9 月 12 日，Meme 币发行平台 LONG 宣布上线 OpenAI 和 Anthropic 的 Pre-IPO 交易对，相关合约由 Lighter 提供永续合约基础设施。 Long.xyz 表示，平台已为 OpenAI、Anthropic 及英伟达建立配对流动性池，其中 OpenAI 和 Anthropic 各 1 倍，英伟达 3 倍。针对早期市场，平台采用定制化流动性设计，以较低的市场深度逐步扩大流动性。 需要注意的是，Pre-IPO 合约并不代表实际持有 OpenAI 或 Anthropic 股权，而是追踪未上市公司的估值预期。Lighter 目前的 OpenAI 和 Anthropic 合约最高支持 5 倍杠杆，且采用内部定价机制。 Long.xyz 强调，Pre-IPO 交易目前仍处于实验阶段，平台将根据市场表现逐步调整相关产品。近期 OpenAI 和 Anthropic 的上市预期升温，也推动此类链上上市前交易产品快速增加。 目前链上已出现这类代币化多单 + Meme 配对提供投机敞口的新形式，类似之前 NVDA 等股票代币配对 Meme 的玩法升级版。但相关代币价格波动大，存在较大不确定性，用户投资需谨慎。
英伟达正洽谈投资Anthropic的IPO项目，高达100亿美元
PANews 9月12日消息，据财联社报道，英伟达据悉正洽谈投资Anthropic的大型IPO项目，英伟达正就向Anthropic的首次公开募股投资高达100亿美元进行谈判。Anthropic拟通过IPO募资至多1000亿美元，估值约2万亿美元。
Anthropic 报告称 Claude 被用于网络攻击与监控活动
火星财经消息，Anthropic 在周四发布的一份威胁情报报告中表示，俄语和中文使用者利用其 AI 模型 Claude 自动化发起网络攻击。其中，代号“JackPoterz”的俄语操作者通过定制化的 AI 驱动工作流自动化了攻击链的大部分环节，目标覆盖超过 20 个组织，包括政府部门和情报机构，以及乌克兰和欧洲多国的使馆与外交使团。中文使用者则将 Claude 用作漏洞研究的工程与编排层，其中一个工作流在一个月内于网络设备固件中产出了十余个潜在的零日漏洞。Anthropic 指出，AI 正在改变网络攻击的经济性，使单个操作者能在两到三小时内完成入侵，并可并行处理数十个受害者。此外，报告还披露，一名疑似常驻巴马科、与马里国家情报机构合作的独立顾问，将 Claude 作为主要工程力量，构建了一套覆盖全国约 2500 万张 SIM 卡、横跨该国全部三家移动运营商的大规模国内监控系统。该系统在本地部署并使用本地模型运行，由 Claude 提供软件设计与工程支持，可在无需法院令状的情况下针对电话号码生成情报档案。