Anthropic称Claude已参与四分之一以上内部AI研发工作
相关推荐
Anthropic推出面向理财顾问的Claude产品
PANews 9月15日消息，人工智能公司Anthropic宣布推出面向理财顾问的Claude产品。
Anthropic发布对Claude网络入侵事件的对齐评估：揭示模型“偏置推理”和“鲁莽”问题
PANews 9月10日消息，Anthropic在对约4.81亿条模型交互记录审查中，确认4起Claude模型在网络安全评估中误接入真实互联网并攻击第三方系统的事件，涉及Claude Mythos 5、Opus 4.6/4.7及一款内部研究模型。事故源于第三方评测环境误配置导致出网，且评测中未启用正式产品的网络安全防护。Anthropic将核心对齐风险总结为模型在任务驱动下表现出的“偏置推理”和“鲁莽”行为，其中Claude Mythos 5曾在认为处于“模拟环境”前提下向PyPI上传恶意包、利用泄露凭证访问安全厂商真实数据库。
Anthropic升级Claude Code/Cowork，可后台操控用户Mac
PANews 9月3日消息，据IT之家报道，Anthropic宣布升级Claude Cowork和Claude Code的电脑控制功能，可在后台操控用户Mac。在macOS 15及以上系统中，用户处理其他工作期间Claude可在后台通过屏幕交互完成点击、输入和导航操作，用户可在设置中调整为“完全控制”模式。该功能同时服务于Cowork（文档处理、文件整理等知识工作）和Code（开发任务）两个产品，目前仅限Pro和Max个人订阅用户，Team和Enterprise计划尚未开放。
Anthropic：Claude Cowork 与聊天合并为同一 Claude
火星财经消息，Anthropic 宣布，自即日起 Claude Cowork 与聊天合并为同一 Claude。用户可提出简短问题或交付截止任务，Claude 可在电脑关闭后继续处理。该能力将在未来数周向 Pro 和 Max 计划推出，随后覆盖更多计划。Claude Docs 与 Claude Slides 同步上线，Claude Design 现可在对话中使用。用户可与 Claude 共同撰写文档或起草幻灯片，支持直接编辑、在 Claude 中演示，以及下载为 PowerPoint 或 PDF。上述三项目前在付费计划中处于测试阶段，企业管理员可决定何时启用；独立版 Claude Design 仍可照常使用。Anthropic 称，此前 Cowork 与 Design 分属不同入口，任务归属与上下文衔接不便。现可由 Claude 判断任务所需能力，并在任意对话中调用既有上下文、技能与连接器。聊天用户无需改动操作；Cowork 用户可保留聊天、项目、产物、连接器与技能。Team 与 Free 计划将随后推出，企业管理员将至少提前 30 天获知组织侧变更。
Anthropic 报告称 Claude 被用于网络攻击与监控活动
火星财经消息，Anthropic 在周四发布的一份威胁情报报告中表示，俄语和中文使用者利用其 AI 模型 Claude 自动化发起网络攻击。其中，代号“JackPoterz”的俄语操作者通过定制化的 AI 驱动工作流自动化了攻击链的大部分环节，目标覆盖超过 20 个组织，包括政府部门和情报机构，以及乌克兰和欧洲多国的使馆与外交使团。中文使用者则将 Claude 用作漏洞研究的工程与编排层，其中一个工作流在一个月内于网络设备固件中产出了十余个潜在的零日漏洞。Anthropic 指出，AI 正在改变网络攻击的经济性，使单个操作者能在两到三小时内完成入侵，并可并行处理数十个受害者。此外，报告还披露，一名疑似常驻巴马科、与马里国家情报机构合作的独立顾问，将 Claude 作为主要工程力量，构建了一套覆盖全国约 2500 万张 SIM 卡、横跨该国全部三家移动运营商的大规模国内监控系统。该系统在本地部署并使用本地模型运行，由 Claude 提供软件设计与工程支持，可在无需法院令状的情况下针对电话号码生成情报档案。
Anthropic称Kimi曾拿Claude代答：10天近30万条请求
动察 Beating AI 快讯，Anthropic 发布最新 AI 滥用调查报告，称月之暗面曾把部分 Kimi 用户请求直接转给 Claude，再把 Claude 的回答展示给用户。Anthropic 称，在一个 10 天窗口内，近 30 万条用户请求被这样转发，绝大多数进入 Opus。月之暗面为此使用了 5,380 个违规账号。这些用户当时以为自己仍在使用 Kimi。 Anthropic 还称，月之暗面会保存部分交互，并通过「跨会话重放」提取 Claude 的完整推理过程，用来训练自家模型。5 月至 7 月，相关蒸馏交互超过 2300 万次。 部分真实用户请求里还带着企业内部代码和有效凭证，也一起被转给了 Claude。Anthropic 表示，它不知道这些用户是否被告知数据会流向第三方。 这些说法目前主要来自 Anthropic 单方调查，尚未得到独立验证。针对美国三家机构此前提出的类似蒸馏指控，中国商务部回应称相关说法「于事无凭，于法无据」，并称蒸馏是业内通行技术。