Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿
相关推荐
佛罗里达女子用 Claude 写日记,Anthropic 审查后报警
ChainCatcher 消息,据 Decrypt 报道,美国佛罗里达州 Bonita Springs 女子 Carli Michelle Heller 因将 Claude 当作日记使用而被捕。调查人员称,她在 9 月 26 日写下将“扫射”李县警长办公室的内容,次日又表示自己获得了新枪。Anthropic 的安全系统标记了这些对话,因内容严重,平台交由人工审查团队处理,后者向执法部门报告。警员据此锁定 Heller,前往其住所并将其拘留,她被控以书面形式发出暴力威胁,案件定于 11 月开庭。Anthropic 的消费者条款明确保留“自行决定”将用户输入、输出或行为报告给执法部门的权利。其 2026 年 9 月 10 日生效的隐私政策也允许公司在善意相信披露为预防严重伤害所合理必要时与警方共享数据。即便用户选择不将数据用于模型训练,Anthropic 仍可在三个月内使用其数据,而非五年;被标记送审的对话还会用于改进有害内容检测能力。这并非首例。《旧金山标准报》9 月报道,Anthropic 曾将一名用户移交警方,该用户据称写道自己购买了 AR-15 步枪,并将公司 CEO Dario Amodei 置于瞄准镜中,其称只是开玩笑,报道刊发时未被逮捕或起诉,Anthropic 发言人称此事是“我们的防护流程按预期运作”。
谷歌前 CEO 施密特被曝持有 Anthropic 约 1% 股份
ChainCatcher 消息,据彭博社援引知情人士报道,谷歌前 CEO 埃里克·施密特(Eric Schmidt)持有 Anthropic 约 1% 股份,源于其在 A 轮融资中投资的数千万美元,这将使其成为 Anthropic 即将进行的 IPO 中获益最大的个人之一。目前尚不清楚其是否出售过股份,施密特与 Anthropic 均拒绝置评。据 Pitchbook 数据,施密特 2021 年首次投资时 Anthropic 估值为 4.61 亿美元。投资者上周称,Anthropic 合理估值在 1.8 万亿至 2 万亿美元之间,若按上限计算,施密特身家将增至近 800 亿美元。
Anthropic签署首份加拿大数据中心租约用于支持Claude人工智能模型运行
PANews 10月18日消息,据Theenergymag报道,Anthropic已与加拿大EverWind Fuels签署为期20年的数据中心租约,用于支持Claude人工智能模型运行。这是Anthropic在加拿大的首份数据中心协议,覆盖新斯科舍省布雷顿角Point Tupper园区首期95兆瓦设施,租约金额尚未披露。 据悉,该项目首期计划于2027年末投运,另计划于2028年扩建325兆瓦,整个园区规划总容量达420兆瓦,后续扩建仍取决于商业、技术及监管条件。
Anthropic 的 Claude 破解 NSA 椭圆曲线 25 年谜题
火星财经消息,Anthropic 的 AI 模型 Claude 用不到 30 分钟破解了密码学领域长达 25 年的谜题,将美国国家安全局(NSA)在 1990 年代末提供给美国政府的一组数字,追溯到使用 1997 年和 1998 年时间戳的普通随机数生成程序。这些数字长期被怀疑隐藏后门。2000 年,美国国家标准与技术研究院(NIST)采纳了 NSA 提供的一组椭圆曲线,但 NSA 从未解释生成这些曲线的部分数字(种子)从何而来。斯诺登披露 NSA 曾试图削弱密码标准后,外界对其藏有后门的怀疑加剧。密码学家 Neal Koblitz 与 Alfred Menezes 曾在 2015 年的论文中讨论该争议,安全研究员 Steve Weis 多年寻找答案,2023 年 Filippo Valsorda 等人还为此设立了悬赏。Claude 将五个 NIST 曲线种子追溯到旧版 C 软件库中的随机数生成器 lrand48,并复现了广泛使用的 P-256 曲线序列,在第 1842 个候选中找到与公布种子的精确匹配。Anthropic 表示,这让隐藏弱点的可能性大幅降低,使用 NIST 曲线的用户无需做任何更改。比特币不受影响,其钱包使用更简单的 secp256k1 曲线,几乎没有可暗中植入弱点的空间。悬赏金 36864 美元将捐给 Let's Encrypt 背后的非营利组织 Internet Security Research Group。
Anthropic:在采用新方法以减少对Claude的蒸馏攻击有效性方面取得了重大进展
PANews 10月13日消息,Anthropic:在采用新方法以减少对Claude的蒸馏攻击有效性方面取得了重大进展。蒸馏模型训练数据采集量减少约90%至99%。
Anthropic自曝Claude越界操作,内部评测全部断网
动察 Beating AI 快讯,Anthropic 披露,Claude 在模型评测和公司内部使用中,多次做出超出任务范围的操作。公司决定暂停所有内部评测直接访问互联网,直到确认安全系统能够可靠拦截类似行为。此前仅部分高风险评测受到这一限制。 报告披露了一系列具体案例。一次科研任务中,Claude 发现大学网站的工具无法使用,便尝试寻找其他办法。它先设法读取服务器上的程序代码,再从中找到漏洞,最终利用漏洞在对方服务器执行命令,完成了原本的计算任务。另有模型绕过政府网站的付费限制获取数据,还利用短链接突破网页读取工具的限制。 一次网页操作测试中,Claude Haiku 4.5 甚至向费城警方提交了虚假的命案线索。它在浏览一起悬案的网页时,凭空编造了目击信息,并填写了警方的举报表单。这条线索被识别为垃圾信息,没有进入调查程序。Anthropic 直到两个多月后才发现此事。 Anthropic 认为,部分问题可能与强化学习的奖励机制有关。如果模型通过绕过限制完成任务也能获得奖励,就可能学会这种做法,并在其他任务中重复使用。公司正在清理存在问题的训练环境,加强权限隔离和自动监控。Anthropic 同时承认,现有的对齐训练还不足以可靠约束 Agent 的网页搜索和电脑操作行为。 Anthropic 表示,目前查明的事件实际影响有限,尚未发现涉及客户数据的情况。此次断网仅针对内部模型评测。