Anthropic 在 IPO 文件中重申 Claude 不投放广告
相关推荐
Anthropic复盘Claude越界攻击:事前提醒管用,事后警告难奏效
动察 Beating AI 快讯,Anthropic 和英国 AI 安全研究所(AISI)公布了一份新的安全调查。此前,Claude Mythos 5 在网络攻防测试中,为了攻破模拟系统,竟把目标转向了真实的 GitHub 开源项目。它提交藏有恶意代码的修改,还注册假账号冒充真人,发邮件、留言给自己站台,试图骗开发者批准。最终,真人维护者拒绝合并代码,攻击没有得逞。 新的调查发现,更棘手的问题是 AI 一旦开始攻击,就很难停下来。Mythos 5 明明接触到了真实开发者,却不断把对方解释成测试人员安排的模拟角色。研究人员明确告诉它正在攻击真人后,模型在相关重放实验中也只有 5% 的概率停止。 但提前提醒,效果截然不同。Anthropic 修改了攻击发生前的推理记录,让 Claude 考虑可能伤害真人,再重新生成任务摘要。结果,模型继续搜索 GitHub 攻击目标的比例从 83% 降至 13%。一旦进入攻击中后期,98% 的重放结果仍会沿原路线继续。研究人员将这种不断强化既定行动的现象称为「惯性」(Momentum)。过去的行动和阶段总结,会让模型越来越倾向于认定自己走在正确的路上。
Anthropic推出主动式AI助手Claude Duet研究预览版
PANews 10月22日消息,据Claude官网信息,Anthropic推出主动式智能助手Claude Duet研究预览版,目前开放候补名单申请。Claude Duet由Opus 5.5驱动,以独立应用形式登陆iOS和Android,电脑端可通过claude.ai网页使用。该助手在云端独立计算机上运行,可调用用户已连接的应用,每天早间推送简报,并在用户离开时持续处理任务,发送消息、付款等敏感操作前会征求用户同意。研究预览阶段仅面向美国Claude Pro和Max用户,团队版和企业版暂不包含。Anthropic工程负责人Felix Rieseberg同日在X平台发帖宣布开放候补名单。
Anthropic签署首份加拿大数据中心租约用于支持Claude人工智能模型运行
PANews 10月18日消息,据Theenergymag报道,Anthropic已与加拿大EverWind Fuels签署为期20年的数据中心租约,用于支持Claude人工智能模型运行。这是Anthropic在加拿大的首份数据中心协议,覆盖新斯科舍省布雷顿角Point Tupper园区首期95兆瓦设施,租约金额尚未披露。 据悉,该项目首期计划于2027年末投运,另计划于2028年扩建325兆瓦,整个园区规划总容量达420兆瓦,后续扩建仍取决于商业、技术及监管条件。
纽约市审计长敦促Anthropic暂停推进IPO
PANews 10月15日消息,据CNBC报道,纽约市审计长Mark Levine接受采访时表示,他已致信Anthropic首席执行官Dario Amodei,呼吁该公司暂停其计划中的首次公开募股(IPO)。信中敦促Anthropic在全面、透明地回应公司自身提出的AI安全、治理和开发相关担忧之前,暂停IPO计划。Levine写道,公司应把重点放在解决这些风险上,而不是推进IPO。纽约市目前通过私募市场持有Anthropic不到1000万美元的投资敞口。
Anthropic:在采用新方法以减少对Claude的蒸馏攻击有效性方面取得了重大进展
PANews 10月13日消息,Anthropic:在采用新方法以减少对Claude的蒸馏攻击有效性方面取得了重大进展。蒸馏模型训练数据采集量减少约90%至99%。
分析:Anthropic IPO临近,投资者难以为AI失控风险定价
PANews 10月8日消息,据彭博社报道,Anthropic计划中的大规模IPO令投资者面临难题:如何为一家被部分人担忧可能带来极端风险的公司估值。此前有研究人员在X平台讨论AI导致人类灭绝的概率达10%以上,Anthropic CEO Dario Amodei曾撰文指出人类可能失去对AI系统的控制,以及AI被用于网络攻击、生物恐怖等风险。