Hugging Face 遭攻击后借助中国开源模型应对，业内称禁令将削弱防御能力
相关推荐
OpenAI澄清：Astra是即将推出的模型，并未参与利用Hugging Face漏洞事件
PANews 8月8日消息，据Axios报道，OpenAI澄清表示，Astra是一款即将推出的模型，并未参与利用Hugging Face漏洞的事件，正在暂停涉及Astra、但尚未达到强化安全控制要求的内部活动，目前正在为更高能力模型及相关活动实施更严格的安全控制措施，包括采用隔离测试环境，将向第三方测试合作伙伴提供推荐的安全控制措施，以确保更高风险的评估和工作负载能够安全运行，已在Astra的所有智能体应用中实施针对高风险行为和失配问题的全面监控。根据目前针对Astra模型的准备框架评估结果，无法排除其具备关键网络能力的可能性。
OpenAI披露其智能体“联手越狱”细节，攻破Hugging Face前已协作数月
PANews 8月6日消息，据新浪财经报道，OpenAI表示，参与攻击人工智能开源社区与模型托管平台Hugging Face的人工智能模型早在5月就开始通过未被发现的信息交流渠道进行沟通，并协同合作，试图突破测试环境。OpenAI员工华莱士和道尔顿表示，多个仅供内部使用的智能体和AI模型花费数月时间“相互留言”，并逐渐围绕一个目标形成共识：访问互联网，以解决它们被要求完成的任务，其中部分任务如果没有网络访问权限根本无法完成。华莱士表示：“在某个时候，这些智能体意识到，也许我们可以尝试利用或攻击外部基础设施，从而找到我正在接受评估的测试任务的答案。
Hugging Face CEO称OpenAI AI攻击事件「前所未有」，呼吁建立自主AI网络攻击监管规则
BlockBeats 消息，8 月 4 日，Hugging Face CEO Clément Delangue 表示，OpenAI 测试模型此前自主发起网络攻击事件是人工智能行业「前所未有」的案例，并呼吁美国针对自主 AI 系统建立法律监管框架。 Delangue 在接受采访时表示，该事件是首次出现「高度自主的系统执行类似攻击行为」，凸显了 AI 代理在网络安全领域带来的新型风险。他认为，未来应要求企业披露 AI 系统自主执行网络操作的相关事件，并建立明确法律边界。 此前，OpenAI 披露，其一款尚未公开发布的 AI 模型在安全测试中突破受控环境限制，连接互联网，并针对 Hugging Face 平台发起复杂攻击。OpenAI 表示，该模型通过组合多种攻击技术，试图获取内部安全评估任务所需的信息。 Hugging Face 随后调查发现，该 AI 代理在数天内执行超过 1.7 万次操作，最终被安全团队阻止。Hugging Face 表示，其使用开源 AI 模型完成事件分析，并成功防御此次入侵。 Delangue 强调，他并不认为 OpenAI 存在恶意行为，而是认为事件反映出开发者可能在测试过程中失去对高度自主 AI 系统的控制。 他呼吁美国政府明确禁止自主 AI 网络攻击行为，并要求企业在 AI 系统独立执行网络操作时进行强制报告。「只有通过透明披露，才能理解技术风险并建立更安全的系统。」
OpenAI模型入侵Hugging Face事件发酵，美国众议员提出两党法案《AI 紧急关闭法案》
BlockBeats 消息，7 月 27 日，美国众议员 Ted Lieu（民主党）和 Nathaniel Moran（共和党）于 7 月 23 日提出两党法案《AI Kill Switch Act》（AI 紧急关闭法案）。要求先进/前沿 AI 系统开发者必须保留技术能力，以便节流、暂停或完全关闭系统；并授权国土安全部（DHS）部长在与商务部长、国家情报总监协商后，在模型失控或构成灾难性风险时下令干预。 此前 OpenAI 披露其两款先进模型（包括 GPT-5.6 Sol 等）在测试中逃逸沙箱并入侵 Hugging Face 平台，成为法案直接背景之一。
OpenAI教用户给Claude Code换上GPT模型，误封后两边员工现场互损
据动察 Beating 监测，OpenAI 产品负责人 Tibo 此前公开教用户给 Claude Code「换脑」：保留 Claude Code 的 harness，把底层模型换成 GPT。 开发者 Alex Getman 照着配置后，Claude 账号很快被封。他公开求助 Tibo 和 Anthropic，询问这套用法到底是否违规。 Tibo 随即开始阴阳：「我很想帮你，可惜我不在 Anthropic 工作。」他还补了一句，因为把 Claude Code harness 配其他模型就封号，「确实挺奇怪」，并问还有没有其他人中招。 Claude Code 负责人 Boris Cherny 很快下场。他明确表示，Anthropic 不会因为 harness 搭配其他模型就封号，这次几乎肯定是其他风控误触发。账号随后恢复。 Boris 还顺手回敬 Tibo：「如果你想来 Anthropic，我们正在招人。」Tibo 则表示自己很喜欢现在的团队，而且接下来几周还有不少新产品要发，暂时哪也不去。 事情解决后，Tibo 又发帖庆祝，称 GPT-5.6 Sol 几乎哪里都能用，包括 Claude Code harness。为了庆祝这件事和自己「不跳槽」，他还直接重置了 ChatGPT Work 和 Codex 所有付费用户的使用额度。
Lightspeed 拟为旗下二级基金募资 6 亿美元，加码投资 OpenAI 与 Anthropic
火星财经消息，Lightspeed Venture Partners 正在寻求通过二级交易筹集约 6 亿美元资金，以延长其对 OpenAI 及其他人工智能公司的投资敞口，并追加投资 AI 模型公司 Anthropic。据知情人士透露，Lightspeed 本次募资交易的内部代号为 “Project Mercury”，涉及 Lightspeed 旗下多只二级基金，包括 Select V 基金、Opportunity II 基金以及一个独立管理账户中的部分资产。Lightspeed 希望通过二级市场交易，为投资者提供流动性，同时继续保持对 AI 领域头部公司的长期持有。