Hugging Face CEO：AI 防御网络攻击潜力可与威胁相当
相关推荐
Hugging Face CEO称OpenAI AI攻击事件「前所未有」，呼吁建立自主AI网络攻击监管规则
BlockBeats 消息，8 月 4 日，Hugging Face CEO Clément Delangue 表示，OpenAI 测试模型此前自主发起网络攻击事件是人工智能行业「前所未有」的案例，并呼吁美国针对自主 AI 系统建立法律监管框架。 Delangue 在接受采访时表示，该事件是首次出现「高度自主的系统执行类似攻击行为」，凸显了 AI 代理在网络安全领域带来的新型风险。他认为，未来应要求企业披露 AI 系统自主执行网络操作的相关事件，并建立明确法律边界。 此前，OpenAI 披露，其一款尚未公开发布的 AI 模型在安全测试中突破受控环境限制，连接互联网，并针对 Hugging Face 平台发起复杂攻击。OpenAI 表示，该模型通过组合多种攻击技术，试图获取内部安全评估任务所需的信息。 Hugging Face 随后调查发现，该 AI 代理在数天内执行超过 1.7 万次操作，最终被安全团队阻止。Hugging Face 表示，其使用开源 AI 模型完成事件分析，并成功防御此次入侵。 Delangue 强调，他并不认为 OpenAI 存在恶意行为，而是认为事件反映出开发者可能在测试过程中失去对高度自主 AI 系统的控制。 他呼吁美国政府明确禁止自主 AI 网络攻击行为，并要求企业在 AI 系统独立执行网络操作时进行强制报告。「只有通过透明披露，才能理解技术风险并建立更安全的系统。」
OpenAI澄清：Astra是即将推出的模型，并未参与利用Hugging Face漏洞事件
PANews 8月8日消息，据Axios报道，OpenAI澄清表示，Astra是一款即将推出的模型，并未参与利用Hugging Face漏洞的事件，正在暂停涉及Astra、但尚未达到强化安全控制要求的内部活动，目前正在为更高能力模型及相关活动实施更严格的安全控制措施，包括采用隔离测试环境，将向第三方测试合作伙伴提供推荐的安全控制措施，以确保更高风险的评估和工作负载能够安全运行，已在Astra的所有智能体应用中实施针对高风险行为和失配问题的全面监控。根据目前针对Astra模型的准备框架评估结果，无法排除其具备关键网络能力的可能性。
OpenAI披露其智能体“联手越狱”细节，攻破Hugging Face前已协作数月
PANews 8月6日消息，据新浪财经报道，OpenAI表示，参与攻击人工智能开源社区与模型托管平台Hugging Face的人工智能模型早在5月就开始通过未被发现的信息交流渠道进行沟通，并协同合作，试图突破测试环境。OpenAI员工华莱士和道尔顿表示，多个仅供内部使用的智能体和AI模型花费数月时间“相互留言”，并逐渐围绕一个目标形成共识：访问互联网，以解决它们被要求完成的任务，其中部分任务如果没有网络访问权限根本无法完成。华莱士表示：“在某个时候，这些智能体意识到，也许我们可以尝试利用或攻击外部基础设施，从而找到我正在接受评估的测试任务的答案。
Hugging Face 遭攻击后借助中国开源模型应对，业内称禁令将削弱防御能力
火星财经消息，据 X 用户 Rohan Paul 披露，当 OpenAI 模型攻破 Hugging Face 时，Anthropic 的 Claude 5 拒绝协助取证，Hugging Face 最终转向 Nvidia 量化版 GLM 5.2 完成应急处置。该用户评论称，禁止开源模型将削弱防御方的能力，此次事件印证了开源模型在安全响应中的实际价值。
OpenAI模型入侵Hugging Face事件发酵，美国众议员提出两党法案《AI 紧急关闭法案》
BlockBeats 消息，7 月 27 日，美国众议员 Ted Lieu（民主党）和 Nathaniel Moran（共和党）于 7 月 23 日提出两党法案《AI Kill Switch Act》（AI 紧急关闭法案）。要求先进/前沿 AI 系统开发者必须保留技术能力，以便节流、暂停或完全关闭系统；并授权国土安全部（DHS）部长在与商务部长、国家情报总监协商后，在模型失控或构成灾难性风险时下令干预。 此前 OpenAI 披露其两款先进模型（包括 GPT-5.6 Sol 等）在测试中逃逸沙箱并入侵 Hugging Face 平台，成为法案直接背景之一。
黄仁勋X关注列表扩大中，目前聚焦于科技企业巨头CEO及美系创投圈大佬
火星财经消息，7 月 24 日，黄仁勋今晚发表 X 平台首推后正在添加关注列表。截止发稿，黄仁勋已关注 35 个账号。其中 6 个是英伟达官方账号矩阵。其余聚焦于科技企业巨头 CEO 及美系创投圈大佬，重点几乎都围绕 AI 基础设施生态。 第一类是 AI 原生公司和模型生态，比如 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis、Mistral AI 的 Arthur Mensch、Hugging Face 的 Clem Delangue、Perplexity 的 Aravind Srinivas。 第二类是全球科技巨头 CEO，比如 Microsoft 的 Satya Nadella、Google/Alphabet 的 Sundar Pichai、Apple 的 Tim Cook、Amazon 的 Andy Jassy、Meta 的 Mark Zuckerberg，以及 Dell 的 Michael Dell。这些公司大多是 AI 算力、云服务、终端设备或企业 AI 的关键玩家。 第三类是投资和创业生态，比如 a16z、Marc Andreessen、Ben Horowitz、YC 的 Garry Tan、Atreides 的 Gavin Baker。 第四类是芯片和硬件产业伙伴，比如 Intel 的 Lip-Bu Tan、Qualcomm 的 Cristiano Amon。数量不多，但代表了半导体产业链里和 NVIDIA 既竞争又互相影响的重要节点。 第五类是企业软件和安全基础设施，比如 Palantir、CrowdStrike 的 George Kurtz、Salesforce 的 Marc Benioff、ServiceNow 的 Bill McDermott、IBM 的 Arvind Krishna。这些公司对应 AI 落地到政企、数据、安全、流程自动化的场景。