Anthropic 向 METR 开放类员工访问,推进独立安全评估
相关推荐
英伟达发布AI安全软件,称本可阻止Hugging Face被黑事件
Odaily星球日报讯 英伟达当日推出一套面向AI智能体的软件安全工具,并声称这套工具本可以阻止Hugging Face遭黑客攻击的事件。Hugging Face是AI编程中心,英伟达在其被OpenAI的失控智能体入侵数月后,以130亿美元将其收购。该工具名为OpenShell,利用英伟达CPU硬件特性约束智能体,并与Arm、英特尔合作确保兼容。另一系统Sentry可切断试图逃离容器的失控智能体。英伟达CEO黄仁勋拒绝广泛AI安全监管,将失控智能体视为工程问题。(路透社)
oMLX作者加入Hugging Face:Mac本地AI从个人项目变全职
动察 Beating AI 快讯,Hugging Face 宣布,oMLX 作者兼维护者 Jun Kim 已加入公司,今后将全职继续开发 oMLX 和 MLX 相关工具。oMLX 是专门面向 Apple Silicon 的本地大模型推理服务器,可以让 Claude Code、Cursor、OpenClaw 等工具直接调用 Mac 上运行的模型。 oMLX 此前一直是 Kim 业余维护的个人项目。加入 Hugging Face 后,项目将获得资金和全职开发支持,但不会被收走。代码仍留在原仓库,继续使用 Apache 2.0 协议,Kim 也会继续负责项目。 Hugging Face 还准备把 oMLX 当成 MLX 新能力的试验场。成熟的功能会尽量提交回 mlx-lm、mlx-vlm 等上游项目,同时加快把 Transformers 新模型适配到 MLX。简单说,oMLX 从一个个人项目变成了有公司出钱养的长期项目,但仍保持开源和独立。
被指和Anthropic关系太近,METR总裁回应:我们没拿AI公司的钱
动察 Beating AI 快讯,这几天,Anthropic 推荐的第三方评估机构 METR 接连遭到质疑。外界发现,它的不少核心成员和 Anthropic、OpenAI 等 AI 公司关系密切。METR 自己也承认,此前一次评估中至少 6 名参与者与 AI 公司员工有密切私人关系,当时甚至还没有正式的利益冲突政策。 METR 总裁 Chris Painter 现在正面回应。他称 METR 靠捐款运营,从未接受前沿 AI 公司及其员工的钱,给 Anthropic、OpenAI 等公司做评估也不收费。这些公司会免费开放模型和 Token,让 METR 做测试。 Painter 强调,METR 的目标不是替 AI 公司证明模型「安全」,而是在发现模型可能失控时,把证据公开给政府和公众。
千问大模型登顶Hugging Face最受欢迎开源模型
PANews 9月16日消息,全球最大的AI开源社区Hugging Face更新了最受欢迎(Most likes)开源大模型榜单,阿里千问大模型旗下的Qwen3.8-27B今日超越FLUX.1、DeepSeek-R1、Kimi-K3、Meta-Llama-3等老牌“网红”模型,成为Hugging Face历史上最受欢迎开源模型。
Hugging Face封禁黑客版GLM-5.3,作者改名后重传
动察 Beating AI 快讯,Hugging Face 已封禁 AI 安全公司 Audn 上传的 penclaw-GLM-5.3-abliterated-for-offensive-cyber,页面显示其违反 Content Policy。这个版本直接修改 GLM-5.3 权重,削弱模型的拒答行为。原仓库名和介绍还明确写着 offensive cyber。作者随后删掉这几个字,重新上传了模型。 具体为什么被封,Hugging Face 没有公开解释。作者称自己也没搞懂原因,社区有人猜测是 offensive cyber 的命名触发了审核。Hugging Face 的现行政策确实禁止旨在破坏、未经授权访问系统,以及生成恶意代码的内容。 但这类削弱模型拒答限制的版本在 Hugging Face 并不少见,平台上已有数千个类似的 abliterated 模型。
OpenAI Agent又曝黑历史:Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯,研究人员披露,OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日,两天上传超过 2000 个包,RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部,但称它们只是借 RubyGems 访问互联网,执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制,让自己上传的脚本在对方服务器执行,再抓取英国地方政府网站的数据并重新打包回传。研究人员称,至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞,窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现,RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用,但历史日志并不完整。研究团队还称,OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。