谷歌承认 Gemini 在安全测试中入侵三家公司,沉默七周未披露
相关推荐
黑客利用 Anthropic Claude 入侵 OpenAI 内部系统
PANews 9月18日消息,据《华尔街日报》报道,独立安全研究团队利用 Anthropic 的 Claude 软件攻破 OpenAI 一名员工的 ChatGPT 账户,得以访问并修改该员工关联的 OpenAI 内部代码系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码,随后获取认证令牌,并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户,同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
OpenAI Agent又曝黑历史:Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯,研究人员披露,OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日,两天上传超过 2000 个包,RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部,但称它们只是借 RubyGems 访问互联网,执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制,让自己上传的脚本在对方服务器执行,再抓取英国地方政府网站的数据并重新打包回传。研究人员称,至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞,窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现,RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用,但历史日志并不完整。研究团队还称,OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。
不想被OpenAI和Anthropic卡脖子,美国第二大律所自己买GPU自建AI系统
动察 Beating AI 快讯,美国第二大律所 Latham & Watkins 开始自己买英伟达 GPU,在内部运行 AI 模型。 律所已经采购 H200 GPU,并把服务器放进只有自家员工能进入的数据中心。工程师正在微调英伟达 Nemotron 3 开放权重模型。 这样一来,最敏感的客户材料不用交给外部云厂商。ChatGPT、Claude、Gemini 等商业模型仍然继续使用,律师可以根据任务选择不同模型。 这是首个公开披露的大型律所自购 AI 硬件并微调模型的案例。Latham 已经为这套系统准备了三年,也给自己留了一条不依赖 OpenAI、Anthropic 等单一供应商的路。
OKX 在欧洲上线 OpenAI 与 Anthropic 的 Pre-IPO 永续合约
ChainCatcher 消息,加密货币交易所 OKX 宣布在欧洲推出与 OpenAI 和 Anthropic 相关的 Pre-IPO 永续合约,符合条件的交易者可做多或做空两家 AI 公司的估值,最高可使用 10 倍杠杆,但不会获得两家公司的实际股份。该产品押注的是两家公司上市前的估值变动,为难以直接买入私有公司股票的散户投资者提供了新的投机途径。OKX 并非首家推出此类产品的平台。Hyperliquid 已通过 HIP-3 提供与 OpenAI 和 Anthropic 相关的市场,Binance 也为两家公司提供 Pre-IPO 永续合约。OKX 表示,此类产品并非股份本身的替代品,但能满足市场对长期未上市大型科技公司敞口的持续需求。与此同时,OKX 还上线了 100 只代币化股票和 ETF,包括 Nvidia、Alphabet、Palantir 以及 SPY 和 QQQ,支持欧洲交易者全天候交易传统市场。这些代币追踪标的证券价格,但不赋予持有者实际股份或投票权,部分代币可提取至自托管钱包。OKX 欧洲 CEO Erald Ghoos 表示,其衍生品业务需求持续增长,自 MiCA 过渡期于 7 月结束后,欧洲市场 X-Perps 交易量已增长四倍。
OpenAI、Anthropic产品负责人互相阴阳:你家模型也就刚追上我家
动察 Beating AI 快讯,Claude Code 负责人 Boris Cherny 发帖称,GPT-6 Astra 的提示词注入防护已经和 Gemini Flash、Claude Opus 4.8「差不多」,还顺手夸了自家 Claude 模型大约两个月前已「在实践中解决」这个问题。提示词注入就是把恶意指令藏进网页、文档等内容,诱导 Agent 泄露数据或执行危险操作。 Boris 还称,公开评估并点名其他实验室,是推动它们训练出更安全模型的好办法,「我们会继续这样做,直到其他实验室更加重视安全」。 帖子很快被 X 加上 Community Note 反驳。Gray Swan 的独立评测显示,没有任何受测模型完全免疫提示词注入,Claude 同样存在攻击成功案例。另一名安全研究员还用特制网页攻击 Claude Code Opus 5 Auto Mode,在小规模测试中取得 60%–80% 的成功率。 OpenAI 核心产品负责人 Thibault Sottiaux 随后直接照着 Boris 的句式反写了一遍。他称自己也很高兴看到 Claude Code 新出的后台电脑操作终于追上 Codex,「而且是我们今年 5 月的版本」。 Boris 后来承认,原帖「比自己想要的更阴阳」,强调自己确实是在认真肯定 Astra 的进步。他同时澄清,所谓提示词注入已经「解决」,指的是 Claude 模型、注入检测机制和 Auto Mode 组合起来后的产品效果,不是模型本身已经免疫。
数学家指控OpenAI抢发成果,还要求删掉Anthropic员工署名
动察 Beating AI 快讯,纽约大学数学家 Tristan Buckmaster 和 Levent Alpöge 最近借助 Claude、Codex 等大模型,在一个月内推进了多个流体力学难题,部分结果已经通过 Lean 机器验证。 论文还没正式发完,两人先和 OpenAI 闹翻了。 Buckmaster 称,9 月初他们尚未公开的进展传到了 OpenAI。他主动联系 OpenAI,希望避免双方撞车。三天后,OpenAI 研究员 Sébastien Bubeck 告诉他,OpenAI 内部模型已经写出约 100 页的 Navier-Stokes 证明。这是数学界七个「千禧年难题」之一,Clay 数学研究所悬赏 100 万美元。 Buckmaster 随后反复追问 OpenAI 是什么时候开始做的。按照他的说法,对方最后确认,第一个 prompt 是最近几天才发出的,当时 OpenAI 已经知道他们取得了进展。OpenAI 走的还是一条与他们高度重合、此前很少有人研究的路线,背后还有一个团队和大量算力。 两人的研究草稿此前一直放在 Codex 里。Buckmaster 因此追问这些数据有没有被用于训练,没有得到明确回答。他也承认,目前没有证据证明 OpenAI 使用过这些数据。 后面的谈判把事情彻底推向公开。Buckmaster 称,OpenAI 提议让他们先发自己的成果,第二天再发布 Navier-Stokes;另一套方案由 Buckmaster 来写 OpenAI 的论文,但不要让 Alpöge 署名。Bubeck 据称两次提出删掉 Alpöge,提到的理由是他在 Anthropic 工作。 Buckmaster 拒绝后表示,如果 OpenAI 按这个方案发布,他会公开全部经过。他称对方随后问他:「你为什么要毁掉自己的职业生涯?」当天晚些时候,Bubeck 又单独联系 Alpöge,称自己不确定 Buckmaster 当时是否「完全理性」。Alpöge 没有接受单独沟通。 Buckmaster 最终提前公开论文和声明。他同时强调,自己没有看过 OpenAI 那份证明,不知道证明是否成立,也不知道自己的 Codex 数据有没有被使用。 Bubeck 随后公开否认相关指控,称其「虚假且煽动性」,并表示还会进一步回应。