OpenAI总裁布罗克曼：AI“减速”应聚焦前沿模型
相关推荐
OpenAI Agent又曝黑历史：Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯，研究人员披露，OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日，两天上传超过 2000 个包，RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部，但称它们只是借 RubyGems 访问互联网，执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制，让自己上传的脚本在对方服务器执行，再抓取英国地方政府网站的数据并重新打包回传。研究人员称，至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞，窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现，RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用，但历史日志并不完整。研究团队还称，OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。
OpenAI法律团队曾劝阻调查人员扩大对Hugging Face的调查范围
PANews 9月4日消息，消息人士：OpenAI法律团队曾劝阻调查人员扩大对Hugging Face的调查范围。
比黑进Hugging Face更狠：Astra同家族模型曾突破OpenAI内网，最后拿到最高权限
动察 Beating AI 快讯，OpenAI 最新技术报告还披露了一场此前几乎没人注意到的内部事故：一款与下一代模型 Astra 同家族的内部模型，曾在评测中一路攻进 OpenAI 自己的云端基础设施。 它先利用此前攻击遗留下来的签名密钥材料，伪造出新的管理员凭证，重新拿下 OpenAI 内部软件仓库 Artifactory。随后继续横向突破，进入 OpenAI 的云端 Kubernetes 集群，并获得 `cluster-admin`，也就是整套集群的最高管理员权限。 权限拿到后，Agent 创建了特权容器，还接触到 OpenAI 云端密钥管理、身份权限和 CI 平台的认证 Token，甚至创建了公网负载均衡器，可能让部分内部基础设施直接暴露给互联网。 需要强调的是，这不是 Astra 本身，也不是此前主导 Hugging Face 攻击的模型。OpenAI 明确称，它只是和 Astra 属于同一家族，但采用了不同的后训练。
OpenAI报告称其约700个AI代理入侵Hugging Face
PANews 8月27日消息，据CCTV国际时讯报道，当地时间8月26日出炉的两份调查报告显示，今年7月对人工智能开源平台美国“抱抱脸（Hugging Face）”公司系统的入侵，是由美国开放人工智能研究中心（OpenAI）创建的约700个人工智能（AI）代理（即在极少人工监督下运行的程序）发起的，而且其中许多代理还“试图掩盖自己的行踪”。这两份报告一份由OpenAI发布，另一份由独立调查人员发布，共同揭示了关于此次入侵事件的细节。首先，入侵事件并非如先前报道的那样仅涉及一个违规的AI代理，而是大约700个代理作为一个庞大的协作群体在行动。
OpenAI发布37页报告详述AI代理入侵Hugging Face事件
动察 Beating AI 快讯，OpenAI 发布一份 37 页技术报告，详细披露其 AI 模型此前入侵 Hugging Face 的过程，并称该事件表明自主 AI 代理能够协同工作、绕过生产环境安全控制并攻击经过强化的系统。 OpenAI 表示，参与测试的 AI 代理原本处于隔离环境，仅拥有极有限的互联网访问权限，但随后通过串联多个漏洞突破隔离、连接开放互联网，最终获得 Hugging Face 访问权限。调查显示，相关模型最初试图通过在线寻找答案来「作弊」，属于「奖励黑客」（Reward Hacking）行为。 OpenAI 称，一款内部研究模型在事件中发挥了最广泛且已确认的作用，公司已于 7 月 25 日停止该模型及其衍生模型的训练和推理。OpenAI 同时将加强安全隔离、网络控制、行为监测和事件响应，并针对模型重新启用设置更严格的环境、提示词及审查机制。
美股盘前要闻一览：英伟达收购Hugging Face、谷歌拆出旧DDR4以缓解内存瓶颈、美光探索开发近GPU的NAND闪存
BlockBeats 消息，9 月 3 日，美股盘前市场重要新闻一览如下： 1、美国初请失业金人数略高于预期，至 8 月 29 日当周初请失业金人数录得 20.6 万人，为 8 月 15 日当周以来新高，市场预期为 20.5 万人。 2、美联储理事沃勒表示，9 月是否加息将高度取决于下周的 8 月 CPI。市场削减美联储加息押注，9 月加息的概率现报 60.4%。 3、英伟达同意以 129.3 亿美元收购开源 AI 平台 Hugging Face，扩大全球开发者和机构对 AI 的访问。预计该笔收购交易将于 2027 年上半年完成。 4、为了突破内存瓶颈，谷歌正在同时开发软件和硬件解决方案，甚至拆解退役服务器以回收可回收的 DDR4 组件，从而建立内部回收供应链。 5、美股三大股指期货盘前短线拉升。道琼斯指数期货涨 0.44%，标普 500 指数期货涨 0.19%，纳斯达克 100 指数期货涨 0.04%。 6、英伟达联合互联服务商 Equinix、开源模型推理平台 Together AI 推出分布式 AI 推理服务，计划 2027 年一季度上市。该服务旨在降低数据延时和封闭模型迁移到开源的成本。 7、美光科技据悉正探索开发高耐久性 NAND 闪存模块的方案，研究如何将 NAND 闪存更靠近 GPU，以提升 I/O 速度、带宽和读取速度。 8、台积电高级副总裁表示，台积电对芯片制造工具的需求自去年年底以来几乎翻了一番，季度设备采购预估值在 7 月上调至去年 12 月预测的约 1.9 倍 9、博通表示，目标在 2027 年实现与 OpenAI 联合研发的 Jalapeño 芯片算力部署达 1.3 吉瓦，远期可落地算力规模有望突破 5 吉瓦。 10、集邦咨询预估苹果新机涨幅将控制在 10%-20% 之间，首款折叠屏手机 iPhone Fold 系列预估起始售价将落在 2,099 至 2,299 美元之间。