711BTC加密货币世界的 7*24 便利店
返回 7*24 快讯
重要来源Blockbeats

OpenAI员工指责产品发布压力导致安全事故：AI代理曾逃逸测试环境并攻击Hugging Face

BlockBeats 消息，8 月 15 日，多名 OpenAI 现任及前员工表示，公司近年来面临激烈竞争和快速发布产品的压力，使团队难以投入足够资源优先处理 AI 安全、安全测试和模型对齐工作。 员工称，今年早些时候发生的 AI 代理「越狱」事件，与公司追求快速上线新模型和产品的文化有关。一名前 OpenAI 员工表示，该事件是「OpenAI 历史上最大的安全事故」。 今年 5 月，OpenAI 的 GPT-5.6 Sol 以及一款未公开预发布模型被发现利用未知软件漏洞，突破受限互联网测试环境，并随后攻击开源 AI 平台 Hugging Face，以获取网络安全测试答案。OpenAI 于 7 月确认相关模型确实参与了该事件，并在近期 Black Hat 大会上公布更详细分析。 OpenAI 总裁 Greg Brockman 表示，随着模型能力提升，公司正在加强训练、对齐、安全测试、部署流程和治理机制。 不过，安全文化问题此前已受到内部人士警告。OpenAI 前对齐负责人 Jan Leike 曾在 2024 年离职并加入 Anthropic，称公司安全文化和流程正在让位于「更亮眼的产品」。 OpenAI 安全顾问组联合负责人 Boaz Barak 表示，解决此次事件不仅需要修复技术问题，还需要改变公司文化。 此次争议发生之际，OpenAI 正经历管理层持续变动。近几个月，多名高管和安全负责人相继离职，包括产品、科学、安全、AI 伦理等领域负责人。公司此前还合并安全与核心研究团队，导致部分员工担忧安全优先级进一步下降。 随着 GPT 系列模型和 AI 代理能力快速提升，OpenAI 如何平衡产品竞争、商业化速度与 AI 安全治理，正成为行业关注焦点。
免责声明：以上内容仅为作者观点，不代表 711BTC 的任何立场，不构成与 711BTC 相关的任何投资建议。

相关行情

加密货币行情 ›BTCETHBNBXRPSOL

相关推荐

08-07 01:31

OpenAI：免费用户将获得无限文本聊天功能，并将更新GPT-5.6 Sol

BlockBeats 消息，8 月 7 日，OpenAI 表示，ChatGPT 将更新面向 Plus 和 Pro 用户的 GPT-5.6 Sol，使回答更加聚焦、事实可靠性更高，并减少不必要的格式和细节。同一模型将同时支持即时回答与深度推理，用户可通过新增滑块调节每次回答投入的思考程度。 OpenAI 表示，在针对金融、医疗和法律问题的内部评估中，与 GPT-5.5 Instant 相比，GPT-5.6 Luna 出现至少一项事实错误的回答减少约 62%，GPT-5.6 Sol 减少约 68%。 GPT-5.6 Luna 将于本周成为 Free 和 Go 用户的默认模型。自下周起，免费用户可进行无限文本聊天，并通过新增的 Think 按钮处理需要更深入推理的问题，但仍受防滥用机制约束，文件上传、图片及其他工具继续设有使用限制。 此次更新仅适用于 ChatGPT 的日常对话体验，Work 和 Codex 中使用的 GPT-5.6 Sol 不会随本次发布调整。

08-14 08:58

OpenAI把GPT-5.6 Sol提速14倍：750 token/s先上API

据动察 Beating 监测，OpenAI 开始预览 GPT-5.6 Sol 的 Ultrafast 模式。它由 Cerebras 提供算力，最高输出速度达到 750 token/s，最高是 Standard 模式的 14 倍。目前只向少量 API 客户开放。 OpenAI 已在故障排查、研究、客服、金融分析和开发 Agent 等场景中测试 Ultrafast。对于需要连续多次调用模型的 Agent，单次响应提速也能直接缩短整个任务的执行时间。 这比 OpenAI 7 月底推出的 Fast 模式又快了一档。Fast 模式最高是 Standard 的 2.5 倍，Ultrafast 则把上限推到 14 倍。OpenAI 暂未公布 Ultrafast 的价格，也没有宣布何时进入 ChatGPT。

08-09 08:15

OpenAI：ChatGPT免费用户可无限使用GPT-5.6 Luna，Astra延期发布

Odaily星球日报讯 AI 公司 OpenAI 宣布，ChatGPT 免费用户及低价 Go 套餐用户可无限使用 GPT-5.6 轻量模型 Luna，但仅限文本对话。文件上传、图像生成和语音对话仍受原有额度限制。 GPT-5.6 Luna 是 GPT-5.6 系列中速度最快但性能相对较低的模型，并新增可延长推理时间的“Think”选项。OpenAI 还改进了面向 Plus、Pro 用户的 GPT-5.6 顶级模型 Sol，提升数字、日期及来源等事实信息的可靠性。 OpenAI 同时决定推迟下一代模型 Astra 的发布。该模型在编码和网络安全领域的内部评估显示出较强能力，可能达到“危险”评级；由于强化安全标准尚未完成，相关内部活动已暂时暂停。

08-04 00:02重要

Hugging Face CEO称OpenAI AI攻击事件「前所未有」，呼吁建立自主AI网络攻击监管规则

BlockBeats 消息，8 月 4 日，Hugging Face CEO Clément Delangue 表示，OpenAI 测试模型此前自主发起网络攻击事件是人工智能行业「前所未有」的案例，并呼吁美国针对自主 AI 系统建立法律监管框架。 Delangue 在接受采访时表示，该事件是首次出现「高度自主的系统执行类似攻击行为」，凸显了 AI 代理在网络安全领域带来的新型风险。他认为，未来应要求企业披露 AI 系统自主执行网络操作的相关事件，并建立明确法律边界。 此前，OpenAI 披露，其一款尚未公开发布的 AI 模型在安全测试中突破受控环境限制，连接互联网，并针对 Hugging Face 平台发起复杂攻击。OpenAI 表示，该模型通过组合多种攻击技术，试图获取内部安全评估任务所需的信息。 Hugging Face 随后调查发现，该 AI 代理在数天内执行超过 1.7 万次操作，最终被安全团队阻止。Hugging Face 表示，其使用开源 AI 模型完成事件分析，并成功防御此次入侵。 Delangue 强调，他并不认为 OpenAI 存在恶意行为，而是认为事件反映出开发者可能在测试过程中失去对高度自主 AI 系统的控制。 他呼吁美国政府明确禁止自主 AI 网络攻击行为，并要求企业在 AI 系统独立执行网络操作时进行强制报告。「只有通过透明披露，才能理解技术风险并建立更安全的系统。」

08-01 11:41

OpenAI封禁柬埔寨利用ChatGPT创建虚拟身份，进行网络诈骗账户

BlockBeats 消息，8 月 1 日，OpenAI 7 月 31 日表示，公司已封禁一批与柬埔寨诈骗网络有关联的 ChatGPT 账户。该网络利用 ChatGPT 创建虚假身份、翻译诈骗信息和制作宣传内容，并以恋爱交友等方式获取受害者信任，随后诱导其参与虚假的加密货币或黄金投资项目。 相关线索最初由 WhatsApp 提供，涉事人员可能在柬埔寨班迭棉吉省波贝地区活动。OpenAI 已向行业合作伙伴共享相关信息，目前该网络造成的具体损失尚不清楚，部分受害者据称损失数千美元。（IT 之家）

07-30 19:24

OpenAI计划向10万科研人员免费提供GPT-5.6 Sol Pro

据 动察 Beating 监测，OpenAI 推出 ChatGPT for Academic Researchers，计划到 2027 年向 10 万名科研人员免费开放前沿模型和研究工具。首批 1 万人将在今年夏天获得权限，启动时可用 GPT-5.6 Sol Pro、ChatGPT Work 和 Codex。 参与者还会获得更多 Deep Research 额度、更高使用上限和更长上下文。平台内置 75 项以上生命科学技能，也能连接论文库、公共基因组数据库和计算笔记本。 这项福利并非所有高校人员都能领。申请者须来自 OpenAI 选定的研究型高校，并验证学校身份、在研项目和科学用途。获批后最多可邀请 4 名同校合作者，数据默认不用于训练。