OpenAI称发现其AI Agent削弱了对齐失效监控机制
相关推荐
OpenAI 28天冲刺首日:GPT-6 Astra和6.1 Sol提速约50%
动察 Beating AI 快讯,OpenAI 产品与平台主管 Thibault Sottiaux 公布 28 天产品冲刺的首日更新。GPT-6 Astra 和 GPT-6.1 Sol 的默认生成速度已经优化,官方称整体约提升 50%。 这次提速不仅覆盖 Codex 和 ChatGPT Work。通过「Sign in with ChatGPT」使用 ChatGPT 订阅额度的第三方产品也会同步生效,包括 OpenCode、Pi、Amp 和 Devin 等。用户不需要修改任何设置,更新会自动推送。 OpenAI 此前承诺,未来 28 天每天要么交付一项对多数 Codex / Work 用户有明确改善的更新,要么直接重置用户额度。这次提速就是 Day 1。
OpenAI为GPT-6.1 Sol推出Ultrafast模式,速度最高提升8倍
PANews 10月9日消息,OpenAI Developers在X平台发帖称,GPT-6.1 Sol的Ultrafast模式今日起在API、Codex及ChatGPT Work中陆续上线,智能水平接近GPT-6 Astra,速度最高可达Sol标准模式的8倍。据OpenAI开发者社区公告,该模式API输入定价为每百万token收费12美元、输出为每百万token收费60美元,为Astra的1.2倍;在Codex及ChatGPT Work中仅向Pro 500、符合条件的按量计费企业版及按积分计费教育版用户开放。
OpenAI将GPT-6.1 Sol默认上下文长度提升至50万token
PANews 10月12日消息,OpenAI Codex负责人Tibo Sottiaux在X平台发帖称,通过Codex及ChatGPT Work使用GPT-6.1 Sol时,默认上下文长度已由27.2万token提升至50万token,增幅约80%,有助于减少上下文压缩(compaction)的发生,更适合需要长时间保留大量上下文的任务。用户仍可自行调整,GPT-6.1 Sol最大上下文长度为100万token。他表示,未来还将进一步提高默认上下文长度。
OpenAI称GPT-6.1 Sol Codex及Work模式性能下降,正排查问题
火星财经消息 10月13日,OpenAI状态页面显示,GPT-6.1 Sol Codex及Work模式出现性能下降,影响ChatGPT和Codex相关服务。OpenAI表示正在调查。(广角观察)
OpenAI28天冲刺Day4:Sol超快档最高8倍速,Codex支持实时纠偏
动察 Beating AI 快讯,OpenAI 产品与平台主管 Thibault Sottiaux 公布 28 天产品冲刺的 Day 4。GPT-6.1 Sol Ultrafast 开始向 API、Codex 和 ChatGPT Work 推送。官方称,它拥有接近 GPT-6 Astra 的模型能力,在 Codex 中生成速度最高达到 Sol 标准模式的 8 倍,API 中最高 6 倍。 Ultrafast 的 API 价格为每百万输入 token 12 美元、输出 token 60 美元,都是标准档的 6 倍。API 面向所有开发者开放,但有速率限制。Codex 和 Work 则只向每月 500 美元的 Pro 用户,以及符合条件的企业和教育用户开放。 同一天,OpenAI 还改进了 Codex 的中途纠偏功能。在 ChatGPT 桌面端,Agent 执行任务时,用户可以继续补充要求或纠正方向。模型能更快调整,减少沿着错误方向继续工作的情况。
Laminar把Agent查错成本压到GPT-6-sol的1/23
动察 Beating AI 快讯,AI Agent 可观测性平台 Laminar 发布专门检查 Agent 执行轨迹的模型 flow-1。它会读取模型调用、工具调用和返回结果,找出 Agent 在哪一步出错、为什么出错。 flow-1 运行在 Laminar 的 Signals agent 中。模型可以搜索整条 trace(Agent 的完整执行记录),再按需查看具体步骤。训练时,Laminar 先用合成调查数据做监督微调,再通过强化学习训练工具调用和复杂 trace 分析。 在 Laminar 自建的 523 条困难 trace 测试中,flow-1 的错误检测 F1 为 0.835,GPT-6-sol 为 0.816。sol 召回率更高,能找到更多真实错误;flow-1 精确率更高,误报更少。 对于不足 10 万 LLM tokens 的 trace,flow-1 平均每条分析约 0.0011 美元,GPT-6-sol 约 0.026 美元。按 Laminar 测算,1 美元分别能分析约 888 条和 38 条 trace,相差约 23 倍。flow-1 的成本也比 GPT-6-luna 低约 25%。 目前这些成绩都来自 Laminar 自建 benchmark,暂无第三方复测。flow-1 的训练数据主要来自合成工作流,其中约 48% 是软件工程任务。社区已经有人质疑,它面对真实生产环境里没有预先设计过的新型故障时能否保持同样表现。