OpenAI 全面开放决策 API,输入百万 token 0.1 美元
相关推荐
Haiku 5.5独立评测43分:遥遥领先GPT-6 Luna,但最高档Token消耗超3倍
动察 Beating AI 快讯,第三方评测机构 Artificial Analysis 公布 Claude Haiku 5.5 的测试结果。新模型在综合智能指数中获得 43 分,比上一代的 17 分提高 26 分。它超过 GPT-6 Luna 的 38 分、GLM-5.3 Flash 的 42 分,接近 Kimi K3 的 44 分。该指数综合了编程、专业工作、科学推理等 10 项测试。 不过,高分也伴随着大量 token 消耗。在最高推理强度下,Haiku 5.5 每项评测任务平均输出约 16.2 万 tokens,是 GPT-6 Luna 的 3.2 倍。两者基础 API 单价相同,但 Haiku 5.5 的预估单任务成本约为 0.21 美元,Luna 仅为 0.07 美元。Haiku 5.5 从次高档调至最高档,综合得分只增加 2 分,输出量却增加约 80%。 降低推理强度后,差距明显缩小。Haiku 5.5 在 high 档获得 38 分,平均每项任务输出约 5.5 万 tokens,与最高档 GPT-6 Luna 的 38 分和 5 万 tokens 接近。开发者可以通过调整推理强度,减少不必要的 token 消耗。 Haiku 5.5 也并非全面领先。在 AutomationBench-AA 自动化任务评测中,它仅得 35%,落后于 Luna 的 53%。不过,测试期间模型存在过度拒绝执行任务的问题。Anthropic 正在修复,Artificial Analysis 计划重新测试。此外,目前公布的 Haiku 5.5 任务成本尚未计入长上下文加价,实际费用可能更高。
OpenAI开发者平台新增Decisions API测试界面,支持判断、选择及评分
PANews 10月20日消息,据TestingCatalog,OpenAI开发者平台新增Decisions API测试界面,用户可测试Predicate、Choice及Score三种模式,分别用于估计条件为真的概率、从给定选项中作出选择,以及依据评分标准打分。OpenAI官方文档显示,该API目前处于公开测试阶段,支持文本和图像输入,可用于内容分类、请求分流及任务优先级判断。目前仅支持gpt-6-luna模型,基础输入价格为每百万Token 0.10美元,不收取输出Token费用。
OpenAI将GPT-6.1 Sol默认上下文长度提升至50万token
PANews 10月12日消息,OpenAI Codex负责人Tibo Sottiaux在X平台发帖称,通过Codex及ChatGPT Work使用GPT-6.1 Sol时,默认上下文长度已由27.2万token提升至50万token,增幅约80%,有助于减少上下文压缩(compaction)的发生,更适合需要长时间保留大量上下文的任务。用户仍可自行调整,GPT-6.1 Sol最大上下文长度为100万token。他表示,未来还将进一步提高默认上下文长度。
OpenAI为GPT-6.1 Sol推出Ultrafast模式,速度最高提升8倍
PANews 10月9日消息,OpenAI Developers在X平台发帖称,GPT-6.1 Sol的Ultrafast模式今日起在API、Codex及ChatGPT Work中陆续上线,智能水平接近GPT-6 Astra,速度最高可达Sol标准模式的8倍。据OpenAI开发者社区公告,该模式API输入定价为每百万token收费12美元、输出为每百万token收费60美元,为Astra的1.2倍;在Codex及ChatGPT Work中仅向Pro 500、符合条件的按量计费企业版及按积分计费教育版用户开放。
Jev爆火两周,OpenAI也做了个「只负责判断」的API
动察 Beating AI 快讯,OpenAI 在 DevDay 推出了 Decisions API。它不负责写长篇回答,专门解决程序里那些需要快速做选择的任务。 开发者先给它几个明确的选项,再丢进去文字或图片。底层的 GPT-6 Luna 会在几百毫秒内做出判断。比如判断一条消息该交给销售还是客服,或者让 Agent 决定下一步该调用哪个工具。 这类任务以前也能交给普通大模型,但往往要先生成一段文字,再让程序解析结果。Decisions API 直接把 Luna 限制在几个候选答案里,目标就是把这些高频的小判断做得更快。 它很容易让人想到最近爆火的 Jev。TypeSafe 也是把 AI 从「生成文字」改成「直接做选择」。不过两者并不完全一样,Jev 是专门训练的决策模型;OpenAI 目前是在 Luna 上做受限决策,而且额外支持图片输入。 Decisions API 目前还在限量预览,OpenAI 计划未来几天扩大开放。
OpenAI API 推出 12 小时提示词缓存,Codex 和 Work 登录用户的缓存永久保留
PANews 10月21日消息,据 OpenAI Developers,OpenAI API 现在支持 12 小时的提示词缓存(prompt caching)。开发者可以把共享的指令、工具和上下文缓存更长时间,即使请求之间隔了几个小时,也能按较低的缓存输入价格计费。这项功能主要面向持续运行、全天复用上下文的智能体。Tibo(@thsottiaux)随后补充,Codex 和 Work 的登录用户的缓存将永久保留。用户回到旧对话,或者隔几小时再继续时,都能命中缓存,不会产生额外费用。