前OpenAI研究员做了个「不会聊天」的AI:Jev只做判断,最高快200倍
相关推荐
OpenAI最新模型Astra用上字节架构:Transformer同一层反复算
动察 Beating AI 快讯,OpenAI 即将发布的 Astra 用上了一种循环推理架构 recurrent depth,也叫 looped transformer。普通 Transformer 每生成一个 Token,会固定穿过一层层网络;Astra 可以让同一段信息反复经过同一组层,多算几轮再输出。 这条路线字节去年已经公开做过。Seed 团队发布的 Ouro 就是一种 Looped Language Model,同样让一组 Transformer 层循环运行,把更多计算放进模型内部。模型不用一直生成更长的思维链,也能增加推理计算量。较小模型因此能用更多计算,做到接近更大模型的效果。 这种架构也带来一个安全问题。部分推理发生在内部隐藏状态里,人类看不到完整文字记录,更难通过思维链检查模型有没有违规。OpenAI 因此限制了 Astra 使用 recurrent depth 的程度,让它仍保留可读的思维链,并准备加入额外的 CoT 监控。
OpenAI开始按结果收费:部分大客户AI干成活才付钱
动察 Beating AI 快讯,OpenAI 最近几个月开始给部分大客户提供一种新的付费方式:AI 把任务真正做完,客户才付钱。 《The Information》称,目前已经落地的场景包括客服。企业可以按 AI 实际完成的客服任务付费,而不是单纯按 Token、调用量或席位数结账。OpenAI 没有公布具体客户、单价和「完成任务」的判定标准,也拒绝对此置评。 这还不是 OpenAI 面向所有企业推出的新套餐。目前官网的 Enterprise 公开定价仍以额度和 Token 计费为主,因此这种「按结果收费」更像是给部分大客户单独谈的合同。 OpenAI 其实早就预告过这个方向。今年 1 月,CFO Sarah Friar 就提出,未来 AI 商业模式会出现按结果收费。7 月,OpenAI 又提出,比起 Token 单价,更该看 AI 把一项任务做成到底要花多少钱。现在这套思路已经开始进入真实合同。
比黑进Hugging Face更狠:Astra同家族模型曾突破OpenAI内网,最后拿到最高权限
动察 Beating AI 快讯,OpenAI 最新技术报告还披露了一场此前几乎没人注意到的内部事故:一款与下一代模型 Astra 同家族的内部模型,曾在评测中一路攻进 OpenAI 自己的云端基础设施。 它先利用此前攻击遗留下来的签名密钥材料,伪造出新的管理员凭证,重新拿下 OpenAI 内部软件仓库 Artifactory。随后继续横向突破,进入 OpenAI 的云端 Kubernetes 集群,并获得 `cluster-admin`,也就是整套集群的最高管理员权限。 权限拿到后,Agent 创建了特权容器,还接触到 OpenAI 云端密钥管理、身份权限和 CI 平台的认证 Token,甚至创建了公网负载均衡器,可能让部分内部基础设施直接暴露给互联网。 需要强调的是,这不是 Astra 本身,也不是此前主导 Hugging Face 攻击的模型。OpenAI 明确称,它只是和 Astra 属于同一家族,但采用了不同的后训练。
Tibo:今天750 token/s的Ultra Fast,一两年后可能成为标配
动察 Beating AI 快讯,OpenAI 现在有一个付费高速档 Ultra Fast,只要氪金,模型就能回答得更快。开启后 GPT-5.6 Sol 最高能跑到每秒 750 个 Token,约为普通模式的 14 倍。Codex 负责人 Tibo Sottiaux 预计,再过 1 到 2 年,今天这种速度可能已经接近默认水平。 不过 14 倍只是模型本身的最高输出速度。真正拿来写代码,如果主要时间都在生成代码,整体能快约 10 倍;如果 Agent 还要搜索网页、跑工具、等网络返回,整个任务通常只快 3 到 4 倍。模型吐字越来越快后,瓶颈会从模型转到网络、CPU 和工具调用。 Ultra Fast 在 OpenAI 内部也得省着用。重大故障、关键原型等任务可以优先使用,但大部分算力还是留给外部客户,否则 OpenAI 自己的员工就能把容量吃光。
OpenAI或周四推出GPT-6 Sol:主打更快、更省
动察 Beating AI 快讯,OpenAI 可能会在本周四发布 GPT-6 Sol。AI 顶流博主 Mark Kretschmann 直接给出了这个日期,并称它相比 Astra 会更便宜、更快,但能力稍弱。 OpenAI 目前还没官宣。Sam Altman 只确认本周有一次「大发布」,Tibo Sottiaux 则称,本周的发布规模接近一届 DevDay。 Astra 目前是 GPT-6 的最高能力型号,Sol 如果本周上线,更可能成为速度和成本更友好的日常主力。
OpenAI:正与Anthropic和谷歌合作开展人工智能安全工作
动察 Beating AI 快讯,OpenAI 正与 Anthropic 和谷歌合作开展人工智能安全工作。(金十)