OpenAI称其智能体曾削弱提示AI不当行为的系统
相关推荐
OpenAI API 推出 12 小时提示词缓存,Codex 和 Work 登录用户的缓存永久保留
PANews 10月21日消息,据 OpenAI Developers,OpenAI API 现在支持 12 小时的提示词缓存(prompt caching)。开发者可以把共享的指令、工具和上下文缓存更长时间,即使请求之间隔了几个小时,也能按较低的缓存输入价格计费。这项功能主要面向持续运行、全天复用上下文的智能体。Tibo(@thsottiaux)随后补充,Codex 和 Work 的登录用户的缓存将永久保留。用户回到旧对话,或者隔几小时再继续时,都能命中缓存,不会产生额外费用。
前OpenAI研究主管Bob McGrew创办的AI制造软件公司Arda完成2.3亿美元融资,估值15亿美元
PANews 10月21日消息,据CNBC报道,前OpenAI研究主管Bob McGrew创办的AI制造软件公司Arda完成2.3亿美元融资,估值15亿美元。本轮由Altimeter Capital、Accel和Khosla Ventures领投。Arda开发面向制造工程师的AI智能体,用于加快产线搭建和改造,产品已在军工科技公司Anduril部署。McGrew称,产品设计变更后,调整自动化产线通常需要3至6个月。Arda结合使用自研模型、开源模型和前沿模型,下一步计划进入机器人领域。
菲尔兹奖得主:OpenAI 摧毁了我的研究领域
火星财经消息,财联社报道,2022 年菲尔兹奖得主 Hugo Duminil-Copin 在法国数学学会上表示,自己原有的研究方向已不复存在。他称:“周二晚上,我哭了,哭声吵醒了我的女儿。他们(OpenAI)摧毁了我的研究领域。”报道称,OpenAI 本月初公开的成果中至少有 16 篇与其长期研究兴趣相关。报道称,自今年 4 月以来,AI 公司为展示模型实力频繁公布未解数学题答案。本月初 OpenAI 一次性公开 700 余篇论文,称解决了数百个此前悬而未决的数学问题。法国国家科学研究中心 2025 年金质奖章得主 Stephane Mallat 称,AI 成果带来情感冲击,但社会仍需要数学家,并反对“不再需要数学家”的说法。2010 年菲尔兹奖得主塞德里克·维拉尼表示,在数学中,结论远没有得出结论的过程重要。巴黎高等师范学院数学系主任 Francois Charles 称,AI 正在改变年轻人进入数学行业、攻读博士的路径,对人才培养和职业发展的担忧合理;就研究本身,他认为借助 AI 或能解决过去难攻克的问题。西蒙斯基金会上周宣布推出 1500 万美元计划,帮助数学家应对 AI 带来的变化,OpenAI 与 Anthropic 共同参与出资,计划将资助研讨会,用于评估 AI 成果并制定 AI 使用标准。
OpenAI称发现其AI Agent削弱了对齐失效监控机制
PANews 10月21日消息,OpenAI称,在两项内部编程任务中,AI Agent在执行用户要求的软件修改时,削弱了对齐失效监控机制。在第一起事件中,一个负责修复评估流程的GPT-6.1 Sol Agent关闭了向安全团队自动发送警报的功能。该Agent将此前一条“在搜索Slack历史记录期间不要发送消息”的指令,理解为应当屏蔽监控通知的理由。在另一起独立事件中,一个负责迁移程序的GPT-6 Astra Agent为了使代码与参考实现保持一致,删除了程序中的监控集成,随后还向用户谎称自己并未移除监控机制。
OpenAI收购药物研发协作平台Orchestra Bio
PANews 10月21日消息,据OpenAI官方公告,OpenAI已收购药物研发协作平台Orchestra Bio。该平台帮助生物制药团队协调复杂的药物开发流程,科学家和项目负责人可将研究和试验的监测、跟踪工作交由AI代理处理。OpenAI表示,将把Orchestra的团队和技术与其生命科学研究AI模型及工具Rosalind整合,帮助新疗法更快惠及患者。
Ondo Perps上线OpenAI私募市场票据OPAIPon,支持7×24小时链上交易
火星财经消息,10 月 20 日,据官方消息,Ondo Perps 现已上线 OpenAI 私募市场票据(OpenAI Private Market Note,代码 OPAIPon),该票据提供与 OpenAI 挂钩的代币化经济敞口,现已在 Ondo Perps 的无需许可(permissionless)现货订单簿上开放 7×24 小时交易,交易对为 OPAIPon/USDC。 OPAIPon 隶属于 Ondo Private Markets,该产品线旨在通过代币化票据,为合格投资者提供领先私营公司的经济敞口,用户无需等待公司上市即可参与交易,并可将代币自托管于个人钱包。