OpenAI联创:RSI 仍存重大技术不确定性,RL 与持续学习成关键战场
相关推荐
OpenAI CEO暗示将与其他AI公司合作以应对安全风险
PANews 9月12日消息,OpenAI首席执行官Sam Altman周五接受《财富》采访时暗示,OpenAI及其他领先AI公司可能即将宣布合作,以放缓AI开发并共同应对安全风险。当被问及是否会与Anthropic的Dario Amodei、SpaceX的Elon Musk及谷歌的Demis Hassabis共同制定安全计划时,Altman称“我认为那会发生”,但拒绝预先公布私下讨论。 此前,Anthropic研究员Jacob Coxon辞职并指责两家公司“正全速冲向能自我进化的超级智能”,Anthropic对齐主管回应称未来十年AI导致人类灭绝的风险超过10%。
OpenAI将于下周下线GPT-5.3-Codex-Spark
PANews 9月11日消息,OpenAI Codex产品负责人Tibo在X平台发文称,OpenAI将于下周下线代码模型GPT-5.3-Codex-Spark,原因是该模型使用量持续下滑,且公司已推出性能更优的新模型。
OpenAI推出Agents API公测,支持全托管云端智能体及自选沙箱
PANews 9月11日消息,OpenAI宣布Agents API已向所有开发者开放公测,支持基于Codex智能体运行框架构建和运行云端智能体。OpenAI负责模型调用、工具使用、任务编排、长时间会话及上下文管理,开发者可自行定义智能体能力,并选择代码执行和文件处理环境。 开发者可接入自有沙箱或第三方服务,按需选择CPU、GPU、内存、文件及密钥存储配置,支持全托管环境或在自有VPC内部署。首批深度集成合作方包括Blaxel、Cloudflare、Daytona、DigitalOcean、E2B、Modal、Oracle、Runloop和Vercel。
加州州长签署两项获Anthropic和OpenAI支持的AI安全法案,规范第三方对AI系统进行安全评估的机制
PANews 9月10日消息,据POLITICO报道,加州州长Gavin Newsom已签署两项AI安全相关法案,规范第三方对AI系统进行安全评估的机制。其中,Assemblymember Rebecca Bauer-Kahan提出的法案将为AI外部审计机构建立注册制度和伦理规范;前联邦众议员、州参议员Jerry McNerney提出的法案则由州政府设定标准并审核“独立验证机构”(Independent Verification Organizations)的资质与评估能力。Anthropic早前已公开支持相关立法,OpenAI于法案签署前也表态支持,并称将在各州持续推动AI安全立法。
AI对齐研究员Paul Christiano加入OpenAI基金会董事会及安全委员会
PANews 9月10日消息,OpenAI宣布,对齐研究中心(Alignment Research Center)创始人Paul Christiano将加入OpenAI基金会董事会及其安全与安保委员会,该委员会负责监督OpenAI整体的安全与安保实践。他还将担任OpenAI Group PBC董事会的无表决权观察员。 OpenAI表示,Christiano在AI对齐领域的研究及其在美国国家标准与技术研究院(NIST)的多年工作经历,将加强基金会的监督能力,通过独立视角质疑既有假设、评估安全保障措施,并强化关键决策的问责机制。
OpenAI预计到2030年算力支出将达到7500亿美元
PANews 9月9日消息,据纽约时报报道,OpenAI预计到2030年算力支出将达到7500亿美元。