AI对齐研究员Paul Christiano加入OpenAI基金会董事会及安全委员会
相关推荐
OpenAI请回RLHF奠基者当董事，上任先警告「多数人可能死亡」
动察 Beating AI 快讯，OpenAI 将前对齐研究负责人 Paul Christiano 请回董事会。 Christiano 曾于 2017 至 2021 年在 OpenAI 负责对齐研究，并参与 RLHF 的奠基工作；离职后创办 Alignment Research Center。此次他加入 OpenAI Foundation 董事会和安全与安保委员会；同时以观察员身份进入营利实体 OpenAI Group 的董事会。 上任后的公开声明里，他直接点名 OpenAI。Christiano 认为，自动化 AI 研发可能很快让模型能力迅速加速。如果在对齐问题解决前造出超级智能，人类可能永久失去控制，届时「大多数人可能死亡」。他还表示，包括 OpenAI 在内的整个 AI 行业，目前都没有把这种风险降到可接受水平。
OpenAI CEO暗示将与其他AI公司合作以应对安全风险
PANews 9月12日消息，OpenAI首席执行官Sam Altman周五接受《财富》采访时暗示，OpenAI及其他领先AI公司可能即将宣布合作，以放缓AI开发并共同应对安全风险。当被问及是否会与Anthropic的Dario Amodei、SpaceX的Elon Musk及谷歌的Demis Hassabis共同制定安全计划时，Altman称“我认为那会发生”，但拒绝预先公布私下讨论。 此前，Anthropic研究员Jacob Coxon辞职并指责两家公司“正全速冲向能自我进化的超级智能”，Anthropic对齐主管回应称未来十年AI导致人类灭绝的风险超过10%。
OpenAI将于下周下线GPT-5.3-Codex-Spark
PANews 9月11日消息，OpenAI Codex产品负责人Tibo在X平台发文称，OpenAI将于下周下线代码模型GPT-5.3-Codex-Spark，原因是该模型使用量持续下滑，且公司已推出性能更优的新模型。
OpenAI推出Agents API公测，支持全托管云端智能体及自选沙箱
PANews 9月11日消息，OpenAI宣布Agents API已向所有开发者开放公测，支持基于Codex智能体运行框架构建和运行云端智能体。OpenAI负责模型调用、工具使用、任务编排、长时间会话及上下文管理，开发者可自行定义智能体能力，并选择代码执行和文件处理环境。 开发者可接入自有沙箱或第三方服务，按需选择CPU、GPU、内存、文件及密钥存储配置，支持全托管环境或在自有VPC内部署。首批深度集成合作方包括Blaxel、Cloudflare、Daytona、DigitalOcean、E2B、Modal、Oracle、Runloop和Vercel。
OpenAI再陷数学成果争议：被指可能「窃取」重大数学证明
动察 Beating AI 快讯，OpenAI Astra 数学突破再陷争议。数学家 Andreas Thom 近日发文质疑，OpenAI 在训练 Astra 时，可能吸收了他与数学家 Gábor Kun 围绕 Gromov soficity conjecture 展开研究时留下的对话内容，随后 Astra 又解决了高度相关的问题。 Gromov soficity conjecture 是群论领域长期悬而未决的重要问题，Thom 已研究该问题 20 年。OpenAI 今年 8 月公布 Astra「十大数学突破」时，其中第 3 项正是构造出 non-sofic group。OpenAI 此前称相关成果由内部版本 Astra 完成，但在遭到数学界质疑后，已修改表述，承认该证明依赖包括 Kun 和 Thom 研究在内的近期数学工作。 目前尚无证据证明 OpenAI 确实将相关私人对话用于训练 Astra，但 Thom 的指控再次将 AI 训练数据来源、未发表研究成果归属以及「AI 发现」是否建立在人类未公开成果之上等问题推至台前。 若相关指控最终得到证实，事件将不再只是学术署名争议，而可能演变为一场涉及 AI 公司数据使用、科研伦理和知识产权的重大风波。
Hyperliquid Policy Center以法庭之友身份支持CFTC，吁法院驳回CME诉讼
PANews 9月10日消息，据The Block报道，加密政策倡导机构Hyperliquid Policy Center（HPC）本周三向哥伦比亚特区联邦地区法院提交法庭之友意见书，支持商品期货交易委员会（CFTC），并指责全球最大衍生品交易所CME集团试图扼杀创新，敦促法院驳回CME今年6月对CFTC提起的诉讼。该意见书由曾在拜登政府时期（2021-2025年）担任副检察长的Elizabeth Prelogar代表HPC撰写，她表示，若CME胜诉，CFTC批准的每一款新产品都可能招致希望维持现状的在位机构提起诉讼，美国期货市场的创新步伐将陷入停滞。