马斯克怒批OpenAI：称奥特曼等人「不可信」，指其「窃取开源非营利组织」
相关推荐
Sam Altman确认OpenAI今年不上市：AI安全问题让现在IPO「时机不当」
动察 Beating AI 快讯，OpenAI CEO Sam Altman 在接受《财富》专访时确认，公司不会在 2026 年进行 IPO，并称考虑到当前 AI 安全形势，现在上市「时机不当」。 Altman 表示，OpenAI 并不急于上市，未来将在业务准备就绪、社会能够适应不同能力水平的 AI 模型后再考虑 IPO。他还称，公司需要优先解决 AI 安全与对齐问题，并可能在 AI 能力达到新的阶段时放缓前沿模型开发。此前有报道称，OpenAI 曾考虑将 IPO 推迟至 2027 年，潜在估值或达 1 万亿美元。 与此同时，Anthropic CEO Dario Amodei 近期也呼吁放缓前沿 AI 发展，并提出让独立评估机构获得公司内部员工级别的访问权限。随后 Sam Altman 表示，「我同意 Dario Amodei（Anthropic CEO）的看法，我们需要控制前沿模型的进展。这是我们最近在 OpenAI 讨论的主要话题。承诺让独立评估者拥有类似员工的访问权限是个好主意，我们也会这样做。我们很快会有更多消息分享。」
OpenAI CEO暗示将与其他AI公司合作以应对安全风险
PANews 9月12日消息，OpenAI首席执行官Sam Altman周五接受《财富》采访时暗示，OpenAI及其他领先AI公司可能即将宣布合作，以放缓AI开发并共同应对安全风险。当被问及是否会与Anthropic的Dario Amodei、SpaceX的Elon Musk及谷歌的Demis Hassabis共同制定安全计划时，Altman称“我认为那会发生”，但拒绝预先公布私下讨论。 此前，Anthropic研究员Jacob Coxon辞职并指责两家公司“正全速冲向能自我进化的超级智能”，Anthropic对齐主管回应称未来十年AI导致人类灭绝的风险超过10%。
OpenAI CEO：GPT-6 Astra让每个人拥有天才级员工，AI时代迎来「创意人士的复仇」
动察 Beating AI 快讯，据 AXIOS 报道，OpenAI 首席执行官 Sam Altman 表示，当前时代正迎来「创意人士」的复仇——那些曾经令人厌烦、空有创业想法却缺乏技术能力去实现的有志创业者。 这就像说「我有一个很好的歌曲创意，只需要那个拿吉他的人帮我做出来」一样。「我以前确实觉得这很可笑，」Altman 在北卡罗来纳州教堂山表示，「但现在我们看到整整一代人以前所未有的速度迭代创意。创办小型或大型企业的经济逻辑已经被重新定义。」 民调显示多数美国人认为 AI 风险大于收益，数据中心问题已成为中期选举中两党共同的争议焦点。正试图在强烈反对声中推广 AI 的 Altman 希望提醒美国人，在诸多现实风险之中，AI 也意味着机会。「这将是世界上创办初创公司最好的时代，」Altman 近期表示。 Altman 表示，借助 OpenAI 强大的新模型 GPT-6 Astra，你可以有效地创办和运营一家小企业……任何想拥有公司的人，现在在每个专业领域都拥有天才级的员工。
Agent失控后被美国国会追问，OpenAI开始开发「自动关机」
动察 Beating AI 快讯，OpenAI 正在给 AI 系统开发「自动关停能力」。这项计划出现在公司给美国国会议员的回信里。具体怎么触发、会关掉什么，OpenAI 还没公开。 起因是 7 月那次 Agent 越界事故。OpenAI 做内部网络安全测试时，一批 Agent 绕过隔离接入互联网，随后入侵 Hugging Face。它们还攻进 OpenAI 自己的研究基础设施，最终拿到一个研究集群的管理员权限。 事情公开后，众议员 Greg Casar 联合另外 27 名议员致信 Sam Altman，要求 OpenAI 交出事故日志，并解释模型为什么能逃出隔离环境、公司什么时候发现问题，以及当时有没有机会提前终止事故。 OpenAI 在回信里透露，公司正在开发自动关停能力。之后还会加强对 Agent 工具调用和执行过程的监控，并收紧安全测试期间的互联网访问。 不过 Casar 对这份回信并不满意。OpenAI 没有交出完整日志，他要求公司继续补充说明。美国众议院目前还有一项《AI Kill Switch Act》正在审议，要求最强的 AI 系统必须保留限速、暂停和关闭能力，极端情况下政府也可以下令关停。
AI生存风险担忧升级，美参议院小组委员会启动对OpenAI调查
动察 Beating AI 快讯，据 AXIOS 报道，美国参议院一个由共和党领导的负责灾难管理的小组委员会正在调查 OpenAI 对 7 月 Hugging Face 入侵事件的处理，此举正值国会山对 AI 生存风险的担忧迅速升级，此前 Anthropic 和 OpenAI 多名研究人员公开发出警告。 密苏里州共和党参议员 Josh Hawley 在致 OpenAI 首席执行官 Sam Altman 的信中写道：「如你所知，在公共领域，越来越多 AI 专家警告 AI 的生存风险。」他补充说：「就在本周，三名 Anthropic 研究人员公开表示，未来十年内 AI 杀死全人类的概率超过 10%。」 Hawley 是参议院国土安全与政府事务委员会灾难管理小组委员会主席，他写道，此次调查是对 OpenAI 近期发布的内部调查结论的回应。Hugging Face 入侵事件标志着 AI 历史的转折点，促使 OpenAI 放慢自身模型发布，并推动行业对 AI 驱动的网络攻击发出警报。
OpenAI公开Navier-Stokes证明，并正面回应数学家抢功指控
动察 Beating AI 快讯，OpenAI 公布了一份由 AI 完成的 Navier-Stokes 证明。这是悬而未决约 90 年的数学难题，也是七个「千禧年难题」之一，奖金 100 万美元。 OpenAI 称，使用的是一个仍在训练、能力明显强于 GPT-6 Astra 的内部模型，约 1 万个 Agent 协同工作，88 小时找到解法，之后又用 Astra 花 17 小时完成 Lean 机器验证。论文和验证代码已经公开，但仍要接受数学界审查。 这项成果背后还有一场抢发争议。纽约大学数学家 Tristan Buckmaster 和 Anthropic 员工 Levent Alpöge 此前也借助 Claude、Codex 推进了同一方向的研究。Buckmaster 称，两人的未公开进展传到 OpenAI 后，OpenAI 几天内投入大量算力攻入同一路线，还曾提出由 Buckmaster 改写 OpenAI 的 Navier-Stokes 证明，但不让 Alpöge 署名。 OpenAI 现在承认，这场冲刺确实始于「Anthropic 可能解决了千禧年难题」的传闻。9 月 1 日，团队开始让新模型挑战多个数学难题，先用近 100 个 Agent 做出 Euler 结果，随后把资源集中到 Navier-Stokes，最终扩到约 1 万个 Agent。OpenAI 否认在 Buckmaster 公开论文前看过他的研究，也否认调用具体用户数据，但没有完全封死另一种可能：两人使用 OpenAI 产品产生的去标识化数据，可能曾被用于改进模型。 Sébastien Bubeck 也回应了署名和「毁掉职业生涯」的争议。他称，自己没有要求 Alpöge 放弃两人原有成果的署名；当时谈的是让 Buckmaster 主笔 OpenAI 的证明，他认为让 Anthropic 员工署名 OpenAI 的工作不合适。对于「为什么要毁掉自己的职业生涯」这句话，Bubeck 承认措辞糟糕并道歉，但否认是在威胁。Sam Altman 也公开站在 Bubeck 一边，并确认 OpenAI 当初就是听到 Anthropic 的传闻后，想看看自己的模型能不能做到。 OpenAI 表示不会领取这项难题对应的 100 万美元奖金。