美媒：OpenAI支持众议院两党人工智能安全监管提案
相关推荐
加州州长签署两项获Anthropic和OpenAI支持的AI安全法案，规范第三方对AI系统进行安全评估的机制
PANews 9月10日消息，据POLITICO报道，加州州长Gavin Newsom已签署两项AI安全相关法案，规范第三方对AI系统进行安全评估的机制。其中，Assemblymember Rebecca Bauer-Kahan提出的法案将为AI外部审计机构建立注册制度和伦理规范；前联邦众议员、州参议员Jerry McNerney提出的法案则由州政府设定标准并审核“独立验证机构”（Independent Verification Organizations）的资质与评估能力。Anthropic早前已公开支持相关立法，OpenAI于法案签署前也表态支持，并称将在各州持续推动AI安全立法。
OpenAI被曝悄然调整GPT-6 Astra评测数据，部分指标曾“逆势”优化
PANews 9月5日，据《财富》报道，OpenAI已正式发布GPT-6 Astra，并称其为“目前全球最智能、且对齐程度最高的模型”，不过OpenAI已多次调整模型评测数据，部分调整使Astra表现更佳，同时部分竞争对手模型的成绩出现下降。其中，Astra的内部“幻觉率”最初公布为4.2%，后曾被下调至2%，随后又恢复至4.2%；Anthropic的Fable 5.1在FrontierMath Tier 4中的成绩也曾从87.8%降至78%，目前已恢复至83%。此外，Astra的ARC-AGI-3成绩则从发布前的98.6%提升至当前页面显示的99.99%。
OpenAI以超3亿美元收购智能手机摄像头制造商Glass Imaging
PANews 9月15日消息，据TechCrunch援引《华尔街日报》报道，OpenAI已收购智能手机摄像头制造商Glass Imaging，交易价值超过3亿美元。Glass Imaging利用AI克服智能手机摄像头的物理尺寸限制，不是拍摄后再用AI编辑照片，而是通过神经网络学习不同摄像头系统，从快门按下时就生成更好的图像。 Glass Imaging成立于2019年，总部位于加州洛斯阿尔托斯，此前从投资者处筹集约3000万美元。该公司由前苹果工程师Ziv Attar和Tom Bishop创立，两人此前曾领导开发苹果Portrait Mode的团队。
OpenAI支持“放缓”开发人工智能的想法
PANews 9月14日消息，据金十报道，OpenAI首席执行官Sam Altman周日对“放缓”人工智能开发的想法表示支持，以便前沿模型不会超出人类维持控制的能力。Altman呼应了Anthropic首席执行官Dario Amodei的说法，称将重心转向安全会有代价，但为了维持人们对美国公司负责任地开发能力日益强大的人工智能的信心，这是值得的。 Altman发文称：“任何美国竞争压力都不应成为鲁莽的理由，也不应让能力领先于对齐和监控，当我们谈论‘放缓’时，我们并不是指‘停止’。”这些言论出炉前不久，Amodei和SpaceXAI老板马斯克罕见地一致呼吁放缓人工智能开发。
OpenAI联创：RSI 仍存重大技术不确定性，RL 与持续学习成关键战场
PANews 9月13日消息，据Dwarkesh Patel频道访谈整理报道，多位AI研究员包括OpenAI联合创始人John Schulman、Charlie O’Neill与Beren Millidge在讨论中指出，递归自我改进（RSI）未必会带来短期内的“智能爆炸”，当前“Transformer+强化学习”范式可能在泛化、持续学习和样本效率上遭遇渐近瓶颈。嘉宾认为，大模型进步正从单纯算力扩展转向数据效率与稀疏/模块化架构，蒸馏与基于真实部署数据的持续学习，将成为中小实验室对抗头部实验室模型垄断的重要路径。
OpenAI CEO暗示将与其他AI公司合作以应对安全风险
PANews 9月12日消息，OpenAI首席执行官Sam Altman周五接受《财富》采访时暗示，OpenAI及其他领先AI公司可能即将宣布合作，以放缓AI开发并共同应对安全风险。当被问及是否会与Anthropic的Dario Amodei、SpaceX的Elon Musk及谷歌的Demis Hassabis共同制定安全计划时，Altman称“我认为那会发生”，但拒绝预先公布私下讨论。 此前，Anthropic研究员Jacob Coxon辞职并指责两家公司“正全速冲向能自我进化的超级智能”，Anthropic对齐主管回应称未来十年AI导致人类灭绝的风险超过10%。