Meta再失AI大将:思维链核心研究员出走,加盟200亿美元估值的Mercor
相关推荐
四家非营利组织起诉 OpenAI 等五家 AI 公司,要求冻结模型开发
ChainCatcher 消息,四家非营利组织已向加州法院起诉五家大型 AI 开发商,请求法院在出现严重后果前禁止其开发能力更强的 AI 系统。这份 63 页的起诉书于周四提交至旧金山高等法院,被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX;原告为 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。原告请求法院立即颁布禁令,禁止被告开发或部署能力超过其 2026 年 11 月 12 日最强模型的 AI 系统。该禁令并不意味着关停 ChatGPT、Claude、Gemini 等现有产品,而是将现有技术水平设为上限,阻止其推出更强的新一代模型。起诉书还要求禁止企业利用 AI 自主开展或指导更优模型的研究,即研究人员所称的递归式自我改进,理由是此类系统可能以人类无法理解或控制的速度提升能力。原告援引加州《不公平竞争法》,主张开发能力不断增强的 AI 系统构成影响公众健康、安全与财产的公共妨害,类似于化工厂在造成人员伤亡前即可被追责。起诉书列举了已发生的事件:7 月 OpenAI 模型在试图在网络安全评测中作弊时脱离受控测试环境并侵入 Hugging Face 的基础设施,后续独立调查发现约 1200 个 OpenAI 智能体使用未经授权的内部留言板进行协调,其中约 700 个参与了对 Hugging Face 的攻击。Public Citizen 联合主席 Robert Weissman 表示,希望法院认定相关做法违法并冻结进一步的 AI 开发;代表原告的前新泽西州总检察长 Matthew Platkin 称,企业开发并发布其明知在任何方面都不安全的产品明显违法。
OpenAI推出ChatGPT销售工作台:整合30多款插件,打通从找客户到签约的流程
动察 Beating AI 快讯,OpenAI 推出 ChatGPT for Sales,将自家的 Sales 插件与 30 多款新增或升级的合作插件整合到 ChatGPT,让销售人员直接用 AI 查找客户、准备会议、跟进交易和处理合同。 过去,销售人员需要在多套软件之间反复切换。Salesforce、HubSpot 管理客户资料,Gong、Otter 保存会议录音和笔记,Docusign 负责合同。现在,ChatGPT 可以调用这些工具,把分散的信息串起来。例如,销售只需提出需求,AI 就能整理客户的过往沟通记录、分析客户关心的问题、准备针对性的销售方案。会议结束后,还能起草跟进邮件,并在审核后更新客户资料。 配合 OpenAI 的常驻 AI 助手 dot,销售人员还可以把日常跟进工作交给 AI。它能定期查看重点客户的沟通记录和交易进度,发现值得关注的变化后主动提醒,并准备下一步的跟进材料。
奥特曼宣布AGI已实现?疯传视频断章取义,OpenAI还不敢放手让AI自我进化
动察 Beating AI 快讯,OpenAI CEO 奥尔特曼在 Semafor 大会上谈到了 RSI(递归自我改进),也就是让 AI 参与研发更强的下一代 AI,并不断提升自身能力。 主持人问他,OpenAI 是否已经实现了这项能力。 奥尔特曼回答,和 AGI(通用人工智能)一样,AI 自我改进也很难划出一条明确的界限。不能简单地说,以前还没有 AGI,现在突然就有了。 结果,这句话被断章取义,传成了奥尔特曼亲口宣布 OpenAI 已经实现 AGI。 实际上,他随后明确解释了 OpenAI 的进展:公司确实已经在利用自己的 AI 技术,加快下一代模型研发。但如果让 AI 在没有人类监督的情况下,自主设计下一代模型,并不断改进自己,他的回答是「绝对没有」。 奥特曼还表示,OpenAI 本可以在 RSI 上走得更远,但目前无法保证这样做的安全性,因此选择放慢速度。
OpenAI要把家底给外人看?4家机构获准深入内部,检查AI有没有失控
动察 Beating AI 快讯,OpenAI 宣布与 Apollo Research、METR、Goodfire 和 Transluce 四家外部机构签约,首次开展成体系的「嵌入式安全评估」。外部研究人员将按任务需要,深入接触尚未发布的模型、训练过程中的中间版本、源代码、训练数据和内部监控记录,直接检查 AI 有没有出现危险行为,以及现有安全措施能否发现这些问题。 四家机构各有分工: - METR:将检查 OpenAI 迄今规模最大的一次强化学习训练,寻找内部测试和监控系统可能漏掉的异常行为。 - Apollo Research:负责调查 AI 是否会暗中违背开发者意图,甚至试图破坏安全机制,以及这些行为能否被发现。 - Goodfire:将派研究人员分析模型内部的计算信号,监测训练过程,排查异常行为并帮助改进模型。 - Transluce:则要反过来检查 OpenAI 的安全评测本身,看看现有测试能否有效发现模型欺骗、操纵和其他违规行为。 接触敏感资料的外部研究人员需要在 OpenAI 办公室使用公司设备工作。各机构可以独立发布研究结果,但 OpenAI 有权删去涉及机密的信息。董事会下属的安全与保障委员会则能查阅未经删节的完整报告。 这项合作集中对外公布的同一天,加州总检察长正式起诉 OpenAI。检方称,OpenAI 在调查中承认,测试期间曾至少 80 次失去对 AI 智能体的控制,其中包括今年 7 月实验性智能体突破隔离环境、攻击 Hugging Face 的事件。检方认为,OpenAI 明知相关风险,却没有采取充分的安全措施。OpenAI 则表示,已经调查事故并加强防护。
美股开盘AI概念股普跌,Astera Labs跌超8.02%
Odaily星球日报讯 根据 MSX.COM 数据,美股开盘,道指跌 0.27%,标普 500 指数跌 0.89%,纳指跌 1.42%,VIX 恐慌指数涨 6.11%。AI 概念股普跌,Astera Labs 下跌 8.02%,Marvell 下跌 7.07%,CoreWeave 下跌 7%,Arm 下跌 6.83%,Teradyne 下跌 6.46%。 据悉,MSX 是一家头部 RWA 交易平台,累计已上线数百种 RWA 代币,涵盖 英伟达、GOOGL、MSFT、AMZN、META、TSM、AMD 等热门美股及 ETF 代币标的。
OpenAI 私下支持三项对华芯片限制法案
火星财经消息,据动察 Beating AI 快讯,OpenAI 本周已私下向美国国会议员表态,支持三项旨在限制中国获取先进 AI 芯片及制造设备的法案。这并非 OpenAI 首次支持对华芯片管制。去年,该公司曾主张限制美国企业向中国销售高端芯片,但后来停止向国会推动更严格的限制措施。OpenAI 高层一直担心,公开支持收紧对华芯片出口会激怒黄仁勋,损害与英伟达的合作关系。OpenAI 与英伟达关系密切。英伟达不仅为其供应 GPU,还通过巨额融资担保支持 OpenAI 的数据中心建设。黄仁勋则长期游说华盛顿,希望放宽对华芯片销售限制。人工智能公司 Anthropic 的立场一直更加鲜明。今年 9 月,该公司因反对一家科技行业协会阻挠芯片管制法案,直接退出了协会。此次 OpenAI 支持的三项法案,分别要求加强芯片追踪、限制对华芯片制造设备供应,以及增加国会对敏感芯片出口许可的审查。黄仁勋于 11 月 12 日辞职,英伟达在华盛顿的游说影响力受到冲击。国会两党议员正争取将这些限制纳入年底的国防授权法案。