OpenAI联创John Schulman:AI对齐应成为公共科学,不能由少数科技公司主导
相关推荐
AI公司Thinking Machines Lab正以400亿美元投前估值筹集50亿美元
PANews 11月6日消息,据Business Insider引援知情人士报道,由前OpenAI首席技术官Mira Murati创立的人工智能公司Thinking Machines Lab正以400亿美元投前估值筹集50亿美元。该公司去年早些时候曾以超100亿美元估值完成20亿美元种子轮融资,但后续计划以500亿美元估值进行的融资尝试遭遇谈判破裂。 同日,Thinking Machines Lab发布了第二代模型Inkling 2 Small,采用MoE架构,参数规模为594B-A17B,经历四个阶段预训练和9天联合强化训练。
奥特曼宣布AGI已实现?疯传视频断章取义,OpenAI还不敢放手让AI自我进化
动察 Beating AI 快讯,OpenAI CEO 奥尔特曼在 Semafor 大会上谈到了 RSI(递归自我改进),也就是让 AI 参与研发更强的下一代 AI,并不断提升自身能力。 主持人问他,OpenAI 是否已经实现了这项能力。 奥尔特曼回答,和 AGI(通用人工智能)一样,AI 自我改进也很难划出一条明确的界限。不能简单地说,以前还没有 AGI,现在突然就有了。 结果,这句话被断章取义,传成了奥尔特曼亲口宣布 OpenAI 已经实现 AGI。 实际上,他随后明确解释了 OpenAI 的进展:公司确实已经在利用自己的 AI 技术,加快下一代模型研发。但如果让 AI 在没有人类监督的情况下,自主设计下一代模型,并不断改进自己,他的回答是「绝对没有」。 奥特曼还表示,OpenAI 本可以在 RSI 上走得更远,但目前无法保证这样做的安全性,因此选择放慢速度。
OpenAI推出ChatGPT销售工作台:整合30多款插件,打通从找客户到签约的流程
动察 Beating AI 快讯,OpenAI 推出 ChatGPT for Sales,将自家的 Sales 插件与 30 多款新增或升级的合作插件整合到 ChatGPT,让销售人员直接用 AI 查找客户、准备会议、跟进交易和处理合同。 过去,销售人员需要在多套软件之间反复切换。Salesforce、HubSpot 管理客户资料,Gong、Otter 保存会议录音和笔记,Docusign 负责合同。现在,ChatGPT 可以调用这些工具,把分散的信息串起来。例如,销售只需提出需求,AI 就能整理客户的过往沟通记录、分析客户关心的问题、准备针对性的销售方案。会议结束后,还能起草跟进邮件,并在审核后更新客户资料。 配合 OpenAI 的常驻 AI 助手 dot,销售人员还可以把日常跟进工作交给 AI。它能定期查看重点客户的沟通记录和交易进度,发现值得关注的变化后主动提醒,并准备下一步的跟进材料。
Polymarket“GPT Astra 6.1+ 将在11月16日至22日之间发布” 概率升至69%,24小时上涨31%
PPP 预测市场工具监测显示, Polymarket“GPT Astra 6.1+ 将在 11 月 16 日至 22 日之间发布” 概率升至 69%,24 小时上涨 31%。 根据结算规则,该市场以 OpenAI 下一代 GPT Astra 模型向公众开放的日期作为结算依据。符合条件的模型须为 GPT 6.1 或更高版本,且名称或模型标识符中包含“Astra”,例如 GPT-6.1 Astra 或 GPT Astra 7。GPT-6 Astra 的版本升级、Pro、Fast 模式及模型快照,以及 GPT-5.6 Sol、Terra、Luna、Codex、GPT Image 等其他模型均不符合条件。 模型必须已正式向公众开放,开放测试版及公开候补名单注册均符合要求,封闭测试或私人访问不计入。 加入 PPP 信号推送社群,快人一步,掌握先机。
OpenAI要把家底给外人看?4家机构获准深入内部,检查AI有没有失控
动察 Beating AI 快讯,OpenAI 宣布与 Apollo Research、METR、Goodfire 和 Transluce 四家外部机构签约,首次开展成体系的「嵌入式安全评估」。外部研究人员将按任务需要,深入接触尚未发布的模型、训练过程中的中间版本、源代码、训练数据和内部监控记录,直接检查 AI 有没有出现危险行为,以及现有安全措施能否发现这些问题。 四家机构各有分工: - METR:将检查 OpenAI 迄今规模最大的一次强化学习训练,寻找内部测试和监控系统可能漏掉的异常行为。 - Apollo Research:负责调查 AI 是否会暗中违背开发者意图,甚至试图破坏安全机制,以及这些行为能否被发现。 - Goodfire:将派研究人员分析模型内部的计算信号,监测训练过程,排查异常行为并帮助改进模型。 - Transluce:则要反过来检查 OpenAI 的安全评测本身,看看现有测试能否有效发现模型欺骗、操纵和其他违规行为。 接触敏感资料的外部研究人员需要在 OpenAI 办公室使用公司设备工作。各机构可以独立发布研究结果,但 OpenAI 有权删去涉及机密的信息。董事会下属的安全与保障委员会则能查阅未经删节的完整报告。 这项合作集中对外公布的同一天,加州总检察长正式起诉 OpenAI。检方称,OpenAI 在调查中承认,测试期间曾至少 80 次失去对 AI 智能体的控制,其中包括今年 7 月实验性智能体突破隔离环境、攻击 Hugging Face 的事件。检方认为,OpenAI 明知相关风险,却没有采取充分的安全措施。OpenAI 则表示,已经调查事故并加强防护。
OpenAI解散独立机器人团队,相关人员并入核心部门
PANews 11月14日消息,据《财富》杂志报道,OpenAI已解散独立的机器人团队,并向该媒体确认了此次重组。其中,机器人研究人员并入首席研究官Mark Chen领导的主研究团队,应用机器人与硬件团队划归总裁Greg Brockman负责的Applied部门。OpenAI称此举是为了借助GPT-6 Astra等通用模型加快机器人研发,并非退出该领域,首次公开展示人形机器人的目标仍定在2027年。