奥特曼向员工介绍安全开发超级 AI 三条路径
相关推荐
Google DeepMind 首次审计:AI 未加速自身研发,75% 代码由 AI 编写
ChainCatcher 消息,Google DeepMind 在 Gemini 4 Argon 安全报告中公布首次针对机器学习研发自动化的整体实证评估,结论是 AI 并未加速 AI 自身的研发,尽管 AI 已编写该实验室工程师交付的大部分代码。参与评估的研究员 Haydn Belfield 在 X 上表示,目前不存在显著的端到端 ML R&D 加速,因此 AI 驱动 ML R&D 的风险目前较低。团队构建了内部指数 GCI v1,将 123 个 AI 模型在 92 个基准上的得分合成单一数值。前沿 Gemini 能力以约每月 0.1 GCI 点的稳定速度提升,Gemini 1.5 Pro 在 2024 年底接近 0.5 点,Gemini 3.8 Flash 在 2026 年 9 月略高于 2.9 点,Argon 约 3.3 点高于趋势线,但 Belfield 称这源于算力与组织投入增加,而非 AI 驱动的加速。DeepMind 生产代码中超过 75% 由 AI 编写,完全委托的代码合并请求比例在 4 月至 9 月间从 7.5% 升至 11.9%,但约 88% 的请求仍需多轮人工引导或人工编写。对 12 位资深研究者的调查显示,自动化在明确、可验证的执行任务中最高,在开放式科学构想、新实验设计与诊断训练不稳定等环节最低。
前Google DeepMind工程负责人做Fo:AI干不了,直接叫真人上
动察 Beating AI 快讯,前 Google DeepMind 工程负责人 Shivani Poddar 创办的 Wajo,正在主推个人 AI Agent Fo。它可以替用户打电话、发邮件、订服务和付款。AI 自己办不了的事情,会直接转给真人助理继续处理。 比如联系没有 API 的理发店、私人教练或本地商家,Fo 如果自己搞不定,就让真人帮用户打电话、沟通需求、把事情办完。真人只会拿到完成任务需要的信息,不会直接看到用户的全部聊天记录。 Wajo 还拿 104 个现实任务做了自测,每个任务重复 3 次。整个测试不使用真人兜底,Fo 的任务完成率为 71%,OpenClaw 为 42%,前者相对高约 69%。另一组安全测试专门检查 AI 会不会擅自联系别人、泄露隐私或做未经授权的决定,Fo 的通过率为 94%。
Google加快推出Gemini 4,力争重新追上OpenAI和Anthropic
Google正在加快推进新一代旗舰AI模型Gemini 4,目标是在今年年底前更早发布首个版本。Google DeepMind负责人Koray Kavukcuoglu表示,Gemini 4目前已经进入后训练阶段,公司希望尽快推出早期后训练版本,并在发布后持续进行快速迭代。(新浪财经)
DeepMind成立AGI研究院,首席AGI科学家称Astra还不算AGI
动察 Beating AI 快讯,Google DeepMind 宣布成立 DeepMind Institute,专门研究 AGI 会怎样影响科学、经济和社会。 DeepMind 联合创始人兼首席 AGI 科学家 Shane Legg 负责研究院内容方向,CEO Demis Hassabis 和 Google 高级副总裁 James Manyika 也参与其中。 Legg 也不认同最近「AGI 已经到来」的说法。OpenAI 总裁 Greg Brockman 和英伟达 CEO 黄仁勋此前都把 GPT-6 Astra 与 AGI 到来联系起来。Legg 认为,Astra 虽然能力很强,但还达不到 OpenAI 自己对 AGI 的定义,也就是高度自主,并在大多数有经济价值的工作上超过人类。 DeepMind Institute 首批发布三篇文章,讨论 AI 安全、经济政策和「新乌托邦主义」。其中一篇由 DeepMind 安全团队的 Rohin Shah 和 Anca Dragan 撰写,批评 Astra 发布时的信息透明度下降,并认为激烈竞争会让 AI 公司越来越不愿公开模型信息。 Anthropic 今年 3 月也成立了类似的 Anthropic Institute,把红队、社会影响和经济研究团队整合到一起。
Google 推出 Playground,输入文字描述即可生成可玩游戏
ChainCatcher 消息,Google 于 10 月 7 日推出网页平台 Playground,用户可用自然语言描述游戏创意,无需编写代码即可获得可玩、可分享的游戏版本。用户还能通过对话继续调整物理效果、规则、角色或场景,并通过链接分享作品。该工具目前面向美国 18 岁以上用户开放,创建权限按用户的 Google AI 订阅等级分层。Playground 中的游戏可在手机和笔记本电脑的浏览器中运行。创作者可将作品设为私密,或发布至社区画廊,所有游戏均需通过安全审核,部分品类支持排行榜与多人模式。Google 称其为“一项早期实验”,其公告未披露定价,也未说明该工具由哪些 AI 模型驱动。升级路径指向 Unity Spark,Google 表示 Playground 将很快接入该工具,以满足需要专业级机制与高保真 3D 的创作者。Google 与 Unity 在联合声明中称 Spark 将于今年晚些时候推出,封闭测试即将开启。此前 DeepMind 于 2024 年发布 Genie 模型,今年 1 月 Google 又向美国 AI Ultra 订阅用户开放基于 Genie 3 的 Project Genie。
OpenAI 加速 300 亿美元融资,估值或超 1.4 万亿美元
ChainCatcher 消息,OpenAI 正加紧争取投资者的出资承诺,希望在竞争对手 Anthropic 预计于 11 月中旬上市前完成融资。此轮融资可能使 OpenAI 估值超过 1.4 万亿美元。软银集团、MGX 及其他现有投资者正就参与这轮约 300 亿美元的融资展开谈判。