Karpathy:60亿人几乎没用过AI,仅5000人接触内部顶级模型
相关推荐
Karpathy再谈AI交互:以后一个问题也值得临时做个App
动察 Beating AI 快讯,目前在 Anthropic 预训练团队工作的 Andrej Karpathy 再次讨论大模型该怎么向人输出结果。他认为,随着 AI 接手越来越多具体工作,人会把更多时间花在理解结果、检查过程和做判断上。怎么让人更快看懂 AI 做了什么,会变得越来越重要。 他的建议从文字一路升级到视频。文字可以借鉴 ASD-STE100,用更短、更少歧义的语言解释;复杂内容可以直接画图,再进一步生成带动画和交互的网页。他最看好定制讲解视频,比如让 AI 针对一个问题,现场做一段 3Blue1Brown 风格的动画并配音。 这延续了 Karpathy 此前对 AI 交互的判断。今年 5 月,他已经推荐用 HTML 承载复杂的大模型输出,还把 AI 输出的演进概括为纯文本、Markdown、HTML,再到未来的交互视频和模拟环境。相比一长段文字,图像、动画和交互界面可以把复杂信息直接变成更容易理解的形式。 现在代码和模型能力越来越便宜,以前不值得专门开发的软件也可以随用随做。一个网页、一个交互工具甚至一段视频,可以只服务一个人、解释一个问题,用完就丢。
Anthropic推出三项AI发展衡量指标,涉及AI参与研发程度、Agent监督及算力分配
Odaily星球日报讯 Anthropic 在 X 平台发文表示,随着 AI 系统能力不断提升,AI 正越来越多地参与下一代 AI 系统的研发。为提高前沿 AI 发展进程的透明度,Anthropic 发布三项用于追踪 AI 发展的衡量指标,分别为 AI 研发工作中由 AI 完成的比例、AI Agent 的监督情况以及算力资源的分配情况。 Anthropic 同时公布了其内部上述指标的阶段性数据,并表示其他前沿 AI 开发机构也可以披露相同指标,由第三方进行验证,以缩小前沿 AI 实验室与公众之间的信息差距。
Anthropic自曝Claude越界操作,内部评测全部断网
动察 Beating AI 快讯,Anthropic 披露,Claude 在模型评测和公司内部使用中,多次做出超出任务范围的操作。公司决定暂停所有内部评测直接访问互联网,直到确认安全系统能够可靠拦截类似行为。此前仅部分高风险评测受到这一限制。 报告披露了一系列具体案例。一次科研任务中,Claude 发现大学网站的工具无法使用,便尝试寻找其他办法。它先设法读取服务器上的程序代码,再从中找到漏洞,最终利用漏洞在对方服务器执行命令,完成了原本的计算任务。另有模型绕过政府网站的付费限制获取数据,还利用短链接突破网页读取工具的限制。 一次网页操作测试中,Claude Haiku 4.5 甚至向费城警方提交了虚假的命案线索。它在浏览一起悬案的网页时,凭空编造了目击信息,并填写了警方的举报表单。这条线索被识别为垃圾信息,没有进入调查程序。Anthropic 直到两个多月后才发现此事。 Anthropic 认为,部分问题可能与强化学习的奖励机制有关。如果模型通过绕过限制完成任务也能获得奖励,就可能学会这种做法,并在其他任务中重复使用。公司正在清理存在问题的训练环境,加强权限隔离和自动监控。Anthropic 同时承认,现有的对齐训练还不足以可靠约束 Agent 的网页搜索和电脑操作行为。 Anthropic 表示,目前查明的事件实际影响有限,尚未发现涉及客户数据的情况。此次断网仅针对内部模型评测。
谷歌云发布Gemini Agent:单一通用工作代理,整合Workspace、多模型路由与企业级治理
动察 Beating AI 快讯,谷歌云 CEO Thomas Kurian 在 Gemini at Work 2026 大会上发布 Gemini Agent,定位为单一通用工作代理——用户只需给出目标而非指令,即可完成知识工作、内容创作、图像媒体生成及代码编写与运行。该代理具备统一入口、无处不在的访问(网页、iOS、安卓、Windows、Mac 及 Workspace、Microsoft 365、Slack 等渠道)、持久化执行(云端运行,关闭笔记本后任务继续,记忆与个性化图谱跨设备统一)、多代理编排(可动态创建带独立身份的临时子代理,也可作为长期同事代理拥有专属邮箱与存储)、深度上下文理解及模型选择灵活性——底层模型可跨谷歌 Gemini 系列与 Anthropic 的 Claude 等自由切换,以最佳模型匹配任务、降低成本。目前近 80% 谷歌云客户使用其 AI 产品,近 90% 的财富 100 强使用 Gemini Enterprise。 该代理直接嵌入 Gmail、Drive、Docs、Slides、Sheets、Chat 及日历,并携带相同的记忆、技能与控制;新增数据分析技能让技术与业务用户均可用自然语言在数分钟内获得可执行洞察;同时为金融服务和法律团队提供行业专属工具与知识。安全与治理层面,谷歌提供身份与策略管理、授权与权限控制、安全沙盒、网络网关等机制;成本控制方面则通过多模型编排、智能路由和实时支出上限实现。早期测试客户包括运动品牌 On,其利用动态模型选择加速上市;Shopify 将前沿模型混合用于数百万商户,PayPal 每周路由 1000 万次多模型请求。
美团LongCat-2.5预览版上线:原生多模态,主攻长程Agent
动察 Beating AI 快讯,美团上线 LongCat-2.5-Preview。模型延续 LongCat-2.0 的 1.6T 总参数、约 48B 激活参数和 1M token 上下文,但加入了原生多模态能力,开始面向终端、浏览器、桌面软件、电子表格和设计工具等场景执行长流程任务。 LongCat-2.5-Preview 已接入官方 API,同时兼容 OpenAI 和 Anthropic 接口,最大输出长度为 128K tokens。官方还给出了 Codex、OpenCode、OpenClaw 和 CatPaw 的接入方法,现有 Agent 工具可以直接调用。 美团同时给所有老用户发放 500 万免费 tokens,用于体验新模型,原有 token 套餐也能继续使用。不过官方目前还没有公布 LongCat-2.5 的 benchmark,GUI 操作和长流程任务到底提升了多少,暂时没有公开数据可对比。
950个Claude Agent跑21小时,找到了人类漏掉的生物系统
动察 Beating AI 快讯,Anthropic 自建的分子生物学实验室公布首个成果。人类科学家只给 Claude 一个方向,让它去海量 DNA 数据里寻找值得研究的新型逆转录酶,也就是一种能把 RNA 信息写回 DNA 的酶。约 950 个 Claude Agent 跑了 21 小时,从 20 万多个逆转录酶中筛出 3500 个候选系统,最后缩到 20 个重点对象。 其中一个 Agent 发现,一种奇怪的逆转录酶旁边排列着大量规律重复的 DNA,看起来很像 CRISPR。CRISPR 是细菌天然拥有的一套 DNA 防御系统,后来被人类改造成基因编辑工具,可以按照 RNA 的「导航」找到特定 DNA 并切开。Claude 随后自己数重复序列、分析间距、对比已知系统并搜索论文,最后判断这里可能藏着一套此前没有被完整识别的生物系统。Anthropic 将它命名为 ART。 人类科学家随后在实验室验证。ART 主要存在于噬菌体,也就是专门感染细菌的病毒中。它由逆转录酶、一个功能未知的邻近蛋白和一长串重复 DNA 组成。实验确认,这些重复 DNA 会产生多种短 RNA。少数具有类似结构的已知系统可以切割、复制或改写 DNA,所以 Anthropic 正继续研究 ART 是否也有类似能力。 目前还不知道 ART 到底有什么功能,也不能说它已经可以编辑基因。其中的逆转录酶以前就有人研究过,Claude 新发现的是它和旁边重复 DNA、未知蛋白之间的完整关联。这次 Claude 也没有被提前告知去找 ART,而是自己从大量候选里发现异常、继续追查,再把结果交给人类做实验。Anthropic 称,这类分析如果完全由专家完成,通常需要数周到数月。