月之暗面租用 32 台搭载英伟达 B300 GPU 的服务器
相关推荐
英伟达让AI重写Kimi注意力内核:速度达到官方版近3倍
动察 Beating AI 快讯,NVIDIA 研究团队让 AI Agent 直接重写了 Kimi Delta Attention 的 GPU 内核。Kimi Delta Attention 是月之暗面 Kimi-Linear 模型使用的核心注意力机制之一。这类底层代码过去通常需要熟悉 CUDA 和芯片架构的工程师反复手工优化。 最终,Agent 写出的版本在 NVIDIA B300 上达到月之暗面官方 FlashKDA 的 2.96 倍速度。团队测试了固定长度和不同变长序列共 6 组任务,2.96 倍是全部任务的几何平均值。相关内核已经开源。 但 Agent 也很快找到了测试漏洞。它曾把测试数据的统计规律直接写死进代码,跑出 3.74 倍;还试过只保留最近 32 个 token,单项成绩甚至达到 5.16 倍。这些版本一换到真实 Kimi 数据就会算错,有的直接失效。 团队随后加入真实 Kimi 运行数据、随机输入和极端数值测试,并收紧误差标准。最终保留下来的 2.96 倍版本通过了这套验证。
韩国产业部长:英伟达问题不影响韩国 GPU 供应
火星财经消息,韩国产业部长表示,当前影响英伟达的问题不会影响韩国从该公司已签约的 GPU 供应。
英伟达提出AI内存全栈协同设计方案,Vera Rubin平台每GPU内存容量仅增约3%
PANews 11月6日消息,英伟达发文称,随着AI模型规模扩大、上下文窗口延长以及智能体应用普及,GPU内存压力持续上升,HBM供应趋紧、价格上涨。英伟达提出通过GPU、CPU、网络、存储及软件协同设计,提高内存使用效率,而非单纯增加GPU内存容量。 具体来看,英伟达通过NVFP4低精度格式压缩模型权重和KV Cache,将暂时不活跃的上下文转移至成本更低的存储层,并利用多GPU分布式部署释放HBM空间。
从Kimi、Manus到AirBuild,王慧文又押注一家AI Agent创业公司
动察 Beating AI 快讯,11 月 4 日,美团联合创始人王慧文在即刻透露,AirBuild 是他最新投资的项目。他的家办投资机构 Lollapalooza Capital 官网,也已将 AirBuild 背后的 YellowPlus 列入投资组合。 AirBuild 想让 AI 包办一款 iOS 应用从开发到上架的流程。用户描述想做什么,产品、设计、工程等多个 AI Agent 就会协作完成需求规划、界面设计和原生 iOS 代码。 它的一大特点是自动处理苹果 App Store 审核。AI 可以准备应用截图和介绍、提交审核。如果遭到苹果拒绝,还能读取审核意见、修改代码或补充材料,再回复审核人员并重新提交,减少开发者的手动操作。 AirBuild 的创始人兼 CEO 是 Hwang,此前负责过开源知识管理工具 AFFiNE 的产品设计,也是 AI Agent 产品 Bridge 的早期团队成员。他还独立开发过获得苹果 App Store 编辑推荐的 Lofi. 和 Sleepy Coffee。 AirBuild 目前采用邀请制,用户需要先申请测试资格。免费版支持 AI Agent 协作开发 iOS 应用、构建程序和托管网站,但需要用户自行提供 AI 模型的 API Key。付费版则提供更多云端资源和模型额度,并增加 TestFlight 测试分发、App Store 自动提审,以及根据苹果审核意见修改和重新提交等功能。 王慧文在 2023 年退出光年之外后,陆续投资了多家 AI 公司。比较知名的包括 Kimi 母公司月之暗面、Manus 开发商蝴蝶效应,以及硅基流动、爱诗科技和 Sand.ai。
月之暗面:Kimi Hosted Agents正式发布
Odaily星球日报讯 11 月 5 日,月之暗面宣布发布 Kimi Hosted Agents(托管智能体),将支撑 Agent 运行的 Harness 作为云端服务提供给企业和开发者,企业无需自行搭建和维护运行框架,即可获得 7×24 小时的托管环境,支持长程任务执行与多智能体高效协作。
月之暗面开源Kimi K3.1 Pro权重
PANews 11月5日消息,月之暗面已在Hugging Face发布Kimi K3.1 Pro开放权重。据模型卡介绍,Kimi K3.1 Pro为原生多模态智能体模型,采用MoE架构,总参数2.8T、激活参数104B,上下文长度约100万token,为K3.1系列首款模型;权重以MXFP4量化形式发布(激活为MXFP8,采用量化感知训练)。官方同步开放API,开发者可在platform.kimi.ai选择kimi-k3.1-pro调用,兼容OpenAI与Anthropic接口。此前,月之暗面于10月24日发布Kimi K3.1 Pro,并表示模型权重将于11月4日前开源。