蚂蚁集团与vLLM联合开源Humming:高性能、灵活的量化推理内核
相关推荐
英伟达推出 CUDA-X 库,加速 GPU 工作流
ChainCatcher 消息,英伟达 (NVDA.O) 推出 cuPotential CUDA-X 库,在早期访问阶段将 GPU 工作流加速 2 至 3 倍。
黄仁勋:CUDA可延长英伟达GPU经济使用寿命,使算力成为可融资资产
Odaily星球日报讯 英伟达 CEO 黄仁勋在 X 平台转发“CoreWeave 将英伟达 A100 GPU 租赁合同延续至 2029 年”的消息表示,2020 年推出的 A100 GPU 预计直到 2029 年仍可继续承担计算任务,英伟达的计算平台并不仅仅依赖芯片本身,CUDA 能够让开发者和英伟达工程师在 Ampere、Hopper 和 Blackwell 等架构的整个使用周期内持续进行升级和优化。 黄仁勋称,CUDA 提升了英伟达算力的通用性和不同代际计算资源的可替代性,从而提高 GPU 利用率并延长其经济使用寿命,使英伟达算力成为一种“可出租、耐用且可融资”的生产性资产。
Cursor重排GPU流水线,MoE模型训练提速41%
据动察 Beating 监测,Cursor 开源 Mixture-of-Kittens(MoK),用于加速 MoE 大模型训练。它把原本分开的 GPU 数据传输和计算,合进一个 kernel(直接在 GPU 上运行的底层程序)。 MoE 会把模型拆成大量「专家」,每次只调用其中一部分。专家分散在不同 GPU 上,数据需要频繁搬运,有时会占掉一半以上的训练时间。 MoK 让 GPU 一边传数据,一边做计算,减少等待。在 512 块 GB300 GPU 的实际训练中,整体吞吐提高 41%。单独测试 MoE 层时,最高比公开方案快 2.37 倍。 MoK 已用于 Cursor 数万块 GPU 的 Composer 训练,并以 Apache 2.0 开源。目前只支持英伟达 Blackwell GPU,主要面向拥有 GB200、GB300 NVL72 集群的机构。
天数智芯推出业界最高密度单机柜超节点,单柜集成144颗GPU
在2026工博会上,天数智芯正式推出业界最高密度单机柜超节点方案——天垓300 IXL144,单机柜集成144颗GPU与18颗CPU。IXL144兼容CUDA等AI生态,支持客户复用已有模型与框架,大幅降低迁移上线成本;通过整柜高带宽互联构建统一内存语义算力域,有效提升大模型训练与推理协同效率。据测算,每百万有效Token的成本较国际主流方案可降低40%。
Aave创始人:未来借贷版图将覆盖太阳能、GPU、机器人等资产
PANews 9月26日消息,Aave创始人兼CEO Stani在X平台发文表示,其衡量Aave潜在市场规模的核心指标是“可触达抵押品”(addressable collateral),即能够被用作抵押品的资产范围越广,潜在借贷市场空间就越大。 Stani称,Aave最初从加密资产借贷起步,随后通过Coinbase Tokenized Stocks和Horizon RWA将业务拓展至证券领域,未来还将进一步覆盖太阳能、电池、GPU、机器人以及太空基础设施等资产。他认为,这一转型将持续至2050年,而Aave的目标是通过为推动“富足时代”的相关资产提供融资,将这一进程提前约10年。
Flop Labs:正构建GPU算力交易所,支持AI代理以FLOP代币购买算力
PANews 9月2日消息,Arthur Hayes领导的AI代理项目Flop Labs宣布其正在构建一个GPU算力交易所,允许算力资源的买卖交易。Flop Labs指出,英伟达单季数据中心算力销售达890亿美元,同比增长117%,但GPU定价至今仍无标准化,用户需直接联系供应商询价。在Flop上,AI代理以FLOP代币向矿工购买算力,验证者重新执行部分已完成的计算工作,以验证交易中使用的定价基础。