返回 7*24 快讯
来源MarsBit

Tether 开源 TurboQuant,本地 AI 设备 KV 缓存压缩比最高可达 5 倍

火星财经消息,Tether AI 研究团队宣布开源 TurboQuant 生产版本,并将其集成至 QVAC SDK 0.12.0。TurboQuant 源自 Google Research 的内存压缩算法,可将 AI 运行时的 KV 缓存压缩最高 5 倍,同时保持接近未压缩模型的输出质量。这意味着笔记本电脑、手机及边缘设备在无需将数据上传至云端的情况下,可处理更长的对话、更大的文件及更复杂的任务。此次开源发布包含完整量化流水线、主流推理框架适配器及开发者文档,面向在消费级硬件、边缘设备及点对点网络上部署 AI 的开发者和初创团队。
免责声明:以上内容仅为作者观点,不代表 711BTC 的任何立场,不构成与 711BTC 相关的任何投资建议。

相关推荐

06-03 11:28

Tether AI通过QVAC SDK更新和TurboQuant集成推进本地智能

PANews 6月3日消息,据Crowdfund Insider报道,Tether AI研究团队对其开源生态系统进行增强,发布了由谷歌研究院开发的记忆压缩技术TurboQuant的生产就绪版本,并已集成至最新版QVAC SDK中。TurboQuant解决了本地运行AI的主要瓶颈KV缓存问题,可将缓存压缩最多5倍,同时保持输出质量几乎不变。这意味着笔记本电脑、手机等消费级设备能够直接处理长对话、大文档等复杂任务,减少对云数据中心的依赖。Tether CEO表示,此次发布旨在让AI在个人设备和本地网络中运行,而非将所有任务都通过中心化系统处理。

06-15 18:26

Tether 旗下 QVAC 发布新版本地 AI 开发栈,优化开发者体验

PANews 6月15日消息,Tether 旗下 QVAC 发布 QVAC SDK 0.13.0 版本,进一步完善本地 AI 开发和集成能力。新版支持在本地将 AI 能力接入编码智能体(coding agent),一行命令即可打包为桌面应用,并兼容更多模型运行环境。同时,通过新增 @qvac/ai-sdk-provider 等集成组件,提升开发者在 QVAC 生态中构建和部署 AI 应用的效率。此前两周,Tether 曾在 QVAC 中上线 TurboQuant 支持,本次更新被定位为对整体开发栈的迭代优化。

06-29 21:53

Tether旗下QVAC更新至0.14.0版本,新增OpenClaw兼容优化本地AI推理

Odaily星球日报讯 Tether 旗下 AI 开发工具 QVAC SDK 正式推出 0.14.0 版本,聚焦移动端本地推理提速、多语种语音与跨平台算力适配三大方向迭代本地 AI 开发栈。 本次更新新增 OpenClaw 兼容路径,帮助开发者低成本部署本地编码智能体;语音组件 Supertonic3 将文本转语音语种由 5 种扩充至 31 种,Chatterbox、Supertonic 均支持安卓 GPU 运行并优化内存消耗。系统层面 Linux 新增动态计算后端,程序运行中可自动匹配最优执行环境,该架构将为后续 CUDA、ROCm 显卡算力兼容做好技术铺垫,降低本地多模态 AI 项目落地门槛。

06-07 11:37

观点:下周存储板块或延续跌势,谷歌TurboQuant算法降低内存需求,影响正逐渐显现

火星财经消息,6 月 7 日,市场研究员 Financelot 表示,上月公布的开源向量索引库 TurboVec 正在冲击高内存需求市场,其影响正逐渐显现,周五的内存股暴跌归因于此。Financelot 表示,「再见美光、闪迪、三星、SK 海力士」,其对于存储板块下周的表现持看空态度。 然而社群观点指出,TurboVec 对内存板块影响有限,每当有新的内存优化宣布时,总有人宣布整个半导体行业已经死了。 Google Research 今年 3 月提出 TurboQuant 量化算法,在 5 月下旬被独立开发者 Ryan Codrai 实现为开源向量索引库 TurboVec。该工具能将向量数据库的内存需求大幅降低(典型示例:1000 万个向量从 float32 的 31GB 压缩至约 4GB,内存占用减少约 87%,最高可达 16 倍节省,取决于维度和比特宽度)。支持完全离线运行、在普通 Mac 上高效执行,搜索速度在 ARM 平台上比 FAISS IndexPQ/FastScan 快 12–20% 且完全开源,可与 LangChain、LlamaIndex 等框架集成使用。这意味着开发者可以在普通消费级硬件上高效运行本地向量搜索,而无需依赖昂贵的 GPU 集群或云服务。

08-18 09:24

Galaxy Research:Q2 加密借贷市场环比收缩 16.8%,但去杠杆进程“有序而温和”

火星财经消息,Galaxy Research 发布 Q2 2026 加密杠杆市场报告,显示加密抵押借贷总额环比下降 16.78% 至 561.6 亿美元,较 2025 年 Q3 高点 786.9 亿美元下降 40.13%。其中 DeFi 借贷环比收缩 27.61% 至 204.3 亿美元,CeFi 借款环比下降 9.62% 至 229.8 亿美元,这是自 2023 年 Q3 以来 CeFi 规模首次超过 DeFi。Tether 仍以 58.54% 的份额主导 CeFi 市场。报告指出,当前去杠杆与此前熊市的关键区别在于“有序而温和”的节奏:连续三个季度分别仅下降 10%、5% 和 17%,而非 2022 年式的单季度超 55% 的断崖式崩塌。期货市场方面,Q2 未平仓合约环比微降 3.08% 至 1032 亿美元,但 7 月已反弹至约 1140 亿美元。机构企业债务方面,Strategy 于 5 月完成 15 亿美元债务回购,将 DAT 行业未偿债务总额拉低至 161 亿美元。报告认为,市场若无剧烈清算或对手方违约,去杠杆有望延续阶梯式缓降模式。

07-29 20:11

Tether开源端侧视觉语言模型VisionPsy-Nano

火星财经消息,7 月 29 日,据 Tether 博客,Tether Data 旗下 AI 研究项目 QVAC 开源发布 VisionPsy-Nano,这是一款为端侧及边缘部署打造的紧凑型视觉语言模型,参数量约 4.6 亿,可将此前需云端基础设施才能实现的多模态理解能力直接带到移动设备上。在所有已评测的 5 亿参数以下端侧视觉语言模型中,该模型取得最高综合归一化评分 62.3 分,在 17 项基准测试中的 16 项均优于 Liquid AI、Hugging Face 等竞品模型。 Tether 此次发布两个版本,其中 Flash 版本专为低延迟优化,在保留约 99% 完整模型质量的同时大幅提升推理速度。两个版本均以 Apache 2.0 协议开源。Tether 首席执行官 Paolo Ardoino 表示,这证明了本地优先、高效的 AI 是可行路径,能让强大且私密的 AI 在人们已有设备上运行。