苹果洽谈AI公司PrismML 拟将270亿参数大模型部署至iPhone
相关推荐
PrismML发布Bonsai 27B,270亿参数AI模型首次适配iPhone
PANews 7月16日消息,据Decrypt报道,PrismML发布Bonsai 27B模型,这是首个能够在消费级智能手机上运行的270亿参数AI模型。该模型被压缩至3.9GB,可在iPhone 17 Pro Max上以每秒11个token的速度运行。三进制变体压缩至5.9GB,在M5 Pro笔记本上达到每秒26个token。压缩技术基于加州理工学院知识产权,将每个模型权重从16位浮点精度降至仅正1或负1,二进制变体比全精度模型小14倍。在15项基准测试中,三进制Bonsai 27B平均得分80.49,达到全精度模型94.6%的性能。该模型以Apache 2.0许可证免费发布。
PrismML把Qwen3.6压到4GB,27B模型塞进iPhone
据动察 Beating 监测,加州理工学院数学家 Babak Hassibi 联合创立的 AI 实验室 PrismML 表示,已把阿里开源模型 Qwen3.6-27B 压缩后跑在 iPhone 17 Pro 上。 Qwen3.6-27B 是 270 亿参数稠密模型。推理时所有参数都会参与,不是只激活部分参数的 MoE 模型。 PrismML 称,模型大小从约 54GB 压到不到 4GB,性能没有明显下降。它可用于复杂对话、推理、Agent 和代码任务。 苹果已经和 PrismML 接触,讨论如何使用这项技术。苹果一直想把更多 AI 放到设备本地,但高级 Siri 仍依赖云端模型。
苹果洽谈AI初创公司,拟让大模型直接运行于iPhone
BlockBeats 消息,7 月 15 日,据 CNBC 报道,苹果正与 AI 初创公司 PrismML 展开初步接触,并评估其 AI 模型压缩技术,希望让大型 AI 模型直接运行于 iPhone,而无需依赖云端计算。 PrismML 称,其可将模型内存占用降低 10 至 15 倍,使拥有 270 亿参数的模型能够在 iPhone 15 及以上设备运行,同时响应速度提升 6 至 8 倍、能耗降低 3 至 6 倍。若技术成熟,苹果有望将更多 Siri 及生成式 AI 功能转移至本地运行,进一步提升响应速度、隐私保护能力及离线使用体验,并降低云计算成本。 不过,业内人士指出,该技术仍需经过大规模实际应用验证,其对电池续航、稳定性及长期性能的影响仍有待观察。
苹果据悉仍计划明年推出一款以玻璃材质为核心的全面升级版iPhone
BlockBeats 消息,8 月 11 日,知情人士透露,苹果 (AAPL) 仍计划在明年 iPhone 问世 20 周年之际推出一款以玻璃材质为核心的全面升级版 iPhone,此前一份分析师报告称该计划已被取消。(金十)
机构:预估iPhone 18 Pro成本大增近40%,苹果或调整毛利策略以稳健出货
火星财经消息,8 月 10 日,根据 TrendForce 集邦咨询最新手机产业研究,由于以存储器为首的零部件价格上涨,推升 Apple(苹果)将发布的 iPhone 18 系列整机成本。 TrendForce 集邦咨询预估第三季 iPhone 18 Pro 256GB 的成本将较 2025 年同期新机高出约 38%;2027 年因预估存储器价格维持上行,iPhone 18 Pro 256GB 的成本涨幅可能进一步扩大。
知情人士:苹果测试长鑫科技存储芯片,用于iPhone和MacBook
火星财经消息 8月9日,据《华尔街日报》报道,苹果公司正在其iPhone和MacBook等产品线中测试长鑫存储(CXMT)的存储芯片,以缓解因人工智能热潮引发的内存短缺问题。报道援引知情人士称,苹果公司已与中国最大的芯片制造商长鑫存储就零部件供应展开初步洽谈,目标是在中国销售的部分设备中使用这些芯片。路透社此前报道称,长鑫存储正考虑在北京建设第二座存储芯片工厂,以提高产能。此外,笔记本电脑制造商惠普(HP)和宏碁(Acer)已开始在销往美国以外市场的设备中使用长鑫存储的芯片,以缓解供应短缺。(中新经纬)