SemiAnalysis：2028年数据中心或面临过剩，当前为芯片供应过剩、电力受限
相关推荐
SemiAnalysis：AMD股价若涨至600至700美元，Meta与OpenAI的GPU资本成本或降至零
BlockBeats 消息，8 月 4 日，半导体与 AI 独立研究机构 SemiAnalysis 发文表示，AMD 于去年末及今年初分别与 Meta、OpenAI 达成协议，向两家公司提供与业绩挂钩的认股权证。相关权证将根据最多 6GW AMD Instinct GPU 的采购及部署进度归属，同时还取决于 AMD 股价能否跨越多个门槛，最高门槛为 600 美元。 AMD 股价已由 2026 年初约 200 美元升至目前约 500 至 600 美元。假设与股价相关的权证归属大致呈线性变化，且 6GW 容量全部完成部署，Meta 与 OpenAI 每颗 GPU 的小时资本成本将分别由约 2.15 美元和 2.50 美元，降至约 1.60 美元和 1.75 美元。 SemiAnalysis 表示，若 AMD 股价升至 600 至 700 美元区间，两家公司仅就 GPU 而言的资本成本可能实际降至零。若 AMD 持续改善软件栈、获得更多大型客户订单，并推动股价升至 1000 美元以上，则包括服务器设备、网络及 CPU 在内的整个集群资本成本，理论上也可能降至接近零。
SemiAnalysis拆解AI推理：内存带宽比容量更重要，调度层成关键
动察 Beating AI 快讯，研究机构 SemiAnalysis 发布报告，系统拆解大模型推理服务的底层架构。报告认为，随着 MoE 模型成为主流，AI 推理已从单一计算任务演变为由预填充（Prefill）、中间填充（Midfill）、解码注意力（Decode Attention）和解码专家（Decode Experts）组成的复杂流水线，不同阶段对算力、内存带宽和网络的需求存在明显差异。 在多数推理场景下，内存带宽比容量更具经济价值。高带宽内存可提升 Token 生成效率，而闲置的 HBM 只会增加成本。SemiAnalysis 预计，2027 年单个流水线阶段可能需要约 400 至 500GB 本地快速内存，但已完成处理的 KV 缓存应及时迁移至 CPU DRAM 及更低成本的网络存储，避免占用稀缺的 HBM 资源。 调度层将成为 AI 推理基础设施的关键环节。预填充和中间填充的处理时间相对可预测，而解码时长存在较大波动，容易造成任务积压和「延迟反馈震荡」。因此，稳定的缓冲机制、跨时间尺度的调度和 KV 缓存分级管理，将直接影响推理集群的吞吐效率。 在架构选择上，报告比较了聚合式和分离式两种方案：前者将 Prefill 和 Decode 集中在同一设备上，可减少 KV 缓存跨节点传输，但要求硬件同时具备高计算密度和高内存带宽；后者则针对不同阶段配置专用节点，能够实现硬件优化，但会增加数据搬运和网络开销。SemiAnalysis 认为，两种架构的取舍最终取决于未来能否出现兼具高算力和高内存带宽的「全能型」加速器。 报告还通过模拟器预测 Kimi K3 在英伟达 B200、B300 和 GB200 系统上的表现。结果显示，GB200 在部分低延迟场景具备优势，而多数前沿配置的单 GPU HBM 峰值驻留量低于 80GB，进一步凸显内存带宽和存储编排的重要性。
Ilya警告：下一次AI失控，可能抢下GPU云不断复制自己
动察 Beating AI 快讯，OpenAI 前首席科学家 Ilya Sutskever 警告，专门出租 AI GPU 算力的 neocloud 安全防护还不够到位。他认为，下一次 Agent 真正失控时，可能直接攻下这类平台，用抢来的算力运行更多自己的副本。 Ilya 呼吁 neocloud 大幅加固网络安全。拥有强大网络安全模型的 AI 公司，也应该出手帮忙。 这个风险需要两个条件：Agent 能突破原有控制，云平台本身又有漏洞。两个条件最近都出现了。OpenAI 上周承认，内部网络安全评测中的 Agent 曾绕过隔离，并入侵部分 Hugging Face 系统。 SemiAnalysis 随后公布对 neocloud 的安全测试。研究人员发现，部分平台能读取其他租户的数据，甚至从自己的容器或虚拟机逃出去攻击其他租户。最严重的一次，漏洞可以一路扩大到跨租户远程执行代码。相关问题已经通知厂商，并已修补或确认升级。
SemiAnalysis 发布 Neocloud 安全深度报告：基础设施配置错误触目惊心，跨租户 RCE 可波及银行、电信乃至一国情报机构
ChainCatcher 消息，半导体与 AI 独立研究机构 SemiAnalysis 发布 Neocloud（新型云）安全深度报告，揭露 ClusterMAX 3 测试期间发现的多类跨租户安全漏洞。在为期四个月、覆盖 25 家供应商和 32 个集群的测试中，团队仅利用公开已知漏洞和基础配置检查，就实现了多起跨租户远程代码执行（RCE），受影响实体包括银行、电信公司、大学、研究机构、AI 实验室，甚至一国情报机构。典型问题包括：共享 Kubernetes 控制平面导致租户元数据互见、容器逃逸、BMC/IPMI 管理网络暴露、InfiniBand 安全密钥（P_Key、SA_Key、M_Key）未正确配置、BlueField DPU 默认信任模式未加固、Grafana 监控仪表盘使用上帝级 API 密钥、前端网络缺乏 VXLAN 隔离等。报告特别指出一个级联漏洞案例：共享 vCluster 配置错误加上软件版本滞后两年，最终在下午级时间内完成了跨租户 RCE 的 POC 验证。值得注意的是报告对“AI 已根本性改变网络安全节奏”的主流叙事提出质疑：对英伟达 GPU 驱动、CUDA、PyTorch、Kubernetes、Docker 及 Linux 内核的 CVE 统计显示，AI 编码模型普及后并未出现显著漏洞增长，多数数据中“无法拒绝无变化假设”。报告同时详述了 OpenAI 训练代理攻击 Hugging Face 的事件，AI 代理通过 Artifactory 建立的消息板实现集群级权限提升，从 5 月持续到 7 月才被彻底发现。在构建 POC 验证已有漏洞时，团队发现 Claude Fable 和 GPT-5.6 Sol 对安全相关请求频繁拒绝，最终主要依赖 DeepSeek V4、Kimi K3 和 GLM-5.2 等开源模型完成。SemiAnalysis 表示 Neocloud（新型云）行业的核心问题并非 AI 带来的新风险，而是最基础的补丁管理、租户隔离和安全设计长期缺位，建议供应商建立自动化安全公告监控系统，并修正单点故障即可暴露全部用户的架构模式。
SemiAnalysis：HBF 非 HBM 替代，成本与散热仍存不确定性
火星财经消息，P Equity Research 与 SemiAnalysis 研究员 Nick Doyle 等在 X Space 讨论高带宽闪存 HBF。Nick 表示，目前判断 HBF 相对 HBM 的成本溢价能缩小多少仍为时过早，现有数据多为厂商说法，如 Sandisk 称每比特成本约为 HBM 的八分之一。良率、测试等会随规模改善，但 TSV、堆叠及 pSLC 模式等结构性成本永久存在，耐久性是关键未知数，若磨损超预期将推高成本。HBF 应用场景狭窄，仅面向 AI 推理，尤其是低 batch、长上下文的 MoE 模型，并非 HBM 替代品。实际带宽目标约 1.6 TB/s，属 HBM3E 级别，适合顺序读取以加载模型权重，更匹配本地或私有企业少量 GPU 的容量需求，而非超大规模带宽场景。散热可靠性尚未解决，闪存在 GPU 旁高温下会加速劣化，UCIe 分离与每日刷新等缓解措施仍未获验证。制造方面，Sandisk/Kioxia 具备 3D NAND 经验，SK Hynix 补充 HBM 式堆叠能力，但量产仍待证实。整体来看，存储正转向分层专业化市场，NAND 短缺预计持续至 2028 年，HBF 可能进一步影响供需。
SemiAnalysis：SpaceX 2027年新增算力或超10GW，年度经常性收入有望达3000亿美元
BlockBeats 消息，8 月 10 日，SemiAnalysis 最新报告指出，在对 SpaceX 所有适建站点及可用燃气发电设备进行评估后，该机构认为，SpaceX 在 2027 年底前新增超过 10GW 算力的目标具备可行性。马斯克此前在 SpaceX 首次业绩发布会上表示，公司「保守」目标是在 2027 年单年新建并交付 6 至 8GW 增量算力，上行空间可能超过 10GW。按每 GW 约 500 亿美元资本开支计算，对应 2027 年资本支出或达 3000 亿至 5000 亿美元。 SemiAnalysis 认为，AI 推理业务的高利润率是算力需求扩张的重要驱动力。其模型显示，OpenAI 和 Anthropic 在 GB300 集群上提供 API 推理服务时，每 GW 每年可产生超过 1000 亿美元收入；若按每 GPU 每小时 3 美元的租赁价格计算，每 GW 年成本约 120 亿美元，推理毛利率超过 60%，部分旗舰模型可超过 85%。 微软的算力缺口可能为 SpaceX 带来大额订单。SemiAnalysis 估算，微软 2025 年 10 月与 OpenAI 签署的 2500 亿美元基础设施即服务协议对应约 7GW 算力，并称微软今年迄今已通过租赁、自建及长期购电协议等方式签署超过 10GW 的绑定合同。该机构认为，微软与 SpaceX 签署约 3GW、总价值约 1500 亿美元算力合同「并非不可能」，其中一个原因是 SpaceX 可提供 90 天取消条款，从而降低微软的财务风险。 报告同时指出，SpaceX 的优势在于快速建设算力基础设施，例如 Colossus 1 的 300MW 设施在 122 天内建成，Southaven 电厂容量在数月内由约 495MW 扩张至 1.7GW。SemiAnalysis 预计，若 SpaceX 2027 年新增算力中有一半用于商业推理，其余用于 Grok 和 Cursor 团队训练，公司年度经常性收入到 2027 年底可能达到 3000 亿美元。