Cerebras发布CS-4 AI加速器,称推理速度最高达GPU方案30倍
相关推荐
OpenAI将GPT-6.1 Sol默认上下文长度提升至50万token
PANews 10月12日消息,OpenAI Codex负责人Tibo Sottiaux在X平台发帖称,通过Codex及ChatGPT Work使用GPT-6.1 Sol时,默认上下文长度已由27.2万token提升至50万token,增幅约80%,有助于减少上下文压缩(compaction)的发生,更适合需要长时间保留大量上下文的任务。用户仍可自行调整,GPT-6.1 Sol最大上下文长度为100万token。他表示,未来还将进一步提高默认上下文长度。
Haiku 5.5独立评测43分:遥遥领先GPT-6 Luna,但最高档Token消耗超3倍
动察 Beating AI 快讯,第三方评测机构 Artificial Analysis 公布 Claude Haiku 5.5 的测试结果。新模型在综合智能指数中获得 43 分,比上一代的 17 分提高 26 分。它超过 GPT-6 Luna 的 38 分、GLM-5.3 Flash 的 42 分,接近 Kimi K3 的 44 分。该指数综合了编程、专业工作、科学推理等 10 项测试。 不过,高分也伴随着大量 token 消耗。在最高推理强度下,Haiku 5.5 每项评测任务平均输出约 16.2 万 tokens,是 GPT-6 Luna 的 3.2 倍。两者基础 API 单价相同,但 Haiku 5.5 的预估单任务成本约为 0.21 美元,Luna 仅为 0.07 美元。Haiku 5.5 从次高档调至最高档,综合得分只增加 2 分,输出量却增加约 80%。 降低推理强度后,差距明显缩小。Haiku 5.5 在 high 档获得 38 分,平均每项任务输出约 5.5 万 tokens,与最高档 GPT-6 Luna 的 38 分和 5 万 tokens 接近。开发者可以通过调整推理强度,减少不必要的 token 消耗。 Haiku 5.5 也并非全面领先。在 AutomationBench-AA 自动化任务评测中,它仅得 35%,落后于 Luna 的 53%。不过,测试期间模型存在过度拒绝执行任务的问题。Anthropic 正在修复,Artificial Analysis 计划重新测试。此外,目前公布的 Haiku 5.5 任务成本尚未计入长上下文加价,实际费用可能更高。
观点:LLM Token价格腰斩并不意味着AI需求转弱,GPU算力租赁市场仍显示需求强劲
BlockBeats 消息,9 月 24 日,专业数据机构 Silicon Data 发文称,市场近期频繁引用其 LLM Token Index 作为看空 AI 交易的依据,但该指标下跌并不意味着 AI 需求或模型层利润正在走弱。 Silicon Data 表示,其 LLM Token Index 衡量的是样本中 API 用户每百万 Token 实际支付的价格,即「使用量加权价格」,并非 Token 使用量或总支出。该指数从 5 月 28 日的 2.07 美元降至 9 月 21 日的 1 美元,下降 52%,但今年 1 月至 5 月高点期间曾上涨 67%,因此价格变化本身不能直接作为 AI 行业景气度指标。 该机构指出,指数近期下跌主要反映更多任务被分配给廉价、快速的模型,同时 AI 实验室持续推出更多中端模型。由于 Token 并不能完全代表 AI 能力,该指标也无法单独区分模型替代与更高效的 Agent 路由。 相比之下,GPU 算力租赁市场仍显示需求强劲。Silicon Data 数据显示,非超大规模云厂商 H200 租赁价格从 6 月平均 2.87 美元升至目前 3.29 美元,9 月 19 日一度达到 3.32 美元;B200 目前为 5.76 美元,较同期上涨 7%,年初至今上涨 31%;B300 自 4 月底推出以来上涨 44%。 Silicon Data 认为,随着 Agent 大规模应用,未来绝大多数 Token 可能来自廉价、快速模型,因此 Token 价格可以持续下降,同时总 Token 使用量仍大幅增长。该机构表示,真正高价值的任务仍可能集中在前沿模型上,而 AI 全面普及意味着对算力的需求可能「更多,而不是更少」。
Databricks用AI横扫英伟达Kernel榜:235项测试四个赛道第一,Token花费约7万美元
动察 Beating AI 快讯,Databricks 团队称,他们把 GPT-6 Astra 和 Opus 5 放进自动优化循环,让模型持续重写、测试和改进 GPU kernel,最终在 NVIDIA SOL-ExecBench 的四个赛道全部排到第一。这个基准包含 235 个 GPU kernel 任务,覆盖基础算子、复杂融合算子、低精度计算和真实大模型推理。团队称,整个过程的模型 Token 花费约 7 万美元。 这套系统建立在 KDA 和 Humanize 之上,让 AI 自己写 kernel、跑正确性和性能测试,再根据结果不断修改。KDA 团队近期还把类似方法用在 Kimi Delta Attention 上,在 NVIDIA B300 上做到月之暗面官方 FlashKDA 的 2.96 倍速度。 两项成果属于同一套 Agent 内核优化体系的不同应用。Kimi 展示的是一个高难度注意力内核能被 AI 重写;Databricks 这次则把这种方法扩展到了数百个不同 kernel。
SpaceXAI下周GPU总量将达100万块,马斯克称半年后领跑AI
动察 Beating AI 快讯,马斯克给 SpaceXAI 列出了追赶 OpenAI 和 Anthropic 的时间表。他称,未来 2 到 3 个月,有望做出达到 Anthropic Fable 和 OpenAI GPT-6 水平的模型。如果进步速度继续加快,约 6 个月后可以「占据领跑位置」。 他随后公布了 Colossus 的最新 GPU 数量。Colossus 1 有 15 万块 H100、5 万块 H200 和 3 万块 GB200;Colossus 2 有 11 万块 GB200 和 44 万块 GB300。两座数据中心合计约 78 万块,比此前外界估算的 67 万块更多。 另有 22 万块 GB300 将在下周全部投入运行,届时总量正好达到约 100 万块。11 月还将增加 22 万块。如果进展顺利,12 月底可能再增加 22 万块,总量达到约 144 万块。
蚂蚁百灵医疗模型Sante:仅51亿激活参数,诊断单项胜过GPT-5.6 Sol
动察 Beating AI 快讯,蚂蚁百灵推出医疗健康模型 Ling-3.0-flash-Sante。它基于 Ling-3.0-flash 强化医疗能力,采用 MoE 架构,总参数 1240 亿,但每个 token 只激活约 51 亿参数。重点能力包括医学推理、药物安全、循证检索和长流程医疗研究。 百灵公布的评测里,Sante 在 DiagnosisArena-MCQ 拿到 83.8 分,高于 GPT-5.6 Sol 的 81.9、Kimi K3 的 78.4 和 Gemini 3.6 Flash 的 76.2。MedXpertQA-Text 得分 53.9,也略高于 Kimi K3 的 53.5,但仍低于 GPT-5.6 Sol 的 60.2 和 Gemini 3.6 Flash 的 62.4。 它也没有只刷医学选择题。百灵还测试了 BrowseComp、DeepSearchQA 和 HLE with tools,重点强化「自己查资料再回答」的能力。医疗伦理和安全也单独做了测试,MedEthicAlign 得分 82.1,内部安全测试 AFUSAFE-MedSCE 得分 78.6。 Sante 已经接入 OpenRouter 和 Vercel,可免费调用。