观点:LLM Token价格腰斩并不意味着AI需求转弱,GPU算力租赁市场仍显示需求强劲
相关推荐
芝商所计划与Silicon Data推出AI模型Token支出可交易指数产品
PANews 10月21日消息,据彭博社报道,芝商所集团(CME Group)拟于AI指数初创公司 Silicon Data 合作推出基于AI模型Token支出的可交易产品,相关产品将基于其大语言模型(LLM)Token指数,根据使用量对不同AI模型的Token价格进行加权。Silicon Data首席执行官Carmen Li表示,市场对GPU算力成本已有较充分的认知,但对AI经济中的消费层仍缺乏了解。 今年8月,双方曾宣布计划推出基于GPU租赁成本的期货产品。Silicon Data表示,新的Token指数产品计划于未来几个月推出,但仍需获得监管批准。
谷歌推出Gemini Decisions API,每百万输入token收费0.10美元
谷歌推出了GeminiDecisionsAPI,这是一个由其Gemini Decision1模型驱动的新端点,可帮助AI智能体做出快速的预设决策,而无需生成冗长的文本回复。该接口允许开发人员针对包含文本、图像、音频、视频和PDF的共享多模态输入,评估多达1000个独立问题。Gemini Decision1不会逐token生成回复,而是在单次前向传递中对预设选项进行评分,返回概率和置信度分数,端到端延迟为150–250毫秒。谷歌表示,开发人员可以在一次API调用中提交“是或否”检查、最多包含255个选项的多选题,或基于预设评分标准的打分请求。(新浪财经)
DGrid Model Marketplace 日处理超 600 亿 Token,API 日调用量超 200 万次
火星财经消息,去中心化 AI 基础设施项目 DGrid AI 宣布,旗下 Model Marketplace(模型市场)目前每日处理超 600 亿 Token,API 日调用量超 200 万次;平台已上线 200 余款模型,DGrid Gateway 接入的模型提供商数量也已从今年早些时候的 30 余家增至 100 余家。DGrid AI 表示,接下来将围绕模型发现、集成体验和推理性能持续优化,帮助开发者提升从 API 接入到产品上线的效率,助力模型提供商触达更多用户,并进一步推动形成更开放、更活跃的模型生态。
OpenAI 全面开放决策 API,输入百万 token 0.1 美元
火星财经消息,当地时间 10 月 22 日,OpenAI 宣布全面开放决策 API。该 API 基于 GPT-6 Luna,面向具有限定答案的问题,协助应用与智能体根据文本、图像及结构化输入做准实时决策。IT之家称,其响应速度比通过 Responses API 调用 GPT-6 Luna 最高快 10 倍。定价方面,输入每百万 token 为 0.1 美元,页面按当时汇率注约合 0.67 元人民币;缓存命中输入每百万 token 为 0.01 美元,约合 0.067 元人民币。该 API 仅按输入 token 计费,输出 token 免费。页面称,OpenAI 内部已将该 API 用于产品和业务工作流。公测后新增内容包括原生 GPT-Live 集成、针对复用上下文的 Prompt 缓存,以及美国和欧盟的推理数据驻留。开发者可传入原生 JSON,并在问题指令中包含图像,单次请求最多提交 400 个问题,为此前上限的两倍。页面还称,OpenAI 持续优化延迟,并在亚洲多个地区扩充容量。
数据:AI 算力供应趋紧,Blackwell GPU 时租上涨 48%
火星财经消息,Ornn Compute Price Index 数据显示,英伟达 Blackwell 芯片每小时租赁价格已由两个月前的 2.75 美元升至 4.08 美元,涨幅 48%。近几个月,编程、房地产看房预约等自主执行任务的 AI 智能体需求增长,企业加紧获取算力。OpenAI API 每分钟 Token 用量则由去年 10 月的 60 亿增至今年 3 月下旬的 150 亿。Anthropic 于 3 月下旬开始在工作日太平洋时间 5 时至 11 时的高峰时段限制用户 Token 用量。CoreWeave 去年底将服务价格上调逾 20%,并要求较小客户签署至少三年的服务合同,此前合同期限为一年。OpenAI 首席财务官 Sarah Friar 表示,由于算力不足,公司正在放弃部分项目。
DeepSeek披露单GPU每小时可创造38美元计费收入,AI推理盈利能力引发关注
动察 Beating AI 快讯,DeepSeek 近期开源推理框架 DeepInfer,并披露其集群每天可处理 155 万亿 Token。按照 DeepSeek API 谷时价格折算,平均每 GPU 小时对应约 38 美元的理论计费收入,若按全年不间断运行计算,年化计费收入超过 33 万美元。 DeepSeek 通过专家并行、推测解码、异步调度及 KV Cache 优化等技术提升推理效率,但上述数字属于理论计费收入,并不等于实际营收或利润。实际收益还取决于 GPU 利用率、付费请求比例、硬件与电力成本,以及服务延迟等因素。 AI 行业正面临需求增长与盈利压力并存的局面。一方面,中小企业 AI 应用及 Agent 部署需求持续升温;另一方面,模型训练、推理服务和基础设施投入仍在侵蚀部分企业利润。据报道,CoreWeave 第二季度营收同比增长约 112% 至 25.75 亿美元,但仍净亏损 6.26 亿美元。 分析认为,推理效率提升有望扩大 AI 服务的利润空间,但高效生产 Token 并不必然意味着商业盈利。随着模型调用量增长,企业仍需解决算力成本、服务定价和客户付费意愿之间的平衡问题。