Jev到底有没有门槛?OpenJEV已经分成4派:不吐字容易,概率靠谱很难
相关推荐
Qwen27B改成扩散Agent:速度拉到500+Token/s,厂商自测单项超Sol
动察 Beating AI 快讯,专攻超高速大模型的 Celeris 发布一款基于 Qwen3.8-27B 改出来的混合扩散 Agent 模型 Celeris-1 Magnus,官方称在不少场景能跑到 500+ Token/s。 在 τ³-Banking 的 97 个银行客服任务上,Magnus 开启 low reasoning 后完成率达到 41.2%,中位耗时 55 秒。同场的 GPT-5.6 Sol 是 38.1%、79 秒。 传统模型基本一个 Token 一个 Token 往后写,Magnus 能一次生成多个 Token,再反复修正。需要严格按顺序生成的内容再串行处理,因此一次计算可以往前推进更多 Token。
SGLang给普通大模型加上Jev式决策模式,不微调也能直接做选择
动察 Beating AI 快讯,大模型推理/部署框架 SGLang 新增原生决策 API,让 Qwen3.8-27B 这类现成 LLM 和多模态模型不用改权重、也不用重新微调,就能直接做选择、判断和打分。开发者给出当前情况和几个候选答案,模型直接返回每个选项的概率,不再先生成一段文字再解析。 它利用的是大模型本来就会计算的「下一个 token 概率」。比如候选答案是 A、B、C,普通聊天模型会继续生成文字;SGLang 则直接读取模型对 A、B、C 的概率,看看它更倾向哪个答案。模型本身没变,只是换了一种读取结果的方式。 SGLang 用 Qwen3.8-27B 做了一个《宝可梦 FireRed》演示。模型根据实时游戏状态判断攻击、换精灵还是治疗,单次决策低于 100ms,并一次打通四天王和冠军。Qwen3.8-27B 本身支持图像输入,所以这套方法也能处理多模态决策。 SGLang 还新增 /v1/systemone 接口,兼容 Jev 使用的 TypeSafe SDK。已经使用这套 SDK 的应用,可以把服务地址改成自己的 SGLang 实例继续调用。新功能已经进入 nightly 版本,计划随 v0.5.21 正式发布。
TypeSafe AI 决策模型 Jev 正式登陆 B.AI API,输入低至 $0.042/百万 Token
ChainCatcher 消息,B.AI 平台宣布 TypeSafe AI 推出的首款 System One 模型 Jev 正式上线 API。 Jev 专为软件内的高速结构化决策打造,不生成任何文本:开发者输入应用状态与类型化问题后,模型直接返回带概率与置信度的决策结果,无需 JSON Prompt,也无需解析输出。模型支持 Choice / Score / Noul 三类原语并行评估,端到端延迟约 70–500ms,输入仅 $0.042/百万 Token,输出免费,适用于工单路由、内容审核、风险评分及 Agent 分支判断等场景。 目前 Jev 已在 B.AI API 的“官方”→“全量接入”列表中开放,可通过 Jev-1.13.0 或 Jev-Latest 调用。
西方AI圈政治正确到魔怔了:给阿里Qwen灌输「西方价值观」
动察 Beating AI 快讯,Hermes Agent 开发商 Nous Research 发布 Arete-27B,直接拿阿里的 Qwen3.8-27B 当底座,专门进行「西方价值观」训练。 Nous 自己也承认,中国开源模型目前实力很强,只是价值取向不符合他们的标准。于是又用约 5300 万 Token 进行微调,重点涉及言论自由、民主、隐私等议题。 为了检验改造效果,Nous 还专门出了 803 道政治价值观测试题,请来 xAI 的 Grok 4.7 当裁判。按照自家的评测标准,模型的「宣传率」从 22% 降至约 1%,通用能力也没有明显下降。
Jev登顶Ramp软件黑马榜:一个月内企业采用率增长1个百分点
动察 Beating AI 快讯,美国企业支付平台 Ramp 发布最新软件采购榜单,数据来自平台上超过 7 万家企业的真实交易。TypeSafe AI 凭借 Jev 登上「爆发增长」榜首。在市场份额增长榜上,它也排到第二,仅次于 Anthropic,OpenAI 则排第四。 Jev 上线不到一个月,企业采用率就增长了约 1 个百分点。它是一种专门帮助软件做判断的 AI 模型,不生成聊天回复,只负责分类、选择和评分。每百万输入 tokens 收费 0.042 美元,输出免费。DeepSeek、Featherless AI 和 OpenRouter 等低成本模型或模型接入平台也出现在榜单中。 但企业对昂贵 AI 工具的需求同样在增长。视频生成平台 Runway 和 Higgsfield 都进入市场份额增长前十,目前主要用于广告和社交媒体营销。 Ramp 首席经济学家 Ara Kharazian 认为,廉价模型可能压低企业的 AI 调用成本,但图像和视频生成需求增加,又可能推高整体 AI 支出。
AWS、Cloudflare、Databricks都跟进Jev,决策模型快成标配了
动察 Beating AI 快讯,Jev 发布后,AWS、Cloudflare 和 Databricks 最近都跟进了决策模型。 AWS 推出开源的 Strands Decider 2B。它基于 Qwen3.5-2B,去掉文本生成模块,换成专门负责选答案的决策模块,再用 LoRA 微调。官方测试中,它在 RTX 3090 上单次决策中位延迟约 115ms,完整训练约 11 小时。 Cloudflare 一口气发布 Clef 和 Clef-flash,分别基于 Qwen3.8-27B 和 Qwen3.5-9B 改造,并全部开源。在 Cloudflare 对 Jev 官方评测集的测试中,Clef 系列在 4 类任务中的 3 类超过 Jev;Clef-flash 的中位延迟为 38.8ms,Jev 为 524.1ms。 Databricks 则把这套能力直接做进了平台。新上线的 ai_decide 可以在 SQL 或 REST API 中调用,对数据做分类、打分和 Agent 路由,接口还直接兼容 TypeSafe AI API。官方称一次决策可以在不到一秒内返回。 从开发者自己复刻,到 AWS、Cloudflare、Databricks 跟进,决策模型正在迅速从一个新概念变成 Agent 基础设施里的常见组件。