StartLux-Decision是什么
StartLux-Decision 是上海原点星辉(StartLux)推出的开源决策模型系列,它不生成文本,只从开发者给定的选项里做选择、是非判断或等级评分,并输出带概率的结构化结果。系列一次放出 0.8B、2B、4B、9B、27B 共五档参数,配套 15 个 GGUF 量化版本,官方称研发与验证只用了 3 天。27B 版本在 Decision Index 0.2.1 上得分 63.88,38 项基准中有 31 项高于 Jev 1.13;在单张 H200 上,4B 版本一次回答三个问题平均耗时 26 毫秒。适合工单分流、工具选择、页面操作和任务完成判定这类高频判断。
原点星辉推出的开源决策模型系列,0.8B 至 27B 五档参数
StartLux-Decision的主要功能
- 结构化判断:接收当前状态和候选项,输出选项、概率或分数,不产出需要再解析的自然语言。
- 一次多问:同一条工单可以同时判断交给哪个团队、要不要当天处理、严重程度如何,一次前向返回多个结果。
- 五档参数可选:从 0.8B 到 27B,按场景在速度与准度之间取舍,最小的档位可以放进很小的设备。
- 量化版本齐全:按规格与精度分别提供 15 个 GGUF 文件,以 4B 为例,Q8_0 约 4.48GB、Q4_K_M 约 2.71GB。
- 接口兼容 Jev:采用 TypeSafe 的
/v1/systemone接口,沿用原有 Jev 客户端的数据结构,业务程序只需改服务地址。 - 连续网页操作:从单步判断扩展到多轮操作,边看页面状态边决定下一步点哪里、任务是否已完成。
- 微调与校准工具:仓库附带推理、评测复现、LoRA 微调与温度校准工具,方便按自己的业务继续适配。
StartLux-Decision的技术原理
- 非自回归判断:不做逐字生成,直接对候选选项打分并输出概率分布,省掉生成文本的时间与费用。
- 多问题合并计算:借助 CUDA Graph 和快速线性注意力算子,把多个问题合入一次前向计算,降低重复计算和调用开销。
- 底座沿用成熟开源基座:上一代 StartLux-V1.0-27B-Preview 以 Qwen3.6-27B 为基座后训练,决策模型系列官方材料中未明确说明底座,这一点暂无法核实。
- Auto Research 驱动迭代:AI 参与数据构造、训练、评测与失败分析,形成「假设、实验、验证、新假设」的循环,约 70% 的实验执行工作由 AI 完成,研究目标与关键取舍仍由人把关。
- 候选数量有上限:常规选择题可在一次前向中处理,但单题超过 26 个候选项时,服务会分组筛选再做决选,并不是任意长度的候选列表都只算一次。
如何使用StartLux-Decision
- 方式一:按规格挑仓库下载:在 HuggingFace 的模型合集里按「模型规格加精度」选择对应仓库,取 GGUF 文件及决策服务所需的配套配置。
- 方式二:直接部署原始权重:五档原始权重按 CC BY-NC 4.0 许可发布,可用于研究及其他非商业用途,商业使用需要另行取得 StartLux Labs 授权。
- 方式三:克隆仓库跑通流程:代码在 GitHub 的
StartLuxLabs/StartLux-Decision仓库,Apache-2.0 许可,含 README、推理文档、评测结果与量化测试。 - 准备三样输入:给出当前状态、一个带类型的问题、以及一组允许的选项,即可拿到选择与概率。
- 复用现有 Jev 客户端:接口与 Jev 兼容,已经在用 Jev 的项目保留「状态加问题」的调用方式,只改服务地址即可切换。
- 复现评测结果:按仓库文档安装评测工具,可自行跑 Decision Index 0.2.1,该套件约 7GB,需要在 HuggingFace 上接受相关条款。
- 按业务数据微调:仓库提供 LoRA 微调与温度校准脚本,拿到结构化结果后怎么分流、怎么设阈值,仍需要开发者自己定义。
StartLux-Decision的核心优势
- 覆盖五档规格:从 0.8B 到 27B 一次出齐,同一套接口在不同算力条件下都能落地,这在同批决策模型里不常见。
- 响应进入毫秒级:单张 H200 上 0.8B、2B、4B、9B、27B 一次回答三个问题的平均耗时分别为 12.2、15.5、26、35.7 和 102.3 毫秒。
- 压缩后表现稳定:4B 版本压到 Q8_0 后与原始权重的决策一致率为 100%,压到约 2.71GB 的 Q4_K_M 后仍有 98.3%。
- 不挑云端:权重可以下载到本地运行,个人电脑的显存与内存虽然有硬上限,但五档设计正好留出了空间。
- 评测口径开放:仓库公开复现脚本,用的是上游 JevBench 的评分代码,可以自己跑一遍。
- 研发方式本身是卖点:3 天完成研发与验证,靠的是自建的 Auto Research 管线,这套方法能不能在不同品类上反复复用,比单次榜单更能说明问题。
StartLux-Decision的同类竞品对比
这个赛道由 TypeSafe 的 Jev 在 9 月中旬开创,两周内就挤进了多家玩家。与 StartLux-Decision 最直接的对手是 Cloudflare 在 10 月 1 日开源的 Clef,两者同为 27B 级别、同样基于通义千问系列后训练、发布时间只差一天。
| 对比维度 | StartLux-Decision | Clef(Cloudflare) |
|---|---|---|
| 参数档位 | 0.8B、2B、4B、9B、27B 五档 | 27B 与更轻量的 Clef-flash(9B) |
| 权重许可 | CC BY-NC 4.0,非商业用途,商用需授权 | Apache 2.0 |
| 代码许可 | Apache-2.0 | 开源,权重同步发布 |
| 多模态能力 | 官方材料未提及图像输入 | 内置视觉编码器,可处理图像 |
| 上下文长度 | 官方材料未明确 | 64K,高于 Jev 的 32K |
| 中位延迟 | 27B 约 102.3 毫秒(H200,一次三问) | 约 209.3 毫秒,Clef-flash 约 38.8 毫秒 |
| 配套能力 | 量化文件、LoRA 微调与温度校准工具 | 同步上线托管服务与强化学习微调平台 |
| 自测战绩 | Decision Index 0.2.1 得 63.88,38 项中 31 项高于 Jev 1.13 | BANKING77 意图分类 macro-F1 达 94.20,Jev 为 79.74 |
这张表里有几件事必须说清楚。第一,「完整开源」这个说法需要打折扣。官方稿和多数媒体稿都写「完整开源」,但仓库里代码是 Apache-2.0,模型权重走的是 CC BY-NC 4.0,属于非商业许可,商业使用要另行取得授权;同期发布的 Clef 权重是 Apache 2.0,这一项上 Clef 反而更开放。第二,「38 项基准中 31 项高于 Jev」反过来读就是有 7 项低于 Jev,而且所有数字都是团队基于公开评测工具、对照 2026 年 9 月 28 日榜单快照完成的自测,没有第三方独立复现。第三,「第一」的保质期只有一天,StartLux 在 9 月 30 日发布,Cloudflare 在 10 月 1 日就宣称 Clef 在同一套榜单上居首,Cloudflare 也承认在 When2Call、BRIGHT 等个别项目上仍是 Jev 领先。第四,双方自测用的不是同一批指标,Clef 报的是 BANKING77 意图分类,StartLux 报的是 Decision Index 综合分,两个数字不能直接比大小。第五,表格里没放 Jev 是因为它是闭源托管服务,形态与这两者不同,但它的位置很关键,Jev 上线 24 小时内 Vercel 的 AI 网关上有 13% 的付费用户接入,是此前任何模型发布的两倍,先发优势仍然实在。第六,同尺寸的开源对手里还有上海 AI 实验室的 Intern-Decision,它主打多模态、只开三档,其中 4B 版本在七项评测中拿到 90.02%,与 StartLux-Decision-27B 的 91.82% 只差 1.8 个百分点,用约七分之一参数量换到这个位置,参数效率值得考量。
StartLux-Decision的项目地址
- GitHub 仓库:https://github.com/StartLuxLabs/StartLux-Decision
- HuggingFace 模型合集:https://huggingface.co/collections/startlux-models/startlux-decision-6abba92b301b573fa154d493
StartLux-Decision的应用场景
- 客服工单分流:一条「订单被重复扣款但显示未支付」的来信,一次请求同时判断该给哪个团队、要不要当天处理、严重程度几级,执行程序拿到结果直接分流。
- 浏览器操作代理:让代理边看页面状态边决定下一步点哪里,直到满足全部条件才结束,比如筛选出符合型号、数量、包邮和最低价的商品并完成下单。
- 办公协作流程:把指定成员邀请进设计团队并设为编辑权限,模型依次判断团队、成员、角色,再确认邀请是否完成。
- 工具调用前置检查:代理准备调用工具前先过一道判断,参数没根据用户原话就拦下来,避免带着猜测执行。想找同类智能体工具可以看 AI 智能体分类。
- 本地长期运行的代理:因为权重可以下载到本地,涉及内部流程和敏感数据的判断不必发往外部接口。同赛道我们写过 Strands Decider 2B,那篇讲的是 2B 小模型怎么当高频闸门;国产开源模型这条线上还可以参考 openPangu-2.0。对底层概念还不熟的话,什么是 AI 智能体 和 什么是大语言模型 这两篇入门内容可以帮你把上下文补齐。




