Strands Decider 2B是什么
Strands Decider 2B 是亚马逊 Strands Labs 推出的开源决策模型,它最特别的地方是完全不生成文本,而是从开发者给定的选项里直接挑出一个,并附上置信度分数。模型总参数约 1.9B,基于通义千问 Qwen3.5-2B 构建,做法是把原本负责预测下一个词的语言模型头摘掉,换成只有 100 万参数出头的指针头,躯干部分用 rank-16 LoRA 适配器微调,这套架构在官方文档里的代号是 Hobson。它单次前向就返回候选选项上的概率分布,在 RTX 3090 上执行短任务的决策延迟中位数约 115 毫秒,权重以 Apache 2.0 许可开放。适合模型路由、工具选择、内容审核、Agent 护栏这类选项固定的高频判断。
亚马逊 Strands Labs 推出的开源决策模型,基于 Qwen3.5-2B,权重 Apache 2.0
Strands Decider 2B的主要功能
- 选项打分:传入一组允许的答案,模型直接给每个选项打分并返回概率分布,不产出任何解释性文字。
- 置信度输出:每次判断都带一个概率值,开发者可以据此设阈值,高置信度自动执行、低置信度转人工或交给大模型复判。
- 工具调用前置审批:在 Agent 真正调用某个工具之前先过一道判断,看参数是否来自用户的原话、这一步是不是执行得太早。
- 请求路由:把用户请求分派到对应处理链路,比如从账单、销售、零售里挑一条,替掉原本要用大模型做的分类。
- 输出质量评估:给 Agent 产出的结果打分,用作自动质检的一环。
- 策略与内容分类:对一段文本做合规判定或政策归类,输出的是离散选项而不是一段分析。
- 内存与上下文管理:判断哪些历史信息该保留、哪些该丢弃,属于 Agent 长流程里的辅助决策点。
Strands Decider 2B的技术原理
- 换头而非从零训练:底座直接用预训练好的 Qwen3.5-2B,去掉语言模型头,换成指针头去比对选项的隐藏表示,等于把「会说话」这个能力卸掉,只留下「会判断」。
- 指针头只有百万参数:新增的打分组件规模约 100 万参数出头,相对 1.9B 的躯干几乎可以忽略,这也是它能保持低延迟的原因。
- 躯干用 rank-16 LoRA 微调:不改动全部权重,只训练一小部分附加参数,训练成本因此压得很低。
- 单次前向出结果:不像聊天模型那样一个 token 一个 token 往外吐,它一次前向就得到候选选项上的分布,省掉了逐字生成的时间。
- 快速迭代的版本线:官方公开的测试覆盖到 v19,同时说明会随代码、训练数据和脚本一起放出 v20,迭代节奏相当快。
如何使用Strands Decider 2B
- 方式一:pip 安装后本地跑:执行
pip install strands-decider,装完自带命令行工具和一个内置的 HTTP 服务端。 - 方式二:直接下载权重:在 HuggingFace 上找到
StrandsAgents/strands-decider-2B-hobson-v19仓库,按 Apache 2.0 许可取用。 - 方式三:取训练配方自己改:代码、训练数据和训练脚本都在 GitHub 的
strands-labs/strands-decider仓库里,可以审阅也可以按自己的任务重训。 - 准备三样输入:一次判断需要给它状态(当前对话或任务上下文)、一个带类型的问题、以及一组允许的选项。
- 接进 Agent 流程:SDK 挂在
before_tool_call这类前置钩子上,模型给出判断后由应用代码决定继续、拦截、请求用户确认还是把对话退回澄清。 - 先在小样本上自测:官方在 JevBench 公开集上的准确率约 72%,换成你自己的业务数据前,建议先拿几百条真实样本跑一遍再决定阈值。
- 注意集成库尚不完善:官方明确说专用的决策模型集成库还在开发中,目前示例里的问题和阈值都是手工设定的,判断拿到之后要做什么,仍然得开发者自己定义。
Strands Decider 2B的核心优势
- 不写一个字:它不产生解释性文本,直接给选项和分数,省下的是生成那几百个字的时间和费用。
- 单卡甚至 MacBook 就能跑:1.9B 的体量可以放在消费级显卡、笔记本 CPU 或者 Apple 芯片的机器上,不需要 GPU 集群。
- 延迟压到百毫秒级:官方在 RTX 3090 上测得的中位延迟约 115 毫秒,短任务能进到几十毫秒,任务越长耗时越久且大致呈线性增长。
- 完全开源且可审计:权重、训练数据、训练脚本全部公开,不像同类商业服务只能调接口,出了问题能往上追,也能自己重训。
- 没有接口费用:亚马逊没有提供托管 API,也没有按调用计费,成本就是你自己机器的电费。
- 数据不出内网:因为可以本地执行,涉及敏感对话或内部策略的判断不必发往外部接口。
Strands Decider 2B的同类竞品对比
这个品类的开创者是 TypeSafe 的 Jev,它在 2026 年 9 月上线后一度登上 JevBench 榜首,Strands Decider 2B 正是受它启发做出来的,两者可以直接对照。
| 对比维度 | Strands Decider 2B | Jev(TypeSafe) |
|---|---|---|
| 开放程度 | 权重、训练数据、脚本全公开 | 权重不公开,只提供调用服务 |
| 使用方式 | 本地部署,自备硬件 | 托管服务,开箱即用 |
| JevBench 公开集准确率 | 约 72%(官方口径,v19) | 200/231,约 86.6% |
| 校准表现 | 校准误差 0.052,Brier 约 0.34 | 六个子集宏平均 ECE 0.076 |
| 延迟 | RTX 3090 上中位约 115 毫秒 | 每项约 0.42 秒,每秒约 2.4 次决策 |
| 费用 | 无接口费,成本为自有硬件 | 每百万输入 token 约 0.042 美元 |
| 可定制性 | 可以自己微调、重训 | 只能按服务给定的方式使用 |
| 底座 | Qwen3.5-2B 改造 | 未公开 |
这张表里有几件事得说清楚。第一,Jev 的准确率明显更高,它在 JevBench 公开集上拿到 200/231,Strands Decider 2B 是 167/231 左右,差了大约 14 个百分点,而且 Jev 的简单档和标准档几乎是满分,这是它作为品类开创者的硬实力。第二,所有分数均为各自厂商自报口径,双方跑的是同一套公开题目,但都不是第三方独立复现的结果。第三,”Jev 类模型”这个类别本身是 TypeSafe、AWS 和几个独立项目一起定义出来的,JevBench 在某种程度上也是这个圈子共同使用的尺子,所以这些数字更适合横向比较版本迭代,不宜当作绝对能力评价。第四,AWS 官方说 JevBench 上 2B 档共 33 个模型,Strands Decider 2B 排第 3,如果把参数略超 2B 的模型排除掉,30 个里它排第 1,也就是说排在它前面的对手其实体量略大一点。第五,同尺寸的开源对手里还有 Mapika 的 decider-2b,准确率约 76%、Brier 约 0.32,比 Strands Decider 2B 略好,这点也值得放进考量。最后要提醒的是,72% 这个数字意味着大约每四次判断就有一次是错的,它的价值不在于替代大模型,而在于用置信度当闸门,把简单判断留在本地、把不确定的交给更贵的模型。
Strands Decider 2B的项目地址
- GitHub 仓库:https://github.com/strands-labs/strands-decider
- HuggingFace 权重:https://huggingface.co/StrandsAgents/strands-decider-2B-hobson-v19
- 安装命令:
pip install strands-decider
Strands Decider 2B的应用场景
- 工单自动分派:把用户来信和一组部门选项一起传进去,让它判断该给账单、销售还是零售团队,置信度高的直接派单,不确定的留在人工队列。
- Agent 工具调用闸门:Agent 准备调用工具时先用它检查一遍,参数没根据用户原话就直接拦下来并让对话退回,避免带着猜测执行操作。
- 混合路由省钱:简单判断交给本地这个小模型跑,只有它拿不准的才转给大模型,既省下大量接口费用,也保住了难例的质量。想找同类智能体工具可以看 AI 智能体分类。
- 内容合规初筛:把待发布内容按政策条款分类,作为人工审核前的第一道过滤。
- 内部系统本地化:因为模型可以完全离线运行,涉及内部策略或敏感对话的判断不必发往第三方接口。如果想对照其他小体量开源模型的实际表现,可以参考我们写过的 openPangu-2.0 和 AstaBrief 8B。对底层概念还不熟的话,什么是 AI 智能体 和 什么是大语言模型 这两篇入门内容可以帮你把上下文补齐。




