先给结论：2026 年 9 月 28 日，AutoTrust AI 以 Apache-2.0 许可证开源决策小模型 JEV-27B，它把一个 108.9M 参数的决策模块外挂在冻结的阿里 Qwen3.8-27B 主干上，用一次前向传播完成「判断真假、做选择、打分」三类决策，既不需要解码，也不需要 JSON 解析。据 Hugging Face 博客《autotrust/JEV-27B: fast, calibrated decisions and full reasoning from one open model》介绍，权重、决策适配器、训练与推理代码、vLLM 支持以及评测报告都已在该平台公布。
一、一次前向传播做完三类决策
JEV-27B 的思路是把「想清楚」和「快速判断」拆开，只把后者做成小模型。主干是冻结的阿里 Qwen3.8-27B，外挂的决策模块只有 108.9M 参数，约占整个模型的 0.4%，一套权重同时提供两种能力，原有的大模型推理能力没有被牺牲。
| 决策类型 | 在问什么 | 返回什么 |
|---|---|---|
| noul | 这句话是否为真 | [P(false), P(true)] 两个概率 |
| choice | 从 2-16 个选项中选一个 | 每个选项一个概率 |
| score | 在 0-5 量表上打分 | 六个等级上的分布与期望分 |
三类问题都是带类型（typed）的提问，回答只需一次前向传播，不需要解码、不需要 JSON 解析，也不需要提示词工程。返回的是概率分布而不是单一答案，这一点决定了它的用法：运营方可以据此设阈值，例如概率高于 0.9 就自动放行，低于阈值则升级给更慢的模型或人工处理。把「多快好省地做小判断」和「慢慢想清楚」分开，是这套设计最实际的价值。
二、评测成绩：与托管闭源模型差 0.22 个百分点
AutoTrust 公布了自测口径下的几组数字，既有亮点，也有明确落后于托管模型的地方。
| 指标 | JEV-27B 表现 | 对照与说明 |
|---|---|---|
| 六项公开决策基准等权平均 | 84.07 | 对照的托管闭源模型 TypeSafe Jev 1.13 为 83.85，相差 0.22 个百分点 |
| 六项基准中领先项数 | 6 项中的 4 项更高 | 其余两项落后 |
| 与教师模型输出分布的一致性 | 平均 KL 散度约 0.017 | 25,376 道留出问题上的测量 |
| 人工标注的独立评测 | 达到 TypeSafe Jev 1.13 准确率的 96% | 选项最多 16 个，仍落后于托管模型 |
| HumanEval | 前后均为 78.0% | 全部 164 个补全与基座模型逐字节一致 |
把这几组数放在一起看，可以得到两点判断。KL 散度约 0.017 意味着观察者大约需要 60 个采样决策，才能积累 1 纳特的证据来区分它与教师模型，输出分布已经相当接近；HumanEval 前后都是 78.0%、164 个补全与基座逐字节一致，说明 System 2 的推理能力没有被这套决策模块破坏。同时也要留出余地：与 TypeSafe Jev 1.13 的对比由 AutoTrust 自己跑，未经独立验证；人工标注的独立评测里，它达到托管模型准确率的 96%，仍然落后。
三、速度与部署：单卡能跑，硬件门槛不低
速度是这个小模型的主要卖点。据同一篇博客，JEV-27B 在单块 B200 上的中位延迟为 137 毫秒，对照的托管 API 独立测得 238-301 毫秒；单块 H100 80GB 上可以跑全精度 bf16、不做量化，决策结果与在 B300 上一致，约每秒 100 次决策、64 路并发对话。省下来的不只是钱，还包括每次小判断都要排队等云端响应的时间。
- 训练成本：可训练参数 108.9M，在单块 B200 上约 9.2 小时完成。
- 硬件门槛：仓库文件约 54.7GB，需要较强的加速卡硬件才能部署。
- 精度取舍：H100 80GB 可全精度 bf16 运行，不必依赖量化即可保持结果一致。
官方也写明了局限：它在多步推理、算术、日期与对抗输入方面较弱，训练数据以英文为主。把它当作决策层而非通用助手，才不会用错地方；判断类、选择类、打分类的短任务正好落在它的强项区间，需要多步推导的长任务仍要交给大模型。
四、对做智能体应用的一人公司意味着什么
这件事的价值落点，是把大量重复的小决策从大模型上挪下来。智能体在运行时会反复遇到「这句话可信吗」「从几个动作里选哪个」「这段内容够不够好」这类问题，过去每一次都要调用大模型，既慢又贵。JEV-27B 把它们收敛成一次前向传播的概率输出，再用阈值决定自动放行还是升级人工：高置信度的判断本地闭环，拿不准的才交出去。
对一人公司（OPC，One Person Company）来说，可执行的路径是先挑一类高频判断做试点，用概率阈值把最确定的那部分自动化，把预算和注意力留给真正需要人来拍板的环节。这套做法的前提是模型足够小、能被自己掌控，Apache-2.0 的开放权重正好满足这一点，本地方案也让数据不必每次出网。
团队背景可以解释它为什么走这条路。AutoTrust AI 联合创始人兼首席执行官 Daniel Tang 在 2025 年获卢森堡大学博士学位，是 EMNLP 2024 收录的多智能体代码审查框架 CodeAgent 的第一作者，另创建过科学工作平台 ScienceGuru；AutoTrust AI 的定位是做智能体系统与高效可部署模型的应用型实验室。同一日，OpenAI 在 DevDay 上发布 Decisions API，主打毫秒级（约 150 毫秒）从预设选项中做选择，两家不约而同地押注同一个方向：小而快的决策层，正在成为智能体基础设施的一块固定拼图。
还有一条容易被混淆的事实需要说清。TypeSafe Jev 1.13 是 TypeSafe AI 的托管闭源模型，JEV-27B 是 AutoTrust AI 基于 Apache-2.0 语料 SargeDev/jev-distill-corpus-v3 独立训练的学生模型，双方没有隶属关系，也不共享权重与代码。把它们当成同一个产品的不同版本，会误判这次开源的真正意义。
常见问题
问：JEV-27B 和 TypeSafe Jev 1.13 是同一个模型吗？
答：不是。TypeSafe Jev 1.13 是 TypeSafe AI 的托管闭源模型；JEV-27B 是 AutoTrust AI 基于 Apache-2.0 语料 SargeDev/jev-distill-corpus-v3 独立训练的学生模型，双方无隶属关系，也不共享权重与代码。
问：它能替代大模型做推理吗？
答：不能。它只覆盖带类型的快速决策，官方也说明它在多步推理、算术、日期与对抗输入方面较弱；HumanEval 显示 System 2 能力未被破坏，说明它是与大模型并行的决策层，而不是替代品。
问：自建这套决策层门槛高吗？
答：硬件门槛不低，仓库约 54.7GB，需要较强的加速卡；单块 H100 80GB 可以全精度 bf16 运行，训练在单块 B200 上约 9.2 小时。对做智能体应用的一人公司来说，先用概率阈值把高置信度的小判断本地化，是更现实的起步方式。
参考来源
- [1] Hugging Face Blog.《autotrust/JEV-27B: fast, calibrated decisions and full reasoning from one open model》. 2026-09-28
- [2] AutoTrust AI. 决策小模型 JEV-27B 开源发布（Apache-2.0 权重、训练与推理代码及评测报告）. 2026-09-28
