Laya
Jev 的开源挑战者——同样走「System 1 决策模型」路线（不生成文字、只做判断），但完全开源免费，速度更快，还有一个「先来后到」的公案。
基本信息表
| 项目 | 内容 |
|---|---|
| 是什么 | 开源的 System 1 决策模型家族：单次前向传播回答结构化问题（是/否、选择、评分），约 33 毫秒出结果，不生成任何文字 |
| 作者 | Nandakishor Mukkunnoth（Convai Innovations 创始人），一个人从 2025 年 3 月起独立研发 |
| 许可 | Apache 2.0——权重、代码、数据集、论文全公开 |
| 安装 | pip install laya，或 HuggingFace Space 网页直接试 |
| 发布 | 2026-09（与 Jev 同月，直接对标） |
公案：先来后到之争
- 2025-03：作者发表 SalesRLAgent 论文（强化学习做决策预测）+ 权重 + 数据集
- 2025-09：第二篇论文（置信度感知路由）
- 2026-09：TypeSafe AI（ChatGPT 联合发明人 Diogo Almeida 创办）发布 Jev——同样的非自回归决策概念，被包装成「全新突破」，闭源计费 API（$0.042/百万输入）
- 作者公开喊话：这概念我一年前就公开做了；随后重写架构，直接与 Jev 对标基准并开源
技术要点
- 三个检查点 + 一个路由器：
laya（英文，421M）/laya-multilingual（100+ 语言，322M）/laya-typed-decisions（微调版，421M——发票、客服、安全告警） - 三种决策原语：
choice（选择+概率分布）/score（评分）/noul（校准过的 P(true)） - 输出纯概率和数字，结构上不可能出现格式错误（没有自由文本可乱写）
与 Jev 对标（Laya 方公布，Jev 数据来自第三方，方向性参考）
| 指标 | Jev 1.13.0 | Laya | 差距 |
|---|---|---|---|
| typed-decisions 准确率 | 0.727 | 0.766 | +3.9 分 |
| 延迟（单问） | 236-276ms | 32.8ms | 快 7.8 倍 |
| 延迟（批量 10 问） | ~1500ms | 72ms | 快约 20 倍 |
| 置信度校准误差（越低越好） | 0.246 | 0.081 | 好 3 倍 |
| 价格 | $0.042/百万（计费 API） | $0（自托管） | 免费 |
| Banking77（77 类分类） | 0.870 | 0.425 | Jev 领先（Laya 诚实局限） |
最有意思的发现：英文模型会「自信地错」
51 语言测试中，英文版模型对非拉丁文字完全失效但不报错：高棉语准确率 0.000、平均置信度却高达 0.952。所以 Laya 用一个 <1ms 的路由器先检测文字系统（22 种字母表），再分发到对应检查点——置信度门控救不了场，路由必须在前向计算之前做。
在哪可以用
- Python：
pip install laya——装完import laya就能跑（英文模型约 808MB，多语言 647MB） - Hugging Face：模型页
convaiinnovations/laya（三个检查点都在），另有网页版 Space 可以不安装直接试玩 - GitHub：论文、基准测试笔记本、原始运行日志全公开
注意：它是给开发者嵌到程序里用的零件（API 是本地函数调用），不是聊天工具——想人手交互体验，走 Hugging Face Space 网页版。
诚实局限
- Banking77 细分类任务输给 Jev
- 基础模型本身低于「多数类基线」——能力几乎全部来自微调
- 冷启动惩罚 7-10 秒（需常驻内存）
和我已知概念的连线
- 与 Jev 同一物种：卡尼曼「系统一」——快速直觉判断；大语言模型是「系统二」
- 定位一句话：开源版、更快、免费的「智能 if 语句」
- 对我的价值层级：知道即可。它的用武之地是嵌入生产流水线的高频小判断（路由、风控、分流）——将来华润系统若要做「高置信度自动执行 / 低置信度转人工」的分流，这类模型是标准零件；日常 AI 用途上，MiniMax 包月的 OCR 大脑已覆盖