Laya · 决策模型
Laya 模型详解:检查点、API 与 Laya 对比 Jev
Laya 是 Convai Innovations 发布的一组开放权重编码器分类器。它回答类型化的问题,而不是生成自由文本。事实核查日期:2026年10月27日。
概览
Laya 是什么?
Ollama 模型页面将 Convai Innovations 列为发布方;Hugging Face 元数据显示作者为 convaiinnovations,仓库创建于 2026年9月18日。这只能说明它在 Hugging Face 上可用,并不是经过单独核实的公告日期。模型卡元数据标明 license: apache-2.0。
| 检查点 | 编码器 / 参数量 | 默认上下文 |
|---|---|---|
| convaiinnovations/laya | ModernBERT-large · 421M | 512 |
| convaiinnovations/laya-multilingual | mmBERT-base · 322M | 1,024 |
| convaiinnovations/laya-typed-decisions | ModernBERT-large · 421M | 1,024 |
模型卡记载,设置 max_len=8192 的多语言检查点最多支持 8,192 个 token。它报告称,在涵盖四类工作流的 2,000 个决策上,微调版本的准确率为 0.766,而英文基础模型为 0.362。这些是作者自报的结果,未经独立验证;Laya typed-decisions 是在该基准的训练集划分上微调得到的检查点。
2026年10月27日的实时计数:Hugging Face 基础仓库有 57,144 次下载、5,832 个点赞;Ollama 显示 16.4K 次下载。这些平台计数衡量的是不同的东西,并非质量指标。
用途与限制
结构化的文本决策,不生成长篇文字
模型卡介绍了用于路由、内容审核、护栏和邮件分流的 choice、score 和 noul。Laya 在一次编码器前向计算中为各个选项打分。你可以在本地运行它,并针对自己的任务进行微调。它不会生成自由形式的回答或解释。英文基础模型默认只有 512 个 token 的上下文。模型卡提醒,基础检查点在 typed-decisions 的零样本场景下接近随机水平,因此请用带标注的样例评估你自己的具体工作流。
Laya 对比 Jev
带日期的 JevBench 能力得分
JevBench 和 Benchmark Heaven 由 Decision Models 背后的公司运营。
| 模型 | 能力得分 | 运行完成时间(UTC) | 测量版本 |
|---|---|---|---|
| Laya · convaiinnovations/laya | 32.5 | 2026-10-02 | v1.6.0 |
| Laya typed-decisions | 44.2 | 2026-10-04 | v1.6.0 |
| TypeSafe Jev 1.13.0 | 77.1 | 2026-10-05 | v1.6.1 |
| TypeSafe Jev 1.14.0 | 75.0 | 2026-10-16 | v1.6.27 |
来源:Benchmark Heaven · JevBench 和 v1.7.11 发布版 JSON。所显示的方法:采用 10 秒规则的 v1.7;各行已在 v1.7.0 中重新评分。能力得分是智能与校准两项的平均值,并非百分比形式的准确率。Laya 是在本地 CPU 上测量的,Jev 则通过 TypeSafe 的托管 API 测量。这些是不同的运行批次和访问线路,不是同一工作负载下的生产环境或速度对比。核查日期:2026年10月27日。
本地与托管访问
现在如何使用 Laya
上游文档给出了 pip install laya 和 laya.load("convaiinnovations/laya")。下面的示例组合了这些文档中记载的构件;我们没有在这里实际运行过。首次加载会下载权重。如果要自行托管 HTTP 服务,GitHub README 记载了 pip install "laya[serve]" 和 LAYA_DEVICE=cuda LAYA_PRELOAD=1 laya-serve。在运行之前,请先检查网络访问和身份验证设置。
pip install laya
python - <<'PY'
import laya
agent = laya.load("convaiinnovations/laya")
print(agent.predict("Hello World", {
"greeting": {"type": "noul", "instructions": "Does the text contain a greeting?"}
}))
PYOllama 列出了 laya,包括 laya:421m-english-bf16。其页面要求 Ollama 0.40.0 或更高版本,并展示了这个本地 API 调用。我们没有在这里测试过。
curl http://localhost:11434/v1/systemone \
-H "Content-Type: application/json" \
-d '{"model":"laya","state":"Hello World","questions":{"says_hello":{"type":"noul","instructions":"Does the state text contain a greeting?","criteria":{"true":"The state text contains a greeting.","false":"The state text does not contain a greeting."}}}}'托管方案,核查日期 2026年10月27日:一个独立的社区 API标价为每 1,000 个输入 token USD 0.0004(每百万 USD 0.40),每次调用至少按一个单位计,输出免费。该服务明确声明与 Convai Innovations、NandhaKishorM 或 TypeSafe 无关联。Vercel AI Gateway 将 Laya 列为受支持的决策模型。这只能证实这些服务已公开提供;我们没有产生任何付费调用,也没有在这里测试过它们的可用性或答案。
Decision Models
什么时候适合用托管的 Jev 兼容 API
如果你不想自己运维模型服务器,并且需要带公开 DPA 的 EU 层级,可以评估 Decision Models 现有的模型。它们采用与 Jev 兼容的请求格式,使用各自的模型 ID 和限制。请在你自己的数据上检查问题数量、输入限制、合同条款和答案。仅有托管访问,并不能说明决策质量更好。
Jev 是 TypeSafe AI 的产品;Laya 由 Convai Innovations 发布。Decision Models 与它们均无关联,使用这些名称仅用于对比。