Laya · 決策模型
Laya 模型解析:檢查點、API 與 Laya vs Jev
Laya 是由 Convai Innovations 發布的開放權重編碼器分類模型系列。它回答具型別的問題,而不是產生自由文字。資料於 2026年10月27日確認。
重點摘要
什麼是 Laya?
Ollama 模型頁面列出 Convai Innovations 為發布者;Hugging Face 中繼資料顯示作者為 convaiinnovations,儲存庫建立於 2026年9月18日。這只能說明該模型已在 Hugging Face 上架,並非另行查證的正式發布日期。模型卡的中繼資料標示 license: apache-2.0。
| 檢查點 | 編碼器 / 參數量 | 預設上下文長度 |
|---|---|---|
| convaiinnovations/laya | ModernBERT-large · 421M | 512 |
| convaiinnovations/laya-multilingual | mmBERT-base · 322M | 1,024 |
| convaiinnovations/laya-typed-decisions | ModernBERT-large · 421M | 1,024 |
模型卡記載,多語言檢查點(max_len=8192)最多支援 8,192 個 token。模型卡回報:在涵蓋四種工作流程的 2,000 個決策上,微調版本的準確率為 0.766,英文基礎版本為 0.362。這些是作者自行回報的結果,並未經獨立驗證;Laya typed-decisions 是以該基準測試的訓練切分微調而成的檢查點。
2026年10月27日的即時計數:Hugging Face 基礎儲存庫有 57,144 次下載與 5,832 個讚;Ollama 顯示 16.4K 次下載。這些平台計數衡量的是不同的事物,並非品質指標。
用途與限制
結構化的文字決策,而非產生文章
模型卡說明了 choice、score 與 noul,適用於路由、內容審核、防護欄與電子郵件分流。Laya 以單次編碼器前向運算為各選項評分。您可以在本機執行,也可以針對自己的任務進行微調。它不會產生自由格式的回答或解釋。英文基礎版本的預設上下文長度只有 512 個 token。模型卡也提醒,基礎檢查點在 typed-decisions 的零樣本(zero-shot)情境下表現接近隨機,因此請以帶標註的範例評估您實際的工作流程。
Laya vs Jev
附日期的 JevBench 能力分數
JevBench 與 Benchmark Heaven 由 Decision Models 的營運公司經營。
| 模型 | 能力分數 | 執行完成時間(UTC) | 測量環境 |
|---|---|---|---|
| Laya · convaiinnovations/laya | 32.5 | 2026-10-02 | v1.6.0 |
| Laya typed-decisions | 44.2 | 2026-10-04 | v1.6.0 |
| TypeSafe Jev 1.13.0 | 77.1 | 2026-10-05 | v1.6.1 |
| TypeSafe Jev 1.14.0 | 75.0 | 2026-10-16 | v1.6.27 |
來源:Benchmark Heaven · JevBench 與 v1.7.11 發行版 JSON。所示方法:v1.7,採用 10 秒規則;各列已在 v1.7.0 重新評分。能力分數為智慧(Intelligence)與校準(Calibration)的平均值,並非以百分比表示的準確率。Laya 是在本機 CPU 上測量,Jev 則是透過 TypeSafe 的代管 API 測量。這是不同的執行與存取途徑,並非相同工作負載下的正式環境或速度比較。2026年10月27日確認。
本機與代管存取
目前如何使用 Laya
上游文件提供了 pip install laya 與 laya.load("convaiinnovations/laya")。下方範例將這些文件中記載的元件組合在一起;我們並未在此實際執行過。首次載入時會下載權重。若要自行架設 HTTP 伺服器,GitHub README 記載了 pip install "laya[serve]" 與 LAYA_DEVICE=cuda LAYA_PRELOAD=1 laya-serve。正式運作前,請先檢查網路存取與身分驗證設定。
pip install laya
python - <<'PY'
import laya
agent = laya.load("convaiinnovations/laya")
print(agent.predict("Hello World", {
"greeting": {"type": "noul", "instructions": "Does the text contain a greeting?"}
}))
PYOllama 列有 laya,包含 laya:421m-english-bf16。其頁面要求 Ollama 0.40.0 或更新版本,並示範以下本機 API 呼叫。我們並未在此測試過。
curl http://localhost:11434/v1/systemone \
-H "Content-Type: application/json" \
-d '{"model":"laya","state":"Hello World","questions":{"says_hello":{"type":"noul","instructions":"Does the state text contain a greeting?","criteria":{"true":"The state text contains a greeting.","false":"The state text does not contain a greeting."}}}}'代管選項,2026年10月27日確認:一個獨立的社群 API 標示每 1,000 個輸入 token 收費 0.0004 美元(每百萬 0.40 美元),每次呼叫最低收一個計費單位,輸出免費。該網站明確聲明與 Convai Innovations、NandhaKishorM 或 TypeSafe 並無關聯。Vercel AI Gateway 將 Laya 列為支援的決策模型。這僅確認這些服務已公開提供;我們並未進行任何付費呼叫,也未在此測試其可用性或回答品質。
Decision Models
何時適合使用代管的 Jev 相容 API
如果您不想自行維運模型伺服器,並且需要具備公開 DPA 的歐盟層級,可以評估 Decision Models 現有的模型。這些模型採用 Jev 相容的請求格式,並使用自己的模型 ID 與限制。請在您自己的資料上檢查問題數量、輸入上限、合約條款與回答結果。僅僅是代管存取,並不代表決策品質更好。
Jev 是 TypeSafe AI 的產品;Laya 由 Convai Innovations 發布。Decision Models 與它們並無關聯,僅為比較而使用這些名稱。