Modelo Laya explicado: checkpoints, API e Laya vs Jev

A página do modelo no Ollama indica a Convai Innovations como publicadora; os metadados do Hugging Face identificam o autor convaiinnovations e a criação do repositório em 18 de setembro de 2026. Isso comprova a disponibilidade no Hugging Face, e não uma data de anúncio verificada separadamente. Os metadados do model card informam license: apache-2.0.

O model card documenta até 8,192 tokens para o checkpoint multilíngue com max_len=8192. Ele relata acurácia de 0.766 para o fine-tune, contra 0.362 para a base em inglês, em 2,000 decisões de quatro fluxos de trabalho. São resultados relatados pelo autor, não verificados de forma independente; o Laya typed-decisions é o checkpoint ajustado (fine-tuned) na divisão de treino desse benchmark.

Contadores ao vivo em 27 de outubro de 2026: 57,144 downloads e 5,832 curtidas no repositório base do Hugging Face; o Ollama exibe 16.4K downloads. Esses contadores das plataformas medem coisas diferentes e não são métricas de qualidade.

O model card descreve choice, score e noul para roteamento, moderação, guardrails e triagem de e-mails. O Laya pontua as opções em uma única passada do encoder. Você pode executá-lo localmente e fazer fine-tuning para as suas tarefas. Ele não gera respostas nem explicações em texto livre. A base em inglês usa por padrão apenas 512 tokens de contexto. O card alerta que os checkpoints base ficam próximos do acaso em typed-decisions zero-shot; por isso, avalie o seu fluxo de trabalho específico com exemplos rotulados.

Fonte: Benchmark Heaven · JevBench e JSON da versão v1.7.11. Método exibido: v1.7 com a regra dos 10 segundos; as linhas foram repontuadas na v1.7.0. A capacidade é a média de Inteligência e Calibração; não é acurácia em porcentagem. O Laya foi medido localmente em CPU, e o Jev pela API hospedada da TypeSafe. São execuções e vias de acesso diferentes, não comparações de produção nem de velocidade sob a mesma carga de trabalho. Verificado em 27 de outubro de 2026.

A documentação do projeto original mostra pip install laya e laya.load("convaiinnovations/laya"). O exemplo abaixo combina esses blocos documentados; ele não foi executado aqui. O primeiro carregamento baixa os pesos. Para um servidor HTTP próprio, o README no GitHub documenta pip install "laya[serve]" e LAYA_DEVICE=cuda LAYA_PRELOAD=1 laya-serve. Revise o acesso à rede e a autenticação antes de colocá-lo em operação.

pip install laya
python - <<'PY'
import laya
agent = laya.load("convaiinnovations/laya")
print(agent.predict("Hello World", {
    "greeting": {"type": "noul", "instructions": "Does the text contain a greeting?"}
}))
PY

O Ollama lista o laya, incluindo o laya:421m-english-bf16. A página exige o Ollama 0.40.0 ou posterior e mostra esta chamada de API local. Ela não foi testada aqui.

curl http://localhost:11434/v1/systemone \
  -H "Content-Type: application/json" \
  -d '{"model":"laya","state":"Hello World","questions":{"says_hello":{"type":"noul","instructions":"Does the state text contain a greeting?","criteria":{"true":"The state text contains a greeting.","false":"The state text does not contain a greeting."}}}}'

Opções hospedadas, verificadas em 27 de outubro de 2026: uma API comunitária independente lista USD 0.0004 por 1,000 tokens de entrada (USD 0.40 por milhão), com mínimo de uma unidade por chamada e saída gratuita. Ela afirma expressamente não ter afiliação com a Convai Innovations, NandhaKishorM ou TypeSafe. O Vercel AI Gateway cita o Laya como modelo de decisão compatível. Isso confirma ofertas publicadas; não fizemos chamadas pagas e não testamos aqui a disponibilidade nem as respostas delas.

Se você prefere não operar um servidor de modelo e precisa de um tier da UE com DPA público, pode avaliar os modelos já existentes da Decision Models. Eles usam um formato de requisição compatível com Jev, IDs de modelo próprios e limites próprios. Verifique a quantidade de perguntas, os limites de entrada, o contrato e as respostas com os seus dados. O acesso hospedado, por si só, não comprova melhor qualidade de decisão.