Laya 모델 해설: 체크포인트, API, Laya와 Jev 비교

Ollama 모델 페이지에는 게시자가 Convai Innovations로 표기되어 있고, Hugging Face 메타데이터에는 작성자가 convaiinnovations, 저장소 생성일이 2026년 9월 18일로 나와 있습니다. 이는 Hugging Face에서 이용할 수 있게 된 시점을 보여 줄 뿐, 별도로 확인된 발표일은 아닙니다. 모델 카드 메타데이터에는 license: apache-2.0으로 명시되어 있습니다.

모델 카드에는 max_len=8192인 다국어 체크포인트가 최대 8,192 토큰까지 처리한다고 기재되어 있습니다. 또한 네 가지 워크플로에 걸친 2,000건의 의사결정에서 파인튜닝 버전의 정확도가 0.766, 영어 기반 모델이 0.362이라고 보고합니다. 이는 작성자가 보고한 결과이며 독립적으로 검증되지 않았습니다. Laya typed-decisions는 해당 벤치마크의 학습 분할로 파인튜닝한 체크포인트입니다.

2026년 10월 27일 기준 실시간 카운터: Hugging Face 기본 저장소의 다운로드 57,144회, 좋아요 5,832개. Ollama는 다운로드 16.4K회로 표시합니다. 이 플랫폼 카운터는 서로 다른 것을 측정하며 품질 지표가 아닙니다.

모델 카드는 라우팅, 콘텐츠 검수, 가드레일, 이메일 분류를 위한 choice, score, noul을 설명합니다. Laya는 인코더를 한 번 통과시켜 선택지에 점수를 매깁니다. 로컬에서 실행할 수 있고 작업에 맞게 파인튜닝할 수도 있습니다. 자유 형식의 답변이나 설명은 생성하지 않습니다. 영어 기반 모델의 기본 컨텍스트는 512 토큰에 불과합니다. 모델 카드는 기반 체크포인트가 typed-decisions 제로샷에서 무작위 추측에 가까운 수준이라고 주의를 당부하므로, 레이블이 있는 예시로 실제 워크플로를 직접 평가하세요.

출처: Benchmark Heaven · JevBench 및 v1.7.11 릴리스 JSON. 표시된 방법: 10초 규칙을 적용한 v1.7이며, 각 행은 v1.7.0에서 다시 채점했습니다. 역량 점수는 지능과 보정(Calibration)의 평균이며 정확도 백분율이 아닙니다. Laya는 CPU에서 로컬로 측정했고, Jev는 TypeSafe의 호스팅 API로 측정했습니다. 실행과 접근 경로가 서로 다르므로 동일한 워크로드의 프로덕션 비교나 속도 비교가 아닙니다. 2026년 10월 27일 확인.

업스트림 문서에는 pip install laya와 laya.load("convaiinnovations/laya")가 나와 있습니다. 아래 예제는 문서화된 이 구성 요소를 조합한 것이며, 여기서 실행해 보지는 않았습니다. 처음 로드할 때 가중치를 내려받습니다. 직접 HTTP 서버를 운영하려면 GitHub README에 pip install "laya[serve]"와 LAYA_DEVICE=cuda LAYA_PRELOAD=1 laya-serve가 안내되어 있습니다. 운영하기 전에 네트워크 접근과 인증을 검토하세요.

pip install laya
python - <<'PY'
import laya
agent = laya.load("convaiinnovations/laya")
print(agent.predict("Hello World", {
    "greeting": {"type": "noul", "instructions": "Does the text contain a greeting?"}
}))
PY

Ollama에는 laya:421m-english-bf16을 포함한 laya가 올라와 있습니다. 해당 페이지는 Ollama 0.40.0 이상을 요구하며 아래의 로컬 API 호출 예를 보여 줍니다. 여기서는 테스트하지 않았습니다.

curl http://localhost:11434/v1/systemone \
  -H "Content-Type: application/json" \
  -d '{"model":"laya","state":"Hello World","questions":{"says_hello":{"type":"noul","instructions":"Does the state text contain a greeting?","criteria":{"true":"The state text contains a greeting.","false":"The state text does not contain a greeting."}}}}'

2026년 10월 27일 확인한 호스팅 옵션: 독립 커뮤니티 API는 입력 토큰 1,000개당 USD 0.0004(100만 개당 USD 0.40)를 게시하고 있으며, 호출당 최소 1단위가 과금되고 출력은 무료입니다. 이 서비스는 Convai Innovations, NandhaKishorM, TypeSafe와 제휴 관계가 없음을 명시하고 있습니다. Vercel AI Gateway는 Laya를 지원되는 의사결정 모델로 소개합니다. 이는 공개된 제공 내용을 확인한 것일 뿐이며, 저희는 유료 호출을 하지 않았고 이들의 가용성이나 답변을 여기서 테스트하지 않았습니다.

모델 서버를 직접 운영하고 싶지 않고 공개 DPA가 있는 EU 티어가 필요하다면, Decision Models의 기존 모델을 평가해 볼 수 있습니다. 이 모델들은 Jev 호환 요청 형식을 사용하지만 자체 모델 ID와 자체 한도를 가집니다. 질문 수, 입력 한도, 계약 조건, 그리고 실제 데이터에 대한 답변을 확인하세요. 호스팅으로 제공된다는 사실만으로 더 나은 의사결정 품질이 입증되는 것은 아닙니다.