Laya – ochiq kodli tezkor qaror modeli, Jev’ga qarshi raqobat

Sun'iy intellekt sohasida so'nggi yillarda non‑avtoregressive, strukturalangan qaror modellariga qiziqish ortib bormoqda. Ushbu yo'nalishda yangi ochiq kodli loyiha – Laya – o'zini tezkor, kalibrlangan ehtimollarni taqdim etuvchi tizim sifatida namoyon etdi.

Laya ning paydo bo'lishi va asosiy maqsadi

Muallif 2025‑yil mart oyida birinchi versiyasini yaratib, arXiv’da arXiv:2503.23303 maqolasini chop etgan. Model vazifalari mijozlar qo‘llab‑quvvatlash chiptalari, email filtratsiyasi yoki API so‘rovlarini tezda tasniflash edi. Keyinchalik 2025‑yil oktyabr oyida arXiv:2510.01237 orqali schema‑asosli qarorlar ramkasini mustahkamladi.

# Downloads English model (~808 MB)
agent_en = laya.load("convaiinnovations/laya")

# Downloads ONLY the multilingual subfolder (~647 MB), not the entire 2.5 GB bundle
agent_ml = laya.load("convaiinnovations/laya", subfolder="multilingual")

2026‑yil sentyabr oyida TypeSafe AI kompaniyasi Jev nomli mahsulotni e'lon qildi. Jev konseptsiyasi Laya ning birinchi versiyasiga juda o‘xshash bo‘lsa-da, ilmiy maqola, ochiq vaznlar yoki ma'lumotlar to‘plami taqdim etilmagan.

System 1 va System 2 konsepsiyasi

Laya ning yaratuvchisi sun'iy intellekt pipeline’larida “System 2” – ya'ni katta generativ LLM‑lar – ko‘p hollarda ortiqcha bo‘lishini ta'kidlaydi. Oddiy, strukturalangan savollarga (masalan, "bu ticket qaysi bo‘limga yo‘naltiriladi?" yoki "email phishingmi?") tez va aniq javob berish uchun System 1 ga o‘xshash model kerak.

Generativ LLM‑lar tokenlarni oqim tarzida chiqaradi, bu esa 500 ms‑dan 2000 ms‑gacha kechikishga, hisoblash xarajatiga va “hallucination” xavfiga olib keladi. Laya esa 30‑35 ms ichida kalibrlangan ehtimollarni beradi, shu bilan birga matn generatsiyasini butunlay yo‘q qiladi.

Uchta qaror primitive

Laya uchta asosiy primitive orqali har qanday matnli yoki strukturalangan kirishni baholaydi:

from laya import Router

# Preload checkpoints into memory for instant sub-35ms routing
router = Router(preload=True)

# English -> automatically routed to ModernBERT-large
res_en = router.predict({"body": "I was charged twice, please refund."}, questions)

# Hindi -> automatically routed to mmBERT-base (100+ languages)
res_hi = router.predict({"body": "मुझसे दो बार शुल्क लिया गया, कृपया पैसे वापस करें।"}, questions)

# Explicit override when you already know the domain
res_spec = router.predict(state, questions, model="typed-decisions")

• choice – variantlar orasidan bitta tanlaydi, barcha variantlar bo‘yicha ehtimollar taqsimotini va kalibrlangan ishonchlilik ko‘rsatkichini qaytaradi.
• score – kirishni ordinal (0,1,2…) darajaga joylashtiradi, darajalar taqsimoti va ishonchlilikni beradi.
• noul – ha/yo‘q savoliga to‘g‘ridan‑to‘g‘ri P(true) ehtimolini hisoblaydi (P(false)=1‑P(true)).

Natijalar faqat sonlar va ehtimollar bo‘lgani uchun matnli xato, JSON buzilishi yoki “hallucination” imkoni yo‘q.

Model checkpointlari va hub arxitekturasi

Laya uchta maxsus checkpointni bir repositoryda birlashtiradi. Har bir checkpoint ma'lum bir vazifa yoki til uchun optimallashtirilgan:

• convaiinnovations/laya – ModernBERT‑large asosida, 421 M parametr, ingliz tilida klassifikatsiya va email triage uchun.
• convaiinnovations/laya-multilingual – mmBERT‑base (256k vocab), 322 M parametr, 100+ tilni qo‘llab‑quvvatlaydi, 2.2 x tezroq.
• convaiinnovations/laya-typed-decisions – ModernBERT‑large, 421 M parametr, mijoz xizmatlari, faktura qayta ishlash, xavfsizlik signalizatsiyasi (0.766 acc).

Hugging Face‑ning allow_patterns mexanizmi orqali foydalanuvchilar faqat kerakli subfolderni yuklab olishlari mumkin, bu esa umumiy yuklamani 2.5 GB‑dan 0.8 GB‑gacha kamaytiradi.

Multilingual yondashuv va skript muammolari

Massive benchmark’da 51 til bo‘yicha sinovlar o‘tkazilganda, ingliz‑BPE vokabulyariyasi lotin bo‘lmagan alifbolarda keskin pasayish ko‘rsatdi. Masalan, Xmer tilida aniqlik 0 % ga yetdi, bu esa modelning skriptga moslashuvchanligini ko‘rsatadi.

pip install laya>=0.3.3

Laya‑ning multilingual checkpointi bu muammoni hal qiladi: 1024 token kontekst uzunligi, 8 k tokengacha kengaytirilgan, shuningdek, har bir til uchun maxsus sub‑vokabulyar mavjud.

Jev bilan taqqoslash

Jev modeli RLCD (Reinforcement Learning for Calibrated Decisions) usulini qo‘llab, har bir so‘rov uchun 150 ms atrofida javob beradi va million tokenga $0.042 narxda xizmat ko‘rsatadi. Laya esa bitta GPUda 32.8 ms (batchda 7.2 ms) ichida natija beradi, bu 6‑8 baravar tezlikni anglatadi.

Shuningdek, Laya ochiq kodli Apache 2.0 litsenziyasi ostida, vaznlar, kod va ma'lumotlar to‘plami hamma uchun erkin. Jev esa yopiq, pullik API va yopiq ma'lumotlar bilan cheklangan.

Cheklovlar va ochiq savollar

Laya hali ham ba'zi cheklovlarga ega. Birinchi checkpoint faqat ingliz tilida yuqori aniqlikni ta'minlaydi, shuning uchun kichik tillarda qo‘shimcha fine‑tuning talab qilinadi. Ikkinchi checkpointning 322 M parametri katta korporativ muhitda real‑vaqt ishlash uchun qo‘shimcha optimallashtirishni talab qilishi mumkin.

import laya
from laya import Router

# Initialize router with preloading (avoids swap delay)
router = Router(preload=True)

# Define complex state
ticket = {
    "ticket_id": "TCK-8821",
    "customer": "enterprise_user",
    "subject": "System downtime and billing dispute",
    "body": "Our production API has been failing since 6 AM. We lost critical transactions. We demand an immediate SLA refund."
}

# Define multiple questions of different primitives
questions = {
    "queue": {
        "type": "choice",
        "instructions": "Which engineering queue owns this ticket?",
        "criteria": {
            "infrastructure": "server outages, network downtime, database failures",
            "billing": "refunds, SLA credits, invoice disputes",
            "security": "breaches, vulnerability reports",
            "support": "general customer inquiries"
        }
    },
    "urgency": {
        "type": "score",
        "instructions": "How urgent is this ticket?",
        "criteria": ["low priority", "medium", "high priority", "critical blocker"]
    },
    "churn_risk": {
        "type": "noul",
        "instructions": "Does the customer threaten to cancel or express severe churn intent?"
    }
}

# Single forward pass: evaluates all questions simultaneously
res = router.predict(ticket, questions)

print("Routing Decision :", res["routing"]["model"])
# -> english

print("Assigned Queue   :", res["answers"]["queue"]["choice"])
# -> infrastructure (confidence: 0.96)

print("Urgency Score    :", res["answers"]["urgency"]["score"])
# -> 2.87 / 3.0

print("Churn Risk       :", f"{res['answers']['churn_risk']['noul']:.1%}")
# -> 91.4%

Kelajakda quyidagi savollar hal qilinishi lozim:

• Kalibrlash metodologiyasi qanday qilib yanada universal bo‘lishi mumkin?
• Modelni edge qurilmalarga (mobil, IoT) portlash uchun qaysi optimallashtirishlar zarur?
• Qo‘shimcha domen‑maxsus ma'lumotlar bilan fine‑tuning natijalarini qanday o‘lchash kerak?

Kimga va qanday ta'sir qiladi

Laya kichik startaplar, mijoz xizmatlari bo‘limlari, xavfsizlik operatsiyalari va kontent moderatsiyasi jamoalari uchun katta foyda keltiradi. Ochiq vaznlar va bepul SDK yordamida har qanday kompaniya o‘z infratuzilmasida modelni joylashtirishi, litsenziya xarajatlarini kamaytirishi va ma'lumot maxfiyligini saqlashi mumkin.

Umuman olganda, Laya non‑avtoregressive qaror modellarining ochiq, tezkor va ko‘p tilli variantini taqdim etadi, bu esa AI ekotizimida yanada diversifikatsiya va raqobatni kuchaytiradi.

Ko‘proq ma'lumot va kodni original manbadan olishingiz mumkin.

Asl manba: laya.convaiinnovations.com