Sun'iy intellekt ekotizimida model distillatsiyasi va servis optimallashtirish muhim trendga aylangan. platform.experientiallabs.ai tomonidan taqdim etilgan World Model Optimizer (WMO) bu jarayonni avtomatlashtiradi, agent izlarini (traces) amaliy takomillashtirishga aylantiradi va natijada kichik modellarga yuksak frontier (chegara) sifatini yarim narxda taqdim etadi.
WMO qanday ishlaydi?
WMO uchta asosiy bosqichni birlashtiradi:
pip install world-model-optimizer
wmo providers set
- Izlarni ro‘yxatga olish – OTel (OpenTelemetry) formatidagi agent trace fayllari
traces.jsonl yoki traces.otel.jsonl shaklida kiritiladi.
- Yo‘nalish (routing) optimallashtirish – WMO izlarni tahlil qilib, har bir ro‘yxatga olingan modelni mustaqil vazifalarda sinovdan o‘tkazadi, natijalarni
matrix.json faylida saqlaydi.
- Politsiya (policy) yaratish – KNN (k‑eng yaqin qo‘shni) algoritmi asosida optimal yo‘nalish strategiyasi
policy.json faylida yaratiladi.
Bu bosqichlar wmo build, wmo optimize route va wmo serve buyruqlari orqali bajariladi.
wmo build --file traces.jsonl --name my-endpoint
# Score every registered model on held-out tasks from your traces
wmo optimize route sweep my-endpoint --traces traces.otel.jsonl
# Turn those measurements into a routing policy
wmo optimize route fit matrix.json --kind knn \
--out .wmo/models/my-endpoint/policy.json
Model distillatsiyasi va xarajatlarni kamaytirish
Distillatsiya – katta, resurs talab qiluvchi modeldan kichik, tezkor modelga bilimlarni “oqizish” jarayonidir. WMO bu jarayonni avtomatik ravishda amalga oshiradi, natijada:
wmo serve --name my-endpoint
- Kichik model 40 %+ kamroq hisoblash xarajatiga ega bo‘ladi.
- Sifat jihatidan frontier darajasidagi natija saqlanadi, ya'ni foydalanuvchi tajribasida sezilarli pasayish yo‘q.
- Modelni
wmo optimize model buyrug‘i orqali poolga qo‘shish mumkin, bu esa bir nechta agentlar orasida dinamik tanlovni ta'minlaydi.
E2B sandbox va dunyo modellari
WMO E2B (Execution to Browser) sandbox integratsiyasini qo‘llab‑quvvatlaydi. Bu izolyatsiyalangan muhitda agentning harakatlari va vosita chaqiruvlari (tool calls) sinovdan o‘tkaziladi. pip install "world-model-optimizer[e2b]" orqali qo‘shimcha paket o‘rnatiladi, E2B_API_KEY muhit o‘zgaruvchisi bilan autentifikatsiya qilinadi.
wmo optimize route report matrix.json .wmo/models/my-endpoint/policy.json \
--baseline gpt-5.5
E2B sandboxning afzalliklari:
wmo run <agent-id>
- Mahalliy API kalitlari kerak emas – platforma credentiallarni boshqaradi.
- Parallel roll‑out va baholash imkoniyati, bu esa iterativ takomillashtirishni tezlashtiradi.
- Model credentiallari sandboxdan tashqarida qoladi, xavfsizlik darajasi oshadi.
Hayotiy ish jarayoni – misol kod
Quyidagi Python fragmenti WMO yordamida dunyo modelini yuklash, sessiya yaratish va vosita chaqiruvini bajarishni ko‘rsatadi:
pip install "world-model-optimizer[e2b]"
export E2B_API_KEY=...
wmo optimize harness my-agent my-environment --tasks tasks.jsonl --backend e2b
from wmo import Action, ActionKind
from wmo.config.store import WorldModelStore
from wmo.engine.loader import load_world_model
model_dir = WorldModelStore('.wmo').resolve('airline')
wm, _provider = load_world_model(model_dir)
session = wm.new_session(task='check out the cart')
obs = wm.step(session.id, Action(kind=ActionKind.TOOL_CALL, name='add_to_cart',
arguments={'sku': 'A1'}))
print(obs.content)
Bu kod HTTP API orqali ham bajarilishi mumkin: GET /world_models, POST /world_models/{name}/sessions va POST /world_models/{name}/sessions/{id}/step endpointlari mavjud.
from wmo import Action, ActionKind
from wmo.config.store import WorldModelStore
from wmo.engine.loader import load_world_model
model_dir = WorldModelStore(".wmo").resolve("airline")
wm, _provider = load_world_model(model_dir)
session = wm.new_session(task="check out the cart")
obs = wm.step(session.id, Action(kind=ActionKind.TOOL_CALL, name="add_to_cart",
arguments={"sku": "A1"}))
print(obs.content)
Telemetry va maxfiylik
WMO standartda anonim telemetry (foydalanuvchi ma'lumotlarini yig‘ish) yoqilgan, lekin bu faqat metama'lumotlarni o‘z ichiga oladi – prompts, izlar, fayl yo‘llari yoki credentiallar hech qachon qayd etilmaydi. Telemetryni o‘chirib qo‘yish uv run wmo config telemetry disable buyrug‘i orqali amalga oshiriladi.
wmo login
wmo run <world-model-or-agent-id>
wmo run <agent-id> -u . --task "fix the failing tests"
Yangi boshlovchilar uchun tavsiyalar
- Provayderlarni ro‘yxatga olish –
wmo providers set buyrug‘i bilan sizning bulutli yoki on‑premise provayderlaringizni belgilashingiz mumkin.
- Modelni testdan o‘tkazish –
wmo optimize route sweep yordamida barcha ro‘yxatga olingan modellarning vazifalar bo‘yicha natijalarini bir xil shartlarda o‘lchash.
- Yo‘nalish siyosatini yaratish – KNN asosida
wmo optimize route fit bilan eng mos modelni tanlovchi matritsani tuzish.
- Servisni ishga tushirish –
wmo serve --name my-endpoint orqali API endpoint yaratib, real‑dunyo ilovalaringizga ulash.
Xulosa
World Model Optimizer AI jamoalariga model distillatsiyasi, xarajatlarni kamaytirish va doimiy takomillashtirish imkoniyatini birlashtiradi. Agent trace’larni dunyo modeli simulyatsiyasi bilan birlashtirish orqali, kichik modellarning sifatini yirik modellarga yaqinlashtirish, shu bilan birga infratuzilma xarajatlarini sezilarli darajada pasaytirish mumkin. Bu yondashuv ayniqsa startaplar, SaaS provayderlari va katta korporativ AI platformalar uchun strategik afzallik beradi.
Asl manba: github.com