Qwenputer: Qwen 3.5 ichida RISC‑V CPU ni amalga oshirish

Qwenputer – bu Qwen 3.5 4B modelining vaznlariga to'liq ishlaydigan, deterministik RISC‑V CPU ni o‘rnatgan eksperimental loyiha. Model o‘zining Gated DeltaNet (GDN) qatlamlarini xotira sifatida ishlatib, har bir tokenni qayta ishlashda CPU amallarini bajaradi.

Kontekst va texnik fon

Transformer arxitekturasi ichida Qwenputer loyihasi GDN qatlamlarini an'anaviy attention KV keshidan farqli ravishda doimiy o‘lchamdagi xotira sifatida ishlatadi. GDN – bu chiziqli RNN bo‘lib, har bir bosh (head) o‘z holat matritsasini saqlaydi va delta qoidasi orqali yangilanadi.

Ushbu yondashuvning asosiy afzalligi shundaki, suhbat uzunligi oshganda ham GDN holati o‘lchami o‘zgarmaydi, bu esa an’anaviy attention asosidagi xotira tizimlariga qaraganda ancha samarali hisoblanadi.

Gated DeltaNet qanday RAM sifatida ishlaydi?

Har bir GDN boshida bir‑hot kalit (one‑hot vector) yordamida xotira satri tanlanadi. Kalitda faqat bitta 1 bo‘lib, aniq bir satrga murojaat qilishni ta’minlaydi – bu an’anaviy xotira manziliga o‘xshash.

• Gat (gate) qiymati 0‑dan 1 gacha bo‘lib, har tokenda holat matritsasini ko‘paytiradi; 0.9 gat har bir tokenda ma’lumotni 10% kamaytiradi.
• Beta (write strength) 1 ga teng bo‘lganda eski qiymat to‘liq almashtiriladi, ya’ni yozish aniq va izchil bo‘ladi.
• Natijada har bir yozish amali aniq bir satrni yangilaydi, har bir o‘qish esa bir satrni qaytaradi – bu xotira operatsiyalarini aniq va izchil qiladi.

Bu mexanizm “fast weights” yoki assotsiativ xotira konseptsiyasiga o‘xshash, lekin Qwenputer’da u aniq adreslanadigan va barqaror ishlaydigan holatga keltirildi.

CPU ni vaznlarga kompilyatsiya qilish jarayoni

CPU ni modelga qo‘shish uchun maxsus kompilyator har bir instruktsiyani bir necha tokenga aylantiradi: ADDR (xotira satri), VAL (yangi qiymat) va STEP (instruktsiya tugashi). Bu tokenlar modelning forward passida yaratiladi va shu bilan CPU amallarini bajaradi.

Qwen 3.5 ning 32‑qatlamli asosiy blokidan oldingi 11 qatlamga 32‑bit RISC‑V (RV32IM) yadroini joylashtirish orqali CPU to‘liq instruktsiya to‘plamini qo‘llab‑quvvatlaydi, shu jumladan Zba kengaytmasi va katta sonlar uchun bignum birligi ham mavjud.

CPU arxitekturasi va ishlash ko‘rsatkichlari

Qwenputer 18 milliondan ortiq instruktsiyani xato qilmasdan bajarib, rasmiy riscv‑tests to‘plamida qemu bilan mos kelishini tasdiqladi. CPU C va MicroPython kodlarini ham forward passda ijro etadi, garchi bu jarayon an’anaviy protsessorlarga nisbatan sekinroq bo‘lsa ham.

Model ichida CPU ning ishlashi tashqi vositalar yoki runtime muhitiga bog‘liq emas; barcha amallar modelning o‘z ichki token generatsiyasi orqali amalga oshiriladi.

Raqobatbardosh texnologiyalar bilan taqqoslash

GDN‑ni RAM sifatida ishlatish an’anaviy attention‑KV keshiga qaraganda kamroq hisoblash xarajatlari va doimiy o‘lchamni ta’minlaydi. Boshqa yondashuvlar, masalan, transformer‑based “Neural Turing Machine” yoki “Differentiable Neural Computer”, ko‘proq parametr va vaqt talab qiladi.

Shuningdek, Qwenputer modelning asosiy vaznlarini o‘zgartirmasdan, qo‘shimcha qatlamlar orqali CPU ni qo‘shadi, bu esa modelni qayta o‘qitish yoki fine‑tuning talab qilmaydi.

git clone https://github.com/divagr18/qwenputer && cd qwenputer/experimental/riscv && uv sync --extra hf
hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv
uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf \
    --ask "Use calc: what is 123456789 * 987654321?"

Cheklovlar va ochiq savollar

• Tezlik: CPU token generatsiyasi tezligiga bog‘liq, shuning uchun real‑vaqtli ilovalar uchun hozircha mos emas.
• Xotira hajmi: GDN holati qatlam soniga bog‘liq; katta dasturlar uchun qo‘shimcha qatlamlar kerak bo‘lishi mumkin.
• Operatsion tizim: Hozirgi CPU Linux‑klassli chip emas, faqat RV32IM instruktsiyalarini bajaradi, bu esa tizim darajasidagi dasturlashni cheklaydi.
• Modelga bog‘liqlik: CPU faqat Qwen 3.5 ning GDN qatlamlari bilan ishlaydi; boshqa transformer arxitekturalarida bu yondashuvni qo‘llash uchun moslashtirish zarur.

Kimga va qanday ta'sir qiladi?

Bu texnologiya AI model ichida mustaqil hisoblash birligini yaratish imkoniyatini ko‘rsatadi, shu bilan birga model‑ichki monitoring va kodni o‘zgartirishga qarshi himoya kabi yangi xavfsizlik mexanizmlari uchun platforma bo‘lishi mumkin.

Ilmiy tadqiqotchilar, AI infratuzilmasi ishlab chiquvchilari va xavfsizlik mutaxassislari Qwenputer kabi yondashuvlarni o‘rganish orqali model ichki xotira va hisoblashni yanada samarali boshqarish yo‘llarini topishlari mumkin.

Kelajakda nimalar kutish mumkin?

Kelgusi tadqiqotlar GDN‑ni yanada chuqurroq optimallashtirish, ko‘proq instruktsiya to‘plamlarini qo‘llab‑quvvatlash va CPU ni tashqi interfeyslar (masalan, API) orqali chaqirish imkoniyatini yaratishga yo‘naltiriladi.

@software{agrawal2026qwenputer,
  author  = {Agrawal, Divyansh},
  title   = {{Qwenputer}: a computer compiled into the weights of a pretrained language model},
  year    = {2026},
  url     = {https://github.com/divagr18/qwenputer}
}

Shuningdek, bu yondashuv boshqa transformer modellari (GPT‑4, LLaMA) ga ham moslashtirilishi mumkin, bu esa AI ekotizimida “model ichida kompyuter” konseptsiyasini kengaytiradi.

Qwenputer texnik jihatdan murakkab bo‘lsa-da, u AI model ichida aniq, izchil va barqaror hisoblash birligini yaratishning amaliy misoli bo‘lib, kelajakda ko‘proq integratsiyalashgan, xavfsiz va o‘zini o‘zi nazorat qiluvchi tizimlar uchun asos bo‘lishi ehtimoli yuqori.

Asl manba: divagr.com