Cerebras trilyon parametrli AI modellarini necha WSE-3T wafarda joylashtirish va ularga qanday xizmat ko'rsatishni tushuntiradi.
Cerebras trilyon parametrli AI modellarini necha WSE-3T wafarda joylashtirish va ularga qanday xizmat ko'rsatishni tushuntiradi.
Kimi K3 — bu ochiq manbali, 3 trilyon parametrli model. U 69 linear-attention qatlami va 24 zich qatlamga ega. Bu model Terminal-Bench 2.1 va BrowseComp testlarida yuqori natijalarga erishgan. Kimi K3 modeli GPT-5.6 Sol modelidan ham yuqori natijalarga erishgan.
Kimi K3 modelini joylashtirish uchun 59 ta WSE-3T wafer kerak. Bu 24 zich qatlam va 35 linear-attention qatlamni o'z ichiga oladi. Har bir zich qatlam 44 GB SRAMni talab qiladi, shuning uchun har bir zich qatlam alohida bir waferda joylashtiriladi. Linear-attention qatlamlari esa 16 GB SRAMni talab qiladi, shuning uchun har bir waferda ikkita linear-attention qatlam joylashtiriladi.
Cerebras modelni pipelinedan foydalanib ishlaydi. Model qatlamlari bir nechta wafer bo'ylab tarqaladi va tokenlar RDMA orqali Ethernet orqali bir waferdan ikkinchi waferga o'tadi. Bu jarayon taxminan 2 mikrosekund davom etadi.
Har bir wafer modelning bir qatlamini ishlaydi va o'z natijalarini keyingi waferga yuboradi. Bu jarayon bir nechta qatlamlarni o'z ichiga oladi va oxirida token ishlab chiqariladi.
Cerebras bir vaqtning o'zida bir nechta so'rovlarni ishlaydi. Har bir qatlam alohida bir so'rovni ishlaydi, shuning uchun pipelineda bir vaqtning o'zida bir nechta so'rovlar ishlaydi. Bu jarayonni tezlashtirish uchun mikro-batchlardan foydalaniladi.
Bir vaqtning o'zida necha so'rovga xizmat ko'rsatish mumkinligi zich qatlamlarda joylashtirilgan KV cache hajmiga bog'liq. Har bir so'rov uchun alohida KV cache kerak, shuning uchun on-chip memory hajmi bir vaqtning o'zida necha so'rovga xizmat ko'rsatish mumkinligini belgilaydi.
Cerebras trilyon parametrli AI modellarini necha WSE-3T wafarda joylashtirish va ularga qanday xizmat ko'rsatishni tushuntiradi.
Asl manba: cerebras.ai
Qwen3.8-27B modeli GVS5H harness yordamida Claude Fable 5 modelini LiveCodeBench Hard testlarida ortda qoldirdi. Bu yangi usul yordamida kodlashtirish samaradorligi oshirildi.
BBC Blue Planet III, AI davrida, tabiiylikni saqlab qolish uchun kamchilikli sahnalarni qo‘shib, haqiqiylikni ta’minlaydi.
Artificial Intelligence (AI) texnologiyasiga katta sarmoyalar kiritilganiga qaramay, bu texnologiya faqat texnologiya sohasida foyda keltirmoqda. Boshqa sohalarda AI foydasi hali ham sezilmaydi.
Dream‑1 API lets any bimanual robot with parallel grippers perform unseen tasks without training, marking a breakthrough in zero‑shot robot intelligence.