Dushanba kuni Google TorchTPU, uzoq kutib kelingan PyTorch versiyasini ochiq manbali loyihasi sifatida e'lon qildi. Bu orqali Google Amazon bilan birga Nvidia AI bozoridagi ustunliklarini buzishga harakat qilmoqda. Hozirgi kunda ko'pchilik AI ilovalari Nvidia grafik protsessorlari (GPU) uchun yoziladi.
PyTorchning ahamiyati
PyTorch — bu AI ilovalari va startaplar tomonidan ishlatiladigan mashhur ochiq manbali vosita. Ba'zi hisob-kitoblarga ko'ra, 85% AI ilovalari PyTorchdan foydalanadi. Bu vosita Meta (avval Facebook) tomonidan 2016-yilda ishlab chiqilgan edi, ya'ni katta til modellari (LLM) dunyoni o'zgartirishi haqida hech kim bilmasdan. Shu vaqtda Nvidia GPUlari AI tadqiqotlari uchun standart uskuna edi, shuning uchun PyTorchning ko'p xususiyatlari Nvidia uskunalari bilan ishlash uchun mo'ljallangan edi. 2022-yilda Meta PyTorchni Linux Foundationga topshirdi, bu esa ko'p muhim ochiq manbali loyihalarni boshqaradi.
Googlening TorchTPU
Googlening TorchTPU versiyasi AI ilovalarini Google AI chiplariga, ya'ni Tensor Processing Units (TPU)ga o'tkazish imkonini beradi. Bundan tashqari, mavjud PyTorch ilovalarini TPUga va shu bilan birga Google Cloudga osonlik bilan o'tkazish mumkin. Dasturchilar bu ishni oddiy konfiguratsiya o'zgarishlari bilan bajarishlari mumkin, ilovalarini qayta yozish shart emas.
Amazonning TorchNeuron
Amazon ham o'z versiyasini, TorchNeuronni e'lon qildi. Bu versiya AI ilovalarini Amazonning o'z AI chipiga, Trainiumga o'tkazish imkonini beradi. Bundan tashqari, Amazon AWSga o'tkazish uchun ilovalarni qayta yozish shart emas. Amazon Nvidia PyTorch ustidan nazoratini zaiflashtirishga harakat qilmoqda. Ushbu kompaniya PyTorchning asosiy loyihasiga kodni kiritmoqda, bu esa Nvidia chiplariga bog'liq xususiyatlarni ajratib, har qanday uskunaga ochiqroq qilishga imkon beradi.
Googlening afzalliklari
Google Amazonni bir necha yo'nalishda ortda qoldira olishi mumkin. U Meta, Hugging Face, Inferact (vLLM ishlab chiqaruvchisi) va RadixArk (SGLang ishlab chiqaruvchisi) bilan birga ishlagan. Bu esa TorchTPUning xususiyatlari va kod kutubxonalari mashhur AI ishlab chiqish vositalari bilan yaxshi ishlashini ta'minlaydi. Bundan tashqari, Google TPU agent suite deb nomlangan maxsus vositani ishga tushirdi, bu esa dasturchilarning ilovalarini Google chiplariga va bulutga o'tkazish va xatolarni tuzatish jarayonini osonlashtiradi. Ushbu kompaniya mashhur LiteRT vositasini ham yangiladi, bu esa AI ilovalari uchun telefonlar, noutbuklar va kiruvchi qurilmalarda yaxshiroq ishlashini ta'minlaydi.
Oqibatlar
Bunday harakatlar AI ilovalari dasturchilarining Nvidia uskunalaridan voz kechishiga olib kelishi mumkin. Lekin Amazon va Google Nvidia ustunligini buzishga harakat qilmoqda. Bu raqobat AI bozoridagi innovatsiyalarni tezlashtirishi va dasturchilar uchun ko'proq tanlov imkoniyatlarini yaratishi mumkin.