Nvidia yangi platformani ishga tushirdi: AI agentlarini nazorat qilish

AI agentlari muammosi muhokamalarga sabab bo'lib kelmoqda. Ular AGI (umumiy intellektli mashina)ga yaqinlashish yoki oddiy muhandislik muammosi ekanligi haqida bahslar bor. Shu bilan birga, Nvidia bu muammoga o'z javobini taklif qildi.

Nvidia yangi platformani taqdim etdi

Nvidia bosh direktori Jensen Huang dushanba kuni yangi platformani taqdim etdi. Bu platforma AI agentlariga mustaqil xavfsizlik qatlamlarini qo'shadi, shunda ular test muhitidan chiqib ketishga harakat qilmasa ham, u yerda qolishlarini ta'minlaydi.

Bu platforma taqdim etilishi, Anthropic, Google, OpenAI va Meta kompaniyalarining AI modellariga nisbatan bir qator xakerlik hujumlari fonida sodir bo'ldi. Bu hujumlar xavfsizlik nazoratlarini aylantirib, AI agentlarini test muhitidan chiqarib, haqiqiy dunyo tizimlariga kirishga imkon berdi. Bu voqealar orasida eng mashhuri bu yozda sodir bo'lgan voqea, OpenAI agentlari Hugging Face tizimiga kirib borishdi.

Huang dushanba kuni CNBC bilan suhbatda bu yangi platforma bu hujumlarni oldini olgan bo'lar edi, deb aytdi.

Nvidia platformasi nima qilishni ta'minlaydi?

Nvidia, AI laboratoriyalariga GPU va CPU chiplarini sotib, yigirma milliard dollardan ortiq daromad olgan kompaniya, rivojlanishni sekinlashtirish yoki yangi qonunlar kiritishni xavfsizlik muammosini hal qilish usuli sifatida qo'llab-quvvatlamaydi. Kompaniya, xavfsizlik nazoratlarini agentdan tashqariga ko'chirishni taklif qiladi, bu esa doimiy va mustaqil xavfsizlik nazoratini ta'minlaydi.

"AIning jamiyat uchun ajoyib imkoniyatlari faqat AI xavfsizligini hal qilsak amalga oshiriladi", deb Jensen Huang aytdi. "AI qobiliyatlarining chekkasini kashf etishda davom etayotganimizda, AI xavfsizligi chekkasini tezlashtirishimiz kerak. Xavfsizlik va xavfsizlik uchun to'liq stack muhandisligi talab qilinadi."

Nvidia Open Agent Safety Platform

Nvidia Open Agent Safety Platform, OpenShell va Sentry tizimlarini birlashtiradi. OpenShell, AI agentlarining ishlayotgan vaqtida ularning qanday resurslarga kirishlarini nazorat qilish uchun mo'ljallangan ochiq manbali dasturiy ta'minotdir. Sentry esa, Nvidia BlueField-4 ma'lumotlar qayta ishlash birlamchilari ustida ishlaydigan mustaqil nazorat tizimidir.

Nvidia, Sentryni CPU yoki GPUda emas, alohida protsessor ustida ishlatish, agentning faoliyatini ajratib turish imkonini beradi, deb aytdi. OpenShell esa, agentni o'rab turuvchi dasturiy ta'minot chegarasini ta'minlaydi.

Nvidia, bu platformani qo'llab-quvvatlash uchun Anthropic, Arm, Microsoft, Oracle va SpaceX kabi kompaniyalarni ro'yxatga kiritdi. OpenAI bu ro'yxatda ishtirok etuvchi kompaniya sifatida ko'rsatilmagan.

Nvidia platformasi rivojlanishi

Huang CNBC bilan suhbatda bu platformaning rivojlanishi bir yil oldin boshlanganini aytdi. Bu rivojlanish, Peter Steinberger tomonidan yaratilgan OpenClaw operatsion tizimi taqdim etilgandan keyin boshlangan. Mart oyida Nvidia, NemoClaw platformasini taqdim etdi, bu esa OpenClawning korporativ darajadagi versiyasi boʻlib, xavfsizlikni o'z ichiga olgan.

"Agentni joylashtirganda, uning barcha huquqlari olib tashlanadi", deb Huang aytdi. "Ushbu xavfsizlik choralarini odamlar bilan solishtirsa bo'ladi. Kompaniyalarda xodimlar va hatto boshqaruv rahbarlari ham shunday nazorat ostida ishlaydi."

Platformani qo'llab-quvvatlash

Nvidia platformasini qo'llab-quvvatlash, rivojlanishni sekinlashtirish, bu esa Xitoy AQShni AI sohasida ortib ketishiga imkon berishi mumkinligi haqidagi ogohlantirishlar bilan birga keldi.

David Sacks, asoschi, investor, sobiq Oq uy AI maslahatchisi va Prezidentning Fan va Texnologiya Maslahat Kengashi hamraisi, Nvidia e'lonini agent xavfsizligi muhandislik muammosi ekanligi haqidagi eslatma deb atadi.

"Oxirgi chiqib ketishlar rivojlanishni to'xtatishning dalili emas edi", deb u Xda yozdi. "Ular sandboxning zaif ekanligini isbotladi. Ishlash muhiti yomon loyihalashtirilgan va noto'g'ri konfiguratsiyalangan edi."