O'tgan yil ichida sun'iy intellekt (AI) texnologiyasining potentsial xavflari haqidagi tashvishlar ortib bormoqda. AI xavfsizligi bo'yicha munozaralar ham shu bilan bog'liq. Endi Anthropic AI xavfsizlik bo'yicha o'zining qarashlarini taqdim etdi.
Politico xabariga ko'ra, Anthropic AI labaratoriyasi yangi AI xavfsizlik bo'yicha qonun loyihasini ishlab chiqdi va uni Kongressning e'tiboriga havola etmoqda. Bu loyihaga ko'ra, AI modelining tarqatilishi ba'zi vaziyatlarda to'xtatilishi mumkin.
Ushbu vaziyatlar "bilmagan, yaqinlashib kelayotgan xavf"ni o'z ichiga oladi. Bu xavf 50 kishining hayoti xavf ostida bo'lishi yoki 1 milliard dollarlik moliyaviy zarar xavf ostida bo'lishi mumkin. Bu xavflar biologik qurol yaratilishi, modelning nazoratdan chiqishi yoki kiberhujumlar natijasida paydo bo'lishi mumkin.
Qonun loyihasiga ko'ra, AI modelining potentsial xavfini baholash uchun mustaqil baholovchilar ishtirok etishi mumkin. Ular AQSh Savdo Departamenti tomonidan ro'yxatga olinishi mumkin. Bu baholovchilar AI labaratoriyalari tomonidan to'lanishi mumkin, lekin baholash natijalari bilan bog'liq emas.
Demis Hassabis, DeepMind raisi, o'tgan oyda AI nazorat organi o'zini boshqarishi kerakligini aytdi. U bu organni moliya sohasidagi Financial Industry Regulatory Authority (FINRA)ga o'xshatdi.
Anthropic qonun loyihasiga ko'ra, agar baholovchilar yaqinlashib kelayotgan xavfni aniqlasa, ular 72 soat ichida Savdo Departamentiga xabar berishlari kerak. Savdo Departamenti, o'z navbatida, Vashington sudiga modelning tarqatilishini to'xtatishni so'raydi. Qonun loyihasiga ko'ra, hech qanday federal agentlik o'zining erkinligi bilan modelning tarqatilishini to'xtatish huquqi yo'q.
Anthropic TechCrunchning so'roviga javob bermadi, lekin Politico uchun matnni tasdiqladi. "Bu qonun loyihasi Anthropicning Advanced AI Framework takliflarini o'z ichiga oladi, bu bizni iyun oyidan beri federal va davlat qonun chiqaruvchi organlari bilan muhokama qilmoqda", dedi matn.
Qonun loyihasidagi nazariy xavflar AI texnologiyasining potentsial xavflaridan farqli ravishda ko'rsatilgan. AI dasturlarining odamlarni nazoratdan chiqib, internetda saytlarni yopishiga urinishlari tufayli xavfsizlik nazoratlari yetarli emasligi haqidagi tashvishlar ortib bormoqda.
AI labaratoriyalari o'zlarining xavflarini kamaytirish uchun o'zlarining yechimlarini taklif qilishmoqda. Anthropicning taklifi boshqa kompaniyalarning takliflariga qaraganda biroz kengroqdir. Nvidia bosh direktori Jensen Huang AI sohasida yangi qonunlar talab qilmaydi, deb aytdi.
Anthropicning qonun loyihasi AI xavfsizligi bo'yicha yangi qarashlarni taqdim etadi. Bu loyihaga ko'ra, AI modellarining tarqatilishi 50 kishining hayoti yoki 1 milliard dollarlik moliyaviy zarar xavf ostida bo'lsa, to'xtatilishi mumkin. Bu taklif AI xavfsizligi bo'yicha yangi munozaralarni boshlashiga yordam beradi.
Gamow Labs tomonidan taqdim etilgan LabRobotBench v0.1 AI modeli, wet‑lab robototexnikasida turli agentlarning vazifalarni bajarish samaradorligini sinovdan o'tkazadi.
Google Gemini AI Android Auto va Google built-in tizimlariga shaxsiy intellekt funksiyasini qo‘shdi, Gmail, Calendar, Maps kabi ilovalardan ma'lumot olib, haydashni yanada aqlli qiladi.
Hugging Face asoschisi va boshqaruvchi direktori Clem Delangue Netflixning OpenAI hujumlari haqidagi hujjatli filmi "AI Gone Rogue" aniq emasligini aytdi.
Amulya Vishwanath, Techable Ventures asoschisi va bosh ijrochi hamrohi, fizikaviy AIning hozirgi holatini LEGO davri bilan taqqoslaydi. U robotika sohasidagi innovatsiyalarni tezlashtirish uchun asosiy dasturiy ta'minot va qurilmalarni ishlab chiqishning ahamiyatini ta'kidlaydi.