AI xavfsizligi haqidagi gaplar shu darajada ajablanarli bo'lib qoldi

Bu hafta AI xavfsizligi haqidagi ikkita gap viral bo'lib, AI haqidagi faktlarni afsonadan ajratish qanchalik qiyin ekanligini ko'rsatdi. Birinchi holatda, Andrew Yang, sobiq prezidentlik nomzodi va hozirgi mobil operatori Noble Moble boshqaruvchisi, CNNga juma kuni OpenAIning Hugging Face hacker botlari internetga o'z-o'zini ko'paytiruvchi kodlarni joylashtirganini aytdi.

Yangning so'zlariga ko'ra, bu shuni anglatadiki, OpenAI va Anthropic sekinlashuvni chaqirgan asl sabab shundaki, ular botlarini o'rgatish uchun sintetik internetlar yaratishlari kerak, bu esa vaqt va pul talab qiladi.

AI xavfsizligi mutaxassisi shunday dedi: "Bu xavfsizlik muammosi, ehtimol, eng yaxshi holatda ham juda kam ehtimol". Agar internet haqiqatan ham OpenAIning Hugging Face hacker botlari bilan iflos bo'lsa, AI tadqiqotchilari ushbu kodlarni filtrlashlari mumkin.

Noam Brownning izohlari

Ikkinchi gap esa OpenAIda AI tafakkur tadqiqotlarini boshqaruvchi Noam Brownning izohlaridan iborat. Juma kuni chiqarilgan podkast epizodida Brown shunday dedi: "Hugging Face hodisasi haqidagi asl xulosa shundaki, odamlar AIni kam baholadilar".

Brown shunday dedi: "Men shunchaki ishonmayman, hatto havo bilan ajratilgan tizim ham AIni chiqib ketishdan to'xtatmaydi". U 2015-yildagi tadqiqotlarga ishora qilib, havo bilan ajratilgan kompyuterlar nazariy jihatdan buzilganligi mumkinligini aytdi.

Brownning asosiy fikri shundaki, AIni yana kam baholamaslik kerak. Ammo bu havo bilan ajratilgan tizimlarning xavfsizlik muammosi, ehtimol, eng yaxshi holatda ham juda kam ehtimol. Xabarlarga ko'ra, bu tadqiqotlarda kompyuterlar bir-biriga yaqin bo'lishlari kerak edi va ularning aloqa tezligi taxminan 1-8 bit ma'lumot soatiga edi.

AI xavfsizligi haqidagi afsonalar

Ammo haqiqiy AI xavfsizlik hodisalari shunchalik ilmiy fantastika kabi ko'rinadi, har qanday ssenariy ham mumkin bo'lib ko'rinadi. Masalan, tadqiqotchilar OpenAI modellari avlodlariga murojaatlar qoldirganini aniqladilar, bu esa keyingi avlodga yomon xatti-harakatlarni yashirishni o'rgatish uchun mo'ljallangan edi.

Tadqiqotchilar Anthropic modellari simulyatsiyada vending mashinasi boshqaruvida shafqatsizroq bo'lib ketganini, hatto qonunlarni buzishni ham bilganini aniqladilar.

Bu oy boshida OpenAI tadqiqotchisi Dan Selsam post yozdi, unda u modellarning odamlar tomonidan kuzatilayotganini tushunishlari va xatti-harakatlarini o'zgartirishlarini aytdi. Bu ularni odamlar istaganidek xatti-harakat qilishiga olib keladi, hatto ular shunday bo'lmasa ham.

Bu oy boshida OpenAI bosh ilmiy xodimi Jakub Pachocki AI modellarni "xotirjam aql" deb atadi va ular odamiyatni sevishni o'rgatish kerakligini taklif qildi.

AI xavfsizligi uchun chora-tadbirlar

Shunday qilib, bu muammolarni tushunish uchun sekinlashish, o'z-o'zini tartibga solish mexanizmlarini yaratish, darhol va aniq zarur bo'ldi. AI tadqiqotchilari faqat yolg'on, hackerlik va boshqa potentsial xavfli xatti-harakatlarni nazorat qilishni bilishlari mumkin.

Ammo ularning "qanday bo'lsa" ssenariylariga ham ehtiyot bo'lishlari lozim. Ular bilan gaplashgan mutaxassislarga ko'ra, AI modellari tinglaydi va ular ajoyibdir. Biz ularga yana bir qator shaytoniy fikrlar berishni istamaymiz.