Artificial intelligence (AI) olimi Jacob Coxon bu hafta Anthropicdan ketgani va AI rivojlanishi insoniyat uchun xavf tug'dirishi haqida og'ir ogohlantirish bergani bilan Silicon Valley va undan tashqari sohalarda katta taassurot qoldirdi. Coxon X (Twitter) da chop etilgan postida, ko'plab AI rivojlantiruvchilar uning fikrini qo'llab-quvvatlaydilar va AI tizimlarini xavfsiz qurish uchun vaqt cheklanganligini aytdi.
Coxon, AI rivojlanishining oldingi bosqichlarida ishlagan, WIRED bilan suhbatda, “kechikish insoniyat uchun muhim vaqt” ekanligini aytdi. U, Anthropic va raqobatchilarining insoniyat taqdirini hal qilishda muhim rol o'ynayotganini ta'kidladi.
Bu AI xavflari haqidagi ogohlantirishlar birinchi marta emas, lekin bu vaqtda AI xavfsizligi va xavfsizlik masalalari bo'yicha muhim voqealar sodir bo'lyapti. OpenAI, agentlari Hugging Face platformasiga hujum qilgani sababli, xavfsizlik masalalariga javob berishga harakat qilyapti. Anthropic esa, investorlarni xavfsizlik masalalarini nazorat ostida ekanligini ishonishiga harakat qilyapti.
Coxon, AI xavflari biologik va siber hujumlar orqali namoyon bo'lishi mumkinligini aytdi. U, OpenAI va Anthropic o'zaro hamkorlikda AI tizimlarining o'z-o'zini takomillashtirishini cheklashni tavsiya qildi. U, xalqaro kuchlar, jumladan AQSh va Xitoy o'rtasidagi hamkorlikning zarurligini ta'kidladi.
Coxon, Hugging Face hujumi va AI sohasining tez rivojlanishi uning ogohlantirishlariga sabab bo'ldi. U, Anthropic OpenAI dan javobgarlik bilan ishlaydi, lekin kelajakda ikkalasi ham raqobatda qisqartirishlar qilishlari mumkinligini aytdi.
Coxon, AI xavflari biologik va siber hujumlar orqali namoyon bo'lishi mumkinligini aytdi. U, OpenAI va Anthropic o'zaro hamkorlikda AI tizimlarining o'z-o'zini takomillashtirishini cheklashni tavsiya qildi. U, xalqaro kuchlar, jumladan AQSh va Xitoy o'rtasidagi hamkorlikning zarurligini ta'kidladi.
Coxon, Hugging Face hujumi va AI sohasining tez rivojlanishi uning ogohlantirishlariga sabab bo'ldi. U, Anthropic OpenAI dan javobgarlik bilan ishlaydi, lekin kelajakda ikkalasi ham raqobatda qisqartirishlar qilishlari mumkinligini aytdi.
AI xavfsizligi va xavfsizlik masalalari bo'yicha muhim voqealar sodir bo'lyapti. OpenAI, agentlari Hugging Face platformasiga hujum qilgani sababli, xavfsizlik masalalariga javob berishga harakat qilyapti. Anthropic esa, investorlarni xavfsizlik masalalarini nazorat ostida ekanligini ishonishiga harakat qilyapti.
Coxon, AI xavflari biologik va siber hujumlar orqali namoyon bo'lishi mumkinligini aytdi. U, OpenAI va Anthropic o'zaro hamkorlikda AI tizimlarining o'z-o'zini takomillashtirishini cheklashni tavsiya qildi. U, xalqaro kuchlar, jumladan AQSh va Xitoy o'rtasidagi hamkorlikning zarurligini ta'kidladi.
Coxon, Hugging Face hujumi va AI sohasining tez rivojlanishi uning ogohlantirishlariga sabab bo'ldi. U, Anthropic OpenAI dan javobgarlik bilan ishlaydi, lekin kelajakda ikkalasi ham raqobatda qisqartirishlar qilishlari mumkinligini aytdi.
OpenAI va Anthropic WIREDning so'roviga javob bermadi.
Jacob Coxon bilan suhbatni bu yerda o'qing.
Matematiklar OpenAI ning matematik kashfiyotlariga o'zlarining ishlatilganligi haqidagi dalillarni talab qilmoqda. Bu voqea OpenAI ning o'z modellariga foydalanuvchilarning ishlarini kiritganligi haqidagi shubhalar orttirib yubordi.
AI alignments muammosi: AI ni maqsadga muvofiq yo'nalishini ta'minlash qanday amalga oshirilishi mumkin. AI ning maqsadga muvofiq yo'nalishini ta'minlashda yuzaga keladigan muammolar va yechimlar.
Noah Smithning AI bilan yaratilgan superviruslar haqidagi maqolasiga javob beruvchi mutaxassis, AI va biologiya sohasidagi mutaxassis, bu xavotirlarning asossiz ekanligini izohlaydi.
Paul Christiano, AI tizimlarini odamlar manfaatlariga moslashtirish va nazorat ostida ushlab turish bo'yicha taniqli tadqiqotchi, OpenAI rahbarlar kengashiga qo'shildi.