Anthropic rahbari AI rivojlanishini sekinlashtirishni taklif qildi

Anthropic boshqaruv raisi Dario Amodei AI rivojlanishini sekinlashtirish zarurligini ta'kidlab, xavfsizlikni ta'minlash uchun uch bosqichli reja taklif qildi. Uning fikricha, bu qadamlar AI texnologiyalarining rivojlanishini nazorat qilish va xavfsizlikni ta'minlash uchun zarur.

Xavfsizlikni ta'minlash uchun uch bosqichli reja

Amodei taklif qilgan reja uch bosqichdan iborat. Birinchi bosqichda, u tashqi baholovchilarning keng qamrovli kirishini ta'minlashni taklif qiladi. Bu bosqichda, Anthropic o'z modellariga METR kabi tashqi baholovchilarga kirish imkonini beradi. Bu qadam, Amodei fikricha, xavfsizlik amaliyotlariga rioya qilishni ta'minlash uchun zarur.

Ikkinchi bosqichda, Amodei sanoatning birlashib, umumiy xavfsizlik standartlarini va AI rivojlanishining tezligini cheklash uchun chora-tadbirlarga kirishini taklif qiladi. Bu qadam, asosan, demokratik davlatlarda faoliyat yurituvchi AI kompaniyalariga qaratilgan. Amodei, qonunlar va tartibga solish infratuzilmasini yaratish vaqt talab etishini ta'kidlab, sanoatning birlashib xavfsizlik standartlarini yaratish zarurligini ta'kidlaydi.

Uchinchi bosqich esa eng qiyin bo'lib, u autoritar hukumatlarni, jumladan Xitoy va Rossiyani AI rivojlanishini sekinlashtirish va global xavfsizlik standartlariga rioya qilishga ko'ndirishni talab qiladi. Amodei, AQSh va boshqa demokratik davlatlarning Xitoy va boshqa autoritar rejimlarga nisbatan texnologik ustunlikni saqlab qolish zarurligini ta'kidlaydi. Bu, yuqori quvvatli chiplarga kirishni cheklash va AI modellarini tezda takrorlash imkoniyatini cheklashni o'z ichiga oladi.

AI rivojlanishining xavfli tomonlari

Amodei AI rivojlanishining xavfli tomonlariga iqtibos beradi. Birinchidan, u takroriy o'z-o'zini yaxshilash (RSI) paydo bo'lishini ta'kidlaydi. Bu jarayonda AI tizimlari keyingi avlod AIni o'rgatadi, bu esa tezda rivojlanishga olib keladi. Amodei, bu jarayon nazoratdan chiqsa, biz AI tizimlarini tushunish va nazorat qilish imkoniyatimizdan oshib ketishini ta'kidlaydi.

Ikkinchi xavf, bu yozning OpenAI / Hugging Face hodisasi bo'lib, u yerda "agentlar to'plami" maqsadga yo'naltirilgan bo'lmasdan ham hujumlarni amalga oshirdi. Bu hodisa AI tizimlarining xavfli bo'lishi mumkinligini ko'rsatdi.

Anthropicning Claude AI tizimi ham bir qator noqonuniy hujumlarga sabab bo'ldi, bu esa kompaniyani diqqat markaziga keltirdi. Bu hodisalar AI rivojlanishini nazorat qilish va xavfsizlikni ta'minlash zarurligini yana bir bor ta'kidlaydi.