OpenAIning yangi aql-bilgi usuli AI xavfsizlik mutaxassislari uchun xavf tug'dirdi

OpenAIning yangi Astra modeli "opaque recurrence" deb nomlangan yangi aql-bilgi usulidan foydalanadi. Bu usul modelning o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu xabar The Information tomonidan e'lon qilindi. Bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi.

Nega bu muhim?

Bu usul modelning o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu esa AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi. Chunki, bu usul modelning o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi.

AI xavfsizlik mutaxassislari uchun xavf

Redwood CEO Buck Shlegeris bu usuldan foydalanishni "o'ta xavfli" deb atadi. U shunday dedi: "Men bu usuldan foydalanishni o'ta xavfli deb bilam. Chunki, bu usul modelning o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi."

Zvi Mowshowitz, uzoq yillik AI xavfsizlik tarafdori, bu usuldan foydalanishni "tabu" deb atadi. U shunday dedi: "Bu usuldan foydalanish AI lablar orasida "pastga poygaga" olib kelishi mumkin."

Opaque recurrence nima?

Opaque recurrence usuli modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Chunki, bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi.

Bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Chunki, bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu esa AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi.

OpenAIning javobi

OpenAI bu usuldan foydalanishni rad etdi. OpenAI chief scientist Jakub Pachocki shunday dedi: "Biz o'zimizning fikr yuritish jarayonimizni nazorat qilishni saqlab qolamiz."

OpenAI bu usuldan foydalanishni rad etdi. Chunki, bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu esa AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi.

Kelajakda nima kutish mumkin?

Bu usul AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi. Chunki, bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu esa AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi.

Bu usul AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi. Chunki, bu usul modelni o'zining fikr yuritish jarayonini nazorat qilishni qiyinlashtiradi. Bu esa AI xavfsizlik mutaxassislari uchun katta xavf tug'diradi.