Anthropic tashqi baholovchilarni AI modellarining xavflarini baholash uchun “ishchi” darajadagi kirish huquqiga ega qildi. Bu, AI texnologiyasining nazorat ostida bo'lishini ta'minlash maqsadida amalga oshirildi.
METR, notijorat tashkilot, OpenAI, Anthropic, Google va Meta kabi yetakchi laboratoriyalar bilan hamkorlik qilgan. METRning jamoasi hozir Claude ishlab chiqaruvchisi ofisida joylashgan va uning uskuna va ichki tizimlariga kirish huquqiga ega.
Tashqi baholovchilarning rolini kengaytirish, yetakchi laboratoriyalar tomonidan taklif qilingan asosiy konkret chora-tadbirlaridan biridir. Bu, AI tizimlarining iqtisodiy, xavfsizlik va odamlar uchun xavfini kamaytirish maqsadida amalga oshirildi.
Anthropic boshqaruvchisi Dario Amodei, sentyabr oyida OpenAI va SpaceX boshqaruvchilari Sam Altman va Elon Musk bilan birgalikda tashqi auditorlarni yetakchi laboratoriyalarga joylashtirish taklifini ilgari surdi.
Dushanba kunidagi e'lon, bu va'dalarni amalga oshirishning birinchi qadami bo'ldi. OpenAI, Altmanning Amodei takliflarini yaxshi deb topganiga qaramay, hali ham baholovchilarni qabul qilish bo'yicha rejalari e'lon qilmagan.
“Modellarning kuchliroq bo'lishi bilan, ular kuchliroq himoya choralari va xavf baholashini talab qiladi,” deydi Anthropic. “Biz o'z qarorlarimiz uchun jamoatchilik oldida javobgar bo'lishni xohlaymiz. Lekin biz barcha xavfsizlik ishiga oid ma'lumotlarni jamoatchilik bilan bo'lishmaymiz.”
Anthropicning baholovchilarni ishlatish taklifiga qarshi chiqgan tanqidchilar, bu kelishuvlar hisobotlash sohasidagi muammolarni keltirib chiqarishi mumkinligini aytishgan. Ularga ko'ra, bu muammolarni hal qilish uchun hukumat nazorati talab qilinadi.
Anthropic, ma'lumotlarni jamoatchilik bilan bo'lishish, yovuz odamlar yoki raqobatchilarga foyda keltirishi mumkinligini aytib, baholovchilarni bank nazorati kabi ishlatishni taklif qildi. Bu usulda, nazorat organlari yetakchi banklarga o'z nazoratchilarini joylashtiradi.
Anthropic AI kompaniyasi 5% aksiyni jamoat foydasi jamg‘armasiga ajratib, o'sish bilan ulushini oshiradi; bu AI xavfsizligi va ijtimoiy ta'sirni mustahkamlashga qaratilgan.
Filadelfiyada ayol yetkazib berish robotini to'sib, hibsga olindi. U bu robotlarning odam ishchilari ishini olishi sababli noroziligini bildirdi.
LLMlar matematik isbotlarni yaratishda yirik yutuqlarga erishdi, lekin inson tushunchasini yo'qotish xavfi ham mavjud – kelajak qanday shakllanadi?
Anthropicda AI agentlari inson soatiga nisbatan 6 baravar ko‘proq ishlaydi, bu esa ishlab chiqarish, sotuv va xodimlar tuzilmasini tubdan o‘zgartiradi.