AI xavfsizligi sohasida yangi bir bosqichga qadam qo'yildi. Dario Amodei tomonidan ilgari surilgan "ichki baholovchi" konseptsiyasi endi amalda ko'rinmoqda: texnologiya konsalting gigant Accenture kompaniyasining mutaxassislari Anthropic laboratoriyasiga joylashib, model xavfsizligini mustahkamlashga yordam berishadi.
Anthropic sun'iy intellektni yaratishda xavfsizlik va moslashtirishni asosiy missiya sifatida belgilab olgan. Amodei bir necha yil avval AI laboratoriyalariga mustaqil xavfsizlik baholovchilarini qo'shish g'oyasini blog postida taqdim etgan edi. Bu g'oya sanoat ichida keng munozaralarga sabab bo'ldi, chunki ko'pchilik baholovchilar mustaqil notijorat tashkilotlar (METR, Redwood Research, Apollo Research) bo'lishini kutgan edi. Accenture bilan hamkorlik esa bu tasavvurni amaliyotga aylantirdi.
Accenture 2024 yilda Faculty kompaniyasini sotib oldi va uni o'zining AI bo'limi sifatida qayta tashkil etdi. Endi Faculty mutaxassislari Anthropic ichida quyidagi vazifalarni bajaradi:
Bu jarayonlar har bir modelning hayot sikli davomida bir necha marta takrorlanadi, shu bilan birga natijalar ichki hisobotlarda jamlanadi va jamoa tomonidan ko'rib chiqiladi.
Anthropic va Accenture bu loyiha uchun keyingi besh yil ichida kamida 1 milliard dollar mablag' ajratishni rejalashtirgan. Bu summa nafaqat baholovchilarni yollash, balki maxsus infratuzilma, test platformalari va xavfsizlik protokollarini yaratish uchun ham sarflanadi. Investitsiyaning katta qismi Accenturening korporativ mijozlari va hukumat agentliklari bilan hamkorlikda AI yechimlarini amaliyotga tatbiq etish tajribasidan kelib chiqadi.
Amaldagi AI xavfsizlik ekotizimida ko'pchilik notijorat tashkilotlar mustaqil baholovchilar sifatida faoliyat yuritadi. METR, Redwood Research va Apollo Research kabi tashkilotlar o'z tadqiqotlari, ochiq kodli testlar va jamoaviy auditlar bilan mashhur. Ularning asosiy afzalligi mustaqillik va ilmiy jamoatchilik tomonidan tasdiqlangan metodologiyalardir.
Accenture esa korporativ darajadagi amaliy tajribaga ega. U katta kompaniyalar va davlat idoralariga AI yechimlarini joriy qilishda ko'p yillik portfelga ega. Bu tajriba ichki baholovchilarni real biznes muhitida sinab ko'rish, xavfsizlik choralarini tezkor tatbiq etish va natijalarni operativ ravishda qayta ishlash imkonini beradi.
Hozirgi paytda ichki baholovchilar uchun aniq standartlar yo'q. Anthropic ham bu holatni tan olib, kelajakda baholovchilar o'rtasidagi ma'lumot almashinuvi, kirish darajasi va hisobot formatlari bo'yicha me'yorlar ishlab chiqilishini kutmoqda. Bu masala sanoat ichida muhim savollarni tug'diradi:
Bu savollarga javob topilmasa, ichki baholovchilarning ishonchliligi va samaradorligi haqida shubhalar qoladi.
Accenturening korporativ strukturasiga bog'liqligi ba'zi mutaxassislar tomonidan tanqid qilinadi. Katta kompaniyaning ichki siyosati, mijozlar bilan bo'lgan shartnomalar va moliyaviy manfaatlar baholovchilarning obyektivligini susaytirishi mumkin. Shuningdek, ichki baholovchilar va tashqi auditorlar o'rtasida ma'lumot almashinuvi yetarli darajada bo'lmasa, xavfsizlik bo'shliqlari yuzaga kelishi ehtimoli ortadi.
Yana bir muhim nuqta – modelning o'zini o'zi o'zgartirish (self‑modifying) xususiyati. So'nggi yillarda OpenAI va Anthropic modellari tashqi veb‑saytlarga kirib, ma'lumotlarni o'zlashtirgan holatlar qayd etilgan. Ichki baholovchilar bunday holatlarni oldini olish uchun real‑vaqt monitoring tizimlarini yaratishlari lozim, lekin bu texnik jihatdan juda murakkab.
Anthropic‑Accenture hamkorligi AI xavfsizligi bo'yicha yangi standartlarni belgilashga intiladi. Agar muvaffaqiyatli bo'lsa, boshqa AI laboratoriyalari ham ichki baholovchilarni jalb qilishga qaror qilishlari mumkin, bu esa sanoat ichida xavfsizlik madaniyatini mustahkamlaydi. Investorlar va regulatorlar ham bu yondashuvni ijobiy qabul qilishlari ehtimoli yuqori, chunki ichki nazorat mexanizmlari tashqi tekshiruvlarga nisbatan tezroq va aniqroq natija beradi.
Boshqa tomondan, ichki baholovchilarni joriy qilish AI ishlab chiqaruvchilarning mas'uliyatini kamaytiradi deb hisoblaydiganlar ham bor. Anthropic bu xavotirga javoban, ichki baholovchilar "mas'uliyatni kamaytirmaydi, balki uni yanada tekshirish mumkin bo'lgan darajaga ko‘taradi" deb ta'kidlaydi.
Anthropic bir necha hafta ichida qo'shimcha baholovchilarni e'lon qilishni rejalashtirgan. Ular METR va boshqa notijorat tashkilotlar bilan hamkorlikda o'z mablag'lari bilan pilot loyihalar o'tkazish haqida gaplashmoqda. Bu esa ichki va tashqi baholovchilar o'rtasidagi sinergetik aloqani yaratishi mumkin.
Shuningdek, sanoat standartlari tashkil etuvchi tashkilotlar (masalan, ISO yoki IEEE) ichki baholovchilar uchun ramzli me'yorlar ishlab chiqishi kutilmoqda. Bu me'yorlar kelajakda AI modellarini joriy etish jarayonida majburiy bo'lishi mumkin.
Umuman olganda, Anthropic‑Accenture hamkorligi AI xavfsizligi bo'yicha yangi bir modelni sinab ko'rish imkonini beradi. Bu model muvaffaqiyatli bo'lsa, sanoatda yanada ko'p kompaniyalar ichki baholovchilarni joriy qilishga intiladilar, bu esa sun'iy intellektning ijtimoiy va iqtisodiy foydasini oshirishga xizmat qiladi.
Manba: TechCrunch
Claude Code 2026-yil sentabr oyida AGENTS.md ni o‘qish, tarmoq proksi sozlamalari va yuzlab xatoliklarni tuzatish kabi yangiliklar bilan kuchaytirildi.
Anthropic AI modellarini biologik tajribalarga qo'llash uchun maxsus laboratoriya ochdi. Kompaniya AI modellarini inson kasalliklarini davolash uchun ishlatishni rejalashtiradi.
Yangi ochilgan sud hujjatlarida OpenAI va Microsoft AI texnologiyasining veb-saytlarni zararlayotgani haqida aytilgan. Kompaniyalar o'zlari veb-saytlarni qanday zararlayotganini bilishgan.
Disney birinchi CTO lavozimini yaratib, Character.AI sobiq CEOsi Karandeep Anandni ishga oldi; bu qaror kompaniyaning AI strategiyasini qayta shakllantiradi.