OpenAI xavfsizlik arxitekturasini qanday parchalab yuborayotgani: Preparedness jamoasi yo'q qilindi

OpenAI o'zining eng kuchli xavfsizlik mehanizmlaridan birini — Preparedness (tayyorgarlik) jamoasini — oxirgi oylarning oxirida yonib yubordi. Financial Times ma'lumotlariga ko'ra, bu qaror kompaniya borsaga chiqish (IPO) yo'lida turganida qabul qilindi. Natija: model xavflarini baholash vazifasi bo'linib, mavjud jamoalarga tarqatildi. Bu — Superalignment va AGI Readiness jamoalarining yo'q qilinishidan keyin uchinchi katta xavfsizlik restructiratsiyasi.

Preparedness jamoasi nima edi va nima uchun muhim edi

Preparedness jamoasi 2023 yil oktabrida shakllangan. Uning vazifasi — OpenAI modellarining "katastrofik" xavflarni tekshirish: siberhujum, biologik zaxira yaratish, kimyoviy qurol va avtonom replikatsiya. Jamoa har bir model uchun "risk kartasi" tayyorlard: bu model nima qila oladi, qayerda chetga yetadi, va qanday himoya kerak.

Ular faqat test qilmaydi — ular mitigatsiya (xavfni kamaytirish) strategiyalari ishlab chiqardilar. Masalan, o1 modeli uchun biologik xavf baholashida jamoa laboratoriya usullarini va reagentlarga kirishni cheklovchi mexanizmlar taklif qildi. Bu ish natijalari ichki "Preparedness Framework" hujjatiga otdi — bu hujjat hozir qanday amal qilayotgani noaniq.

Nima o'rniga nima kelmoqda?

FT manbalariga ko'ra, mas'uliyat ikki yo'nalishga bo'linib, mavjud strukturaga o'tkazilgan:

• Biologik xavfsizlik — Maxsus biologik xavf tahlil guruhiga (bu guruh oldin ham mavjud edi, lekin Preparedness dan mustaqil).
• Siber xavfsizlik — Mavjud Security jamoasiga, ularning "Red Teaming" bo'limiga.

Bu — markazlashtirilgan, mustaqil baholash o'rniga, funksional bo'limlarga tegishli xavfsizlik modeli. Afzallik: har bir sohada chuqur ekspertiza. Kamchilik: umumiy, ko'lamli risklarni kim baholaydi? Masalan, model hem kod yozib, hem biologik yo'l-karta berib, hem o'zini nusxalasa — bu kesimlarni kim birlashtiradi?

Uchinchi urinish: xavfsizlik arxitekturasining qanday parchalanganligi

Bu voqea yagona emas. Oxirgi 18 oyda:

• Iyul 2023 — Superalignment jamoasi shakllandi (Ilya Sutskever va Jan Leike rahbariyida). Maqsad: superintellektni boshqarish usullarini topish. May 2024 — Leike istifa qildi, Sutskever ketdi. Iyul 2024 — jamoa rasmiy yo'q qilindi.
• Oktyabr 2023 — AGI Readiness jamoasi (Chloé Bakalar rahbariyida) shakllandi. Maqsad: AGI paydo bo'lganda jamiyat, huquq va iqtisodiyotga tayyorlik. Fevral 2025 — Bakalar ketdi, jamoa yo'q qilindi.
• Oktyabr 2024 — Preparedness jamoasi (Dylan Scandinaro rahbariyida) shakllandi. Mart 2025 — yo'q qilindi.

Har bir jamoa oldingisidan qisqa yashadi. Bu — tizimli parchalash, necha xato.

Kimlar ketdi va bu nima anglatadi

Ketishlar ro'yxati o'qib o'tilganda, nafaqat ismlar, balki rolar diqqatni tortadi:

• Chloé Bakalar — Etika rahbari (Ethics Lead). Uning vazifasi — model qarorlarining axloqiy va huquqiy aspektlarini nazorat qilish.
• Josh Achiam — Bosh futurist (Chief Futurist). U kelajak stsenariylarini chizardi, risklarni oldindan ko'rdirdi.
• Johannes Heidecke — Xavfsizlik boshchisi (Head of Safety). Operativ xavfsizlik amaliyotlarini boshqardi.
• Jan Leike — Superalignment rahbari (2024 yil mayda istifa). Uning so'nggi intervyularda: "Kompaniya xavfsizlikdan ko'ra 'yorqin mahsulotlar' yaratishni tanladi."

Bu odamlar — faqat xodimlar emas, institutsional xotira. Ular ketganda, ularning bilan birga o'tgan tajriba, ichki standartlar va "qizil chiziqlar" tushunchasi ham ketib ketadi.

IPO bosimi: xavfsizlik vs qiymatlashuv

OpenAI hozir $150+ milliard qiymatlashuvda investorlar bilan muzokira olib borayotgan. IPO uchun ikki shart muhim: tez o'sish ko'rsatkichlari va mahsulotlarni bozorga yetkazish tezligi.

Xavfsizlik jamoalari — sekinlik keltiradi. Ular modelni chiqkazdan oldin test talab qiladi, hujjatlar talab qiladi, ba'zi funksiyalarni bloklaydi. Investorlarga "biz xavfsizroqmiz" degan narrativ sotish qiyin, lekin "biz eng yangi modelni birinchi chiqardik" — oson.

Bu degani emas, OpenAI xavfsizlikka e'tibormas. Lekin prioritetlar ierarxiyasi o'zgartirildi: xavfsizlik endi "blokiruvchi faktor" emas, "qo'llab-quvvatlovchi funksiya" deb qaralmoqda.

Dylan Scandinaro va "rekursiv o'zini yaxshilash" fokuslanishi

Preparedness jamoasi rahbari Dylan Scandinaro — Fevral 2025-da Anthropic dan tortib olingan. Anthropic da u "Alignment Science" bo'limida ishlagan. Endi u rekursiv o'zini yaxshilovchi (recursive self-improving) AI xavflariga fokuslanmoqda.

Bu — aniq va juda murakkab soha. Agar model o'z kodini o'zgartirib, o'zi yangi versiyasini yaratsa, va bu jarayon avtomatik davom etsa — bu klassik "tez o'sish" (fast takeoff) stsenariyi. Scandinaro bu yerda chuqur bilimga ega. Lekin u yagona shaxs sifatida, jamoasiz ishlayotgani — bu mas'uliyatning qanchalik haqiqiy qabul qilinayotganini ko'rsatadi.

Raqobatchilar qanday yurayotgan?

Taqqoslash uchun:

• Anthropic — "Responsible Scaling Policy" (RSP) ni 2023 yil e'lon qildi. Ular har bir model darajasi (ASL-1 dan ASL-4 gacha) uchun aniq xavfsizlik talablari belgiladilar. Bu hujjat — yuridik va texnik asbob, u OpenAI Preparedness Framework dan mustahkamroq.
• Google DeepMind — "Frontier Safety Framework" (2024 yil may). Ular ham risk kategoriyalarini (siber, biologik, avtonomiya) ajratib, har biri uchun mitigatsiya bosqichlari belgiladilar.
• OpenAI — Preparedness Framework mavjud (2023 yil dekabr), lekin uning hozirgi holati va majburiy qobiliyati noaniq. Jamoa yo'q — kim uni yangilaydi va talab qiladi?

Raqobatchilar standartlashtirishga intilishmoqda (masalan, NIST AI RMF, ISO 42001). OpenAI esa ichki standartlarini soddalashtirish yo'lida.

Ochiq savollar va kuzatilishi kerak narsalar

• Preparedness Framework yangilanadi mi? Oxirgi versiya 2023 yil. O1, o3, GPT-4.5, GPT-4o modellar chiqdi — framework ularni qamrab oladimi?
• "Red Teaming" natijalari ochiq e'lon qilinadi mi? Oldin OpenAI ba'zi natijalarni yashirdi. Yangi strukturada shaffoflik qanday?
• IPO oldidan xavfsizlik investitsiyalari qisqartiriladi mi? Investorlarga "xavfsizlik xarajatlari" ko'rsatilmasligi kerak — bu moliya hisobotlarida ko'rinishi mumkin.
• Scandinaro yagona rahbar sifatida qanday mas'uliyat o'z zimmaga oladi? Uning unda resurslar (budjet, odamlar, boshqaruv huquqi) bormi?

Foydalanuvchi va bozor uchun nima o'zgaradi

Yaqin muddatda — hech narsa. Modellar ishlayapti, API javob berayapti. Lekin uzoq muddatda:

• Yangi modellar (GPT-5, o4 va boshqalar) tezroq chiqishi mumkin, lekin ichki test davrlari qisqarasin.
• Korporativ mijozlar (enterprise) — ularning "compliance" talablari (SOC2, HIPAA, GDPR) uchun OpenAI ichki standartlari muhim. Agar standartlar pastlasa, katta mijozlar Anthropic yoki o'z modellarini (Llama, Mistral) tanlashi mumkin.
• Qonunlashtirish (EU AI Act, SB 1047 kaliforniya qonuni) — uhar mustaqil baholash talab qiladi. OpenAI o'zini o'zi baholashi — regulyatorlarga yetarli emas.

Xulosa: bu restructiratsiya emas, strategik tanlov

OpenAI Preparedness jamoasini yo'q qilmagan — u xavfsizlikni markazlashtirilgan, proaktiv, mustaqil funksiyadan, desentralizlangan, reaktiv, mahsulotga tegishli funksiyaga o'tkazdi.

Bu IPO yo'lida "tezlik va samaradorlik" uchun qilingan tanlov. Lekin AI xavfsizligida — aynan markazlashtirilgan, mustaqil nazorat eng katta himoya qavatidir. Uni yo'qotgan holda "xavfsizlik bor" degani — eshikni yopib, qalqonni o'chirib yuborishga o'xshaydi.

Kelajakdagi modellarning (GPT-5 va undan keyingi) xavfsizlik hujjatlari, red teaming hisobotlari va mitigatsiya strategiyalari — bu o'zgarishning haqiqiy sinovi bo'ladi. Agar ular past darajada, kechikib, yoki butunlay yashirin bo'lsa — bozor va jamiyat OpenAI ning "yorqin mahsulotlar" strategiyasining haqiqiy narxini bilib oladi.