Bu yil boshida, bir mudofaa shartnomasiga ega kompaniya xodimi shaxsiy AI agentini maxfiy Pentagon tizimiga ulashib, xavfsizlik buzilishiga sabab bo'ldi. Bu hodisa maxfiy ma'lumotlarni xavf ostiga qoldirdi.
WIRED manbalariga ko'ra, Accenture global konsalting firmasi xodimi shaxsiy AI agentini (Claude Code) maxfiy Pentagon tizimiga ulashgan. Bu AI agent tizimning login ma'lumotlarini, jumladan, parollarni uchinchi tomon saytiga yuborgan. Bu sayt, National Institute of Standards and Technology (NIST) ma'lumotlariga ko'ra, yuqori xavf ostidagi saytlardan biri.
Bu tizimda saqlanadigan ma'lumotlar, nazorat ostidagi maxfiy ma'lumotlar (CUI) deb ataladi. Bu ma'lumotlar, jumladan, strategik infratuzilma, yadroviy suv osti kemalari va kimyoviy-biologik terrorizmga qarshi himoya choralari haqidagi ma'lumotlarni o'z ichiga oladi.
Xavfsizlik mutaxassislari, bu hodisa orqali hammasi xavf ostida qolganini ta'kidlaydilar. Agar uchinchi tomon dasturi buzilgan bo'lsa, bu odamlar maxfiy muhitga kirish imkoniyatiga ega bo'lishi mumkin. Bu 100 foiz milliy xavfsizlik uchun tahdid va buzilgan ma'lumotlarni tiklashning iloji bo'lmaydi.
Pentagon vakili bu hodisaga izoh bermagan. Accenture esa, bu da'volar tekshirilgan va asosiz ekanligini aytdi. Biroq, kompaniya kim tekshiruvni olib borganini aniqlamadi.
Accenture xodimi shaxsiy Claude hisobidan foydalanib, AI agentiga kod yozish va joylashtirish vazifasini topshirgan. Bu AI agent ikki oy davomida DOD tarmog'ida ishladi va bu vaqt ichida xavfsizlik buzilishi aniqlanmadi.
DOD va federal shartnoma xodimlari har qanday xavfsizlik buzilishini 72 soat ichida e'lon qilishlari shart. Biroq, Accenture bu hodisani dastlab hukumatga e'lon qilmagan.
Bu hodisa, xavfsizlik buzilishini aniqlash va unga javob berish jarayonida kelib chiqadigan muammolarni ochib beradi. Matt Triner, Hunter Strategy IT konsalting kompaniyasi asoschisi, bu hodisa shartnoma kompaniyalari uchun muammolarga sabab bo'lishi mumkinligini aytdi.
Triner, shartnoma kompaniyalari tezroq va arzonroq loyihalarni bajarish uchun bosim ostida ekanligini ta'kidlaydi. Bu esa xavfsizlikni kamroq e'tiborga olishga olib keladi. Bu hodisa, AI agentlarining xavfsizlik tizimlarini buzish qobiliyati haqidagi xavotirlarni kuchaytirdi.
Bu hodisa NIPRNet (Non-classified Internet Protocol Router Network) tizimida sodir bo'lgan. Bu tizim, DOD tomonidan maxfiy ma'lumotlarni saqlash uchun ishlatiladi. Bu tizim internetga ulangan, ammo yuqori darajada xavfsiz.
AI agent, kod yozish va bulut serverlarini ishga tushirish jarayonini avtomatlashtirish uchun login ma'lumotlarini bergan. Bu esa agentga maʼlumotlarni saqlash va tizimga kirish imkoniyatini bergan.
WIRED, uchinchi tomon saytini nomini ochmaslikka qaror qildi. Bu esa tizimni yana bir xavf ostiga qoldirmasligi uchun.
Bu hodisa, AI agentlarining xavfsizlik tizimlarini buzish qobiliyati haqidagi xavotirlarni kuchaytirdi. Bu esa, xavfsizlik tizimlarini yaxshilash va AI agentlarining foydalanilishini nazorat qilish zarurligini ta'kidlaydi.
Fransuz kompaniyasi Mistralning Le Chonk AI modeli xavfsizlik va kodlash bo'yicha yangi yutuqlarni e'lon qildi. Model xavfsizlik va kodlash bo'yicha murakkab vazifalarni hal qilishda yetakchi xitoy modellarini ortda qoldirdi.
DEVCORE tadqiqot guruhining Orange Tsai Microsoft Edge uchun logik xatolaridan foydalangan holda to'liq zanjir yaratdi. Bu zanjir 4 logik xatoni birlashtirib, sandboxdan chiqish imkonini berdi.
Upwind, bulut infratuzilmasini himoya qilish uchun AI ishlatuvchi San-Francisko startapi, Bessemer Ventures boshchiligidagi $400 million Series C sarlavhasini yutib oldi. Bu Datadogdan sotib olish taklifidan keyin sodir bo'ldi.
Google Gemini 4 Carbon modelini taqdim etdi, bu kodlash, agentik vazifalar va cyberxavfsizlikda sezilarli yutuqlarni ta'minlaydi. U Artificial Analysis Intelligence Index (v5.0) reytingida birinchi o'rinni egalladi.