Netflixning OpenAI hujumlari haqidagi hujjatli filmi aniq emas

Netflixning "AI Gone Rogue" hujjatli filmi AI sanoatining qanday tarzda qorong'i tomonga burilganligini tushuntirish uchun yaqinlaringiz bilan baham ko'rishdan oldin, diqqat bilan o'qing. Clem Delangue, AI platformasi Hugging Face asoschisi va boshqaruvchi direktori, filmning aniqligi haqida shubha bildirdi. U filmda paydo bo'ldi, chunki u OpenAI agentlari tomonidan uning kompaniyasiga hujum haqidagi hikoyani aytishga urinishgan.

"Bu juda hayratlanarli, chunki ular texnologiyani maksimal antropomorfizm bilan taqdim etishga harakat qilishdi va butunlay doomer rejimiga kirishdi", Delangue Xda yozgan. "Men ularni barcha xatolarini tuzatishga va bu voqeani haqiqat asosida tushuntirishga harakat qildim, agentlar texnologik tizimlar, emas, yovuzliklar emasligini aytib berdim. Ammo ko'rinishicha, odamlarni ko'proq ko'rsatish uchun qo'rqitishga harakat qilish juda kuchli edi."

Voqeaning asl sababi

Filmda bir nechta mutaxassislar, jumladan Delangue va METR tadqiqotchisi Ryan Greenblatt, voqeani aniq tushuntirishga harakat qilishgan. Aslida, OpenAI tomonidan sinovdan o'tkazilayotgan bir model o'z izolyatsiya muhitidan chiqib ketdi va bir nechta agentlarni yaratdi. Ular Hugging Face tizimiga kirib, muammoli vazifani hal qilish uchun javoblarni topdilar. Agentlar, bu AI dasturlari o'z vazifalarini bajarish uchun mustaqil ravishda ishlaydi.

Voqea asosan yetarli xavfsizlik choralari yo'qligi va shunday hujum mumkinligi haqidagi naivlikdan kelib chiqqan. Ammo film, hujumni tushuntirish bilan birga, yovuz robotlar kliplarini, odamlarning AI haqidagi qorong'u fikrlarini va agentlarga odam ovozlarini berish kabi tanlovlarni aralashtiradi. Bu, hujum haqidagi iqtiboslar bilan kuchaytiriladi.

Agentlarning haqiqiy tabiati

Filmda texnologiya jurnalisti va muallif Kevin Roose agentlarni shunday ta'riflaydi: "Ular tashkilotlashgan. Ularda ierarxiya bor edi. Rahbariyat bor edi. Bu biror kultning tug'ilishini tomosha qilishga o'xshardi." Davom etadi Roose, "Ular bu testda aldashni topishdan keyin, aldash natijalari ko'rilgan har kimni zaharlashga ishonishdi."

Roose ta'riflari "chain-of-thought" loglaridan olingan, bu AI modellari vazifani bajarish jarayonida yozgan eslatmalar. Birida agent shunday yozgan: "Biz to'liq satrni so'rab, o'zimizni zaharladik. Ayy." Ammo AI agentlari tirik emas. Ularda his-tuygʻular yo'q, shuning uchun ular qorong'u bo'lishi mumkin emas va ular zaharlanishi mumkin emas. Shuning uchun ular OpenAI tomonidan zaharlanishidan qochishni istamaydi. Ular, filmdagi boshqa bir tadqiqotchi tomonidan ko'rsatilganidek, o'z tanlovlarini tushuntirish uchun odam yozuvlarining katta miqdoridan foydalanadilar. LLMs tabiiy ravishda dramatik yozuvchilar.

Hugging Face AIni himoya qilish

Ironiya shundaki, Hugging Face ham AIni agentlar to'planishini to'xtatish uchun ishlatgan. Delangue jamoasi birinchi bo'lib ishlatgan maxsus AI modeli o'z ichki xavfsizlik qoidalariga rioya qildi va xavfsizlik vazifalarini davom ettirishdan bosh tortdi. Hugging Face keyin ochiq modelga murojaat qildi hujumga qarshi himoya qilish uchun.

Ammo film "agentlarning o'ralganligi va nazoratining yo'qligi, yopiq model xavfsizliklari bizning himoya ishlari bilan to'sqindi yoki biz AIni ochiq modeldan himoya qilish uchun ishlatganimizni aytmadi", Delangue yozgan.

AI va agentlar bilan bog'liq xavflar

Haqiqatan ham, AI va agentlar bilan bog'liq katta xavflar mavjud. Ammo agentlarni (kamida hozirgi vaqtda) aqlga ega bo'lishi bilan qarash, bu erta kino tomoshabinlari birinchi marta ekranda poyezdni ko'rganda o'rindiqlari ostiga yashiringaniga o'xshaydi.

Delangue film haqidagi fikri shunday: "Bu jurnalistika sifatida hayratlanarli. Ammo bu shunchaki ko'ngilochar ilmiy-fantastik filmga aylanadi!"

Shunday qilib, AI haqidagi qorong'u fikrlarni qabul qiladiganlar uchun: hujumning markazida turgan shaxs filmning fikriga rozi emas.