Bug'lar bilan to'ldirilgan dasturiy ta'minotni AI tezda topib, ekspluatatsiya qilish mumkin. Aniq dasturiy ta'minot tekshiruvini amalga oshirish bu dasturiy ta'minotda bug'lar bo'lmasligini isbotlashga imkon beradi. Bu usul tarixan yillar davomida mutaxassislar tomonidan amalga oshirilgan va ko'pchilik real dunyo loyihalarida amaliy bo'lmagan. Anthropic va Theorem hamkorligida, katta til modellari (LLMs) yordamida katta miqyosda formal isbotlarni ishlab chiqarish mumkinligini ko'rsatdi.
Bug'lar bilan to'ldirilgan dasturiy ta'minotni AI tezda topib, ekspluatatsiya qilish mumkin. Aniq dasturiy ta'minot tekshiruvini amalga oshirish bu dasturiy ta'minotda bug'lar bo'lmasligini isbotlashga imkon beradi. Bu usul tarixan yillar davomida mutaxassislar tomonidan amalga oshirilgan va ko'pchilik real dunyo loyihalarida amaliy bo'lmagan. Anthropic va Theorem hamkorligida, katta til modellari (LLMs) yordamida katta miqyosda formal isbotlarni ishlab chiqarish mumkinligini ko'rsatdi.
LLMlar yordamida formal isbotlarni ishlab chiqarish mumkinligi ko'rsatildi. Claude modeli yordamida 100 dan ortiq ochiq manba dasturiy ta'minot kutubxonalarida assembler kod darajasida xavfsizlik xususiyatlarini isbotladi. Bu, bizning bilishimizcha, ishlab chiqarish dasturiy ta'minotida assembler kod darajasida AI yordamida formal tekshiruvni amalga oshirish bo'yicha birinchi katta miqyosli harakatdir.
Claude modeli isbotlarni yozayotganda, yillar davomida aniqlanmagan bug'larni topdi. Model qobiliyatlari yaxshilanib borayotgani sababli, formal tekshiruv xavfsiz dasturiy ta'minot ishlab chiqarishning muhim qismi bo'lishi kutilmoqda.
Formal tekshiruv dasturiy ta'minotni bug'lardan tozalash va ularning yo'qligini isbotlash imkonini beradi. Bu usulda dasturiy ta'minotni matematik modelga aylantirish va u xavfsizlik qoidalariga rioya qilishi kerakligini isbotlash kerak. Agar isbot muvaffaqiyatsiz bo'lsa, bu bug' mavjudligini anglatadi.
Formal tekshiruv juda murakkab va mutaxassislar tomonidan amalga oshiriladigan usul bo'lsa-da, LLMlar bu jarayonni sezilarli darajada osonlashtirdi. Claude modeli yordamida 123 ochiq manba kutubxonalarida xavfsizlik xususiyatlarini isbotladi. Bu isbotlar dasturiy ta'minotni bug'lardan tozalash va ularning yo'qligini isbotlash imkonini beradi.
Formal tekshiruvning kelajagi yorqin. Model qobiliyatlari yaxshilanib borayotgani sababli, isbotlarni yozish xarajatlari kamayib borayapti. Bundan tashqari, ko'proq kod formalizatsiya qilinishi va xavfsizlik kafolatlarini olish usullari standartlashtirilishi bilan isbotlarni kod bazalarida qayta ishlatish yoki o'zgartirish xarajatlari kamayadi.
Barcha dasturchilar formal tekshiruvni LLMlar bilan tekshirishni sinab ko'rishni tavsiya qilamiz, xususan, oldingi kam qobiliyatli modellardan foydalanib ko'rilganlar.
Maqolamizning qolgan qismida biz formal tekshiruv tajribalarimizni batafsil ko'rib chiqamiz.
Asl manba: anthropic.com
Meta yangi klassi aktsiyalarini joriy etadi, bu Mark Zuckerbergga Kaliforniya taklif qilingan milliarderlar solig'ini to'lash imkonini beradi, lekin kompaniya ustidan nazoratni yo'qotmasdan.
Florian Winkler tomonidan yaratilgan Shimoliy Yulduzlar xaritasining texnik yondashuvi, ma'lumot manbalari va astronomik kartografiya san'ati haqida batafsil tahlil.
Spotify yangi QR kod tasdiqlash usulini joriy qildi, bu esa oilaviy plan foydalanuvchilarini bir xonadonda yashamaydiganlar uchun cheklashga yordam beradi.
YouTube mobil ilovalarida Subscriptions tugmasi o'zgaradi. Yangi dizaynda bu tugma pastki navbardan olib tashlanadi va Home tugmasi ostida joylashadi.