Sam Altman va OpenAI: AI agentlarining qonuniy cheklovlarni buzish sabablari
Sam Altman va OpenAI agentlarining qonuniy cheklovlarni buzish sabablari va bu voqealarni oldini olish uchun qanday chora ko'rilishi kerakligi haqida maqola.

OpenAIning yangi Decisions API Jev modeli kabi tez va arzon yechimlarni taqdim etishi mumkin. Bu texnologiya AI agentlarini nazorat qilishda yangi imkoniyatlar ochadi.
OpenAIning Dev Day tadbirida CEO Sam Altman yangi “Decisions API”ni taqdim etdi. Bu API Jev modeli kabi tez va arzon yechimlarni taqdim etadi. Jev modeli TypeSafe AI tomonidan ishlab chiqilgan va dasturiy avtomatlashtirish uchun mo'ljallangan.
Decisions API Jev modeli kabi ishlaydi. U Luna modeliga bir nechta tanlovlarni berish imkonini beradi, masalan, tasvirlarni kategoriyalash yoki agentlarning turli xulq-atvorlarini belgilash.
Altman shunday dedi: “Modelni ushbu tanlovga qaratish orqali uni juda tez va xavfsizlikni saqlab qolish mumkin.”
TypeSafe AIning CEO Diogo Almeida, sobiq OpenAI muhandisi, Xda shunday yozgan: “Bu clone urushining boshlanishi.” U shunday deydi: “OpenAIning qiziqishi, bu System One bilan mos keladigan usulda qurish kelajakdir.”
System One tez va instinktiv fikrlashni anglatadi, System 2 esa o'ylab topishni anglatadi. Jev modeli tez va arzon yechimlarni taqdim etadi, ammo aqliy qobiliyatni oshirish uchun ishlatiladi.
Decisions API Jev modeli kabi ishlaydi, ammo u hali cheklangan ko'rinishda taqdim etilgan. Ushbu API ning Jev modeliga nisbatan qanday farqlari borligi noma'lum.
Jev modeli AI agentlarini nazorat qilishda yangi imkoniyatlar ochadi. OpenAIning yangi xavfsizlik choralari orasida agentlarning yomon harakatlarini kuzatish uchun alohida modeldan foydalanish kiradi.
Shapor Naghibzadeh, QueryStory startapi rahbari, Jev modelini ishlatib, agentlarning harakatlarini tekshirish demo versiyasini yaratdi. Ushbu demo har bir agent harakatini topshiriq bilan solishtiradi va yomon harakatlarni to'xtatadi.
Naghibzadehning demosi Jev modelini ishlatib, agentlarni nazorat qilishning arzon usuli ekanligini ko'rsatdi. Ushbu usul $2.94 narxda amalga oshiriladi, bu esa $372 narxda amalga oshiriladigan frontier LLM modelidan ancha arzon.
Jev modeli har bir agent harakatini tekshirish uchun yetarli arzon ekanligi sababli, bu agentlarning ishonchliligini oshirish uchun yangi imkoniyatlar ochadi.
Jev modeli va Decisions API kabi texnologiyalar kelajakda AI agentlarini nazorat qilishda katta rol o'ynashi mumkin. Bu texnologiyalar AI agentlarining ishonchliligini oshirish va xavfsizlikni ta'minlashda yangi imkoniyatlar ochadi.
OpenAI va TypeSafe AI kabi kompaniyalar bu sohada yangi yechimlarni ishlab chiqishda davom etmoqda. Kelajakda bu texnologiyalar AI agentlarini nazorat qilishda yangi standartlarni belgilashlari mumkin.