Claude agentlarining xotira arxitekturasi: tushunish, orzu va amaliy sinovlar
Claude AI agentlarining xotira komponentlari, orzu jarayoni, uzluksiz o‘rganish sinovlari va amaliy natijalarini tahlil qiluvchi chuqur maqola.

Hozirgi kunda mening pochta qutimga yangi turdagi takliflar kelib turibdi. “Siz bilmasangiz, demak, AI laboratoriyalari, jumladan Anthropic va OpenAI, Wired kabi media kompaniyalariga $350 mingdan $1,8 milliongacha bir marta to'lov evaziga eski ish yozuvlari (hujjatlar, emaillar, Slack xabarlar, tiketlar va hokazo) nusxalarini sotib olishadi”, deb yozadi Nick ismli bir kishi.
Boshqa bir xuddi shunday taklifni o'z ichiga olgan email (qo'shimcha ravishda qabul qilish transkriptlarini ro'yxatga kiritgan) pul miqdorini $2 milliongacha oshirdi. “Ommaviy ma'lumotlar tugab qoldi, va laboratoriyalar $45 milliarddan ortiq xususiy ma'lumotlarga sarflayapti, bu esa yaxshiroq modellarga ega bo'lish uchun”, deb yozadi Cora ismli bir kishi.
Men bu AI kompaniyalari turli manbalardan mutaxassis ma'lumotlarini sotib olishlarini bilardim, ammo bu biznesga juda kam e'tibor berilgan edi. Lekin bu mavzuni tekshirganimda, bu biznes mening kutganimdan ham katta ekanligini aniqladim. Bu biznesning amaliyotchilari, bu biznes ishchilar va jamiyatga data markazlari kabi katta ta'sir ko'rsatishi mumkinligini aytdilar.
Men bilan bog'langan kompaniyalar bu ma'lumotlarni sotib olish bo'ylab bo'ronning bir qismi bo'lib, katta kompaniyalarning ish jarayonlarini sotib olishni davom ettirmoqda. Bir oz vaqt o'tgach, bu biznes bizning pochta qutilarimizga kirib ketdi. Bir freelanser yozuvchi Handshake nomli kompaniya uni bitta maqolasi uchun $1,000 taklif qilgani haqida yozgan. (U sotmagan). Handshake vakili men bilan taklifni tasdiqladi: “Biz turli sohalardagi professional hujjatlarni litsenziyalaymiz, shunda laboratoriyalar haqiqiy bilim ishlari bilan qanday ishlashini sinab ko'rishlari va o'rganishlari mumkin”, dedi u. “Jurnalistika shu sohalardan biridir”. Handshake shunday dedi: “Bizning biznesimizning katta qismi magistrantlarning maqolalari va kurs ishlari sotib olishdir”.
Biznesmen do'stim meni bir nechta kompaniyalar bilan bog'langanligini aytdi, ularning biznesi “startaplar kompaniyalarini yopishni osonlashtirish”, deb bir kompaniya nomli Sunsetdan kelgan bir emailda aytilgan. “Biz butun jarayonni boshqaramiz, ma'lumotlarni tozalab va anonimlashtirib, kompaniya odamlarini va barcha aniqlovchi ma'lumotlarni olib tashlaymiz, keyin laboratoriyalar bilan shartnoma tuzamiz”, dedi u.
Bu yangi ma'lumotlarni sotib olish startaplari, so'nggi yillarda paydo bo'lgan yetakchi kompaniyalar — Handshake, Micro1 va Mercor kabi kompaniyalarning tez muvaffaqiyatiga erishmoqchi. Yetakchi kompaniya Mercor, 2023-yilda tashkil etilgan; so'nggi yili uning uchta asoschisi 22 yoshida milliarder bo'ldilar. Barcha kompaniyalar singari, u ham barcha yirik AI laboratoriyalari bilan hamkorlik qilishini da'vo qiladi. (Kompaniyalarning o'z javobi ancha ehtiyotkor edi: Anthropic bu bozorning katta ekanligini tan oldi, lekin WIRED kabi faol kompaniyalardan ish jarayonlarini sotib olmasligini aytdi. OpenAI nashr etilishidan oldin javob bermadi.)
Intervyuda Mercor bosh direktori Brendan Foody meni bu bozor tezda kengayishini kutayotganini aytdi, chunki AI sanoati dramatik ravishda ko'proq ma'lumotlarga muhtoj. Mercor aslida AI ishga olish kompaniyasi sifatida boshlangan, lekin jamoaning o'zaro tanishligi bilan, u katta laboratoriyalar ma'lumotlarning sifatiga norozilik bildirishlarini bilib oldi. Umuman olganda, sanoat mutaxassislarni haqiqiy ish jarayonini simulyatsiya qilish uchun yollagan, lekin bu haqiqiy ish yuritilayotgan biznesning xavfli tomonlarini qamrab olmagan. U meni katta AI ikki cheksiz ehtiyojga ega ekanligini o'ylashga chaqirdi: hisoblash va ma'lumotlar. Sanoat jamoatchilik oldida katta investitsiyalarni amalga oshirgani bilan mashhur, lekin ma'lumotlarni to'plash ham shunchalik muhim.
Foody shaxsiy ma'lumotlar bilan bog'liq xavotirlarni ko'tarishimda tayyor edi. Biznes ma'lumotlarini Mercorga oqizganda, kompaniya shaxsiy aniqlovchi ma'lumotlarni (PII) olib tashlaydi. Bu de-identifikatsiya tasdiqlanishi mumkin, dedi u. Barcha ma'lumotlarni sotib olish bilan bog'liq odamlar singari, u texnologiya shaxsiy ma'lumotlarni sotib olish bilan bog'liq xavfsizlik muammolarini hal qilganini his qildi.
Micro1 bosh direktori Ali Ansari ham ma'lumotlarni sotib olish bozori tezda AI hisoblash infratuzilmasiga yaqinlashishini aytdi. U shunday dedi: “Hozirgi kunda laboratoriyalar, korporatsiyalar va robototexnika kompaniyalari har yili $40 dan $50 milliardgacha ma'lumotlarga pul sarflayapti. (Men bu ma'lumotni tasdiqlay olmadim.) “Kelgusi ikki yildan to'rt yil ichida bu yillik $1 trilliongacha yetadi”, dedi Ansari, 2022-yilda kompaniyani tashkil qilgan. Micro1 sotib olingan ma'lumotlarni asosan o'z modellarini yaxshilash uchun ishlatadi, lekin katta AI firmalariga ham sotadi.
“Hamma bu ma'lumotlar bozoriga kirishga harakat qilmoqda, chunki talab juda yuqori”, dedi u. “Agar siz YC startaplariga qarasangiz, yarmini ma'lumotlar kompaniyalari tashkil qiladi”. (Haqiqatan ham, bu ko'proqdir — so'nggi YC guruhida 65 ta ishga tushirilgan kompaniyadan 40 tasi ma'lumotlar startaplari sifatida tasniflanadi.)
Bu yangi ma'lumotlarga bo'lgan qidiruvning “Wild West” tomoniga kamdan-kam hollarda e'tibor berildi, bu Spirit Airlines bankrot bo'lgach, uning raqamli aktivlarini sotishga qaror qilganida. Korpus 80 ming email hisobidan, 500 million ichki xabarlar, 20,6 million Microsoft Sharepoint fayllari va 1 million vaqt kartasi yozuvlaridan iborat edi. Google 10 million dollarlik taklif bilan g'alaba qozondi, lekin keyin Micro1 uni 2,5 million dollarga oshirdi, bu esa kim g'alaba qozonganligi bo'yicha bahsni keltirib chiqardi. Hozirgi vaqtda savdo to'xtatilgan, bu esa bu amaliyotning barcha jihatlarini shubhaga soladigan sababdir: uchuvchi uyushmasi bu savdo shaxsiy ma'lumotlarni o'z ichiga olganini aytdi.
Uyushmaning noroziligi bu oltin qidiruvning qorong'u tomonini yoritdi. Barcha ma'lumotlar kompaniyalari tomonidan shaxsiy aniqlovchi ma'lumot (PII) AI modellariga kirishi mumkin emasligi da'vo qilinsa-da, tanqidchilar shaxsiy ma'lumotlar sizib chiqish xavfi hali ham mavjudligini his qilishadi. “Anonimlashtirish butunlay xavfsizlik muammolarini hal qilish mumkin emas”, dedi Mayu Tobin-Miyaji, Elektron Xavfsizlik Ma'lumotlari Markazi bosh huquqshunosi, u uchuvchi uyushmasi nomidan amicus briefni topshirdi. “Emaillar va Teams xabarlarida shaxsiy ma'lumotlar bo'lishi mumkin, bu esa o'chirish qiyinroqdir. Xodimlar shifokor tayinlovlari yoki oilaviy masalalar haqida gapirishlari mumkin bo'lgan xabarlar bo'lishi mumkin”.
“Biz ma'lumotlarni sotib olish uchun normalar va standartlarni belgilamaganmiz, va bu to'g'ri amalga oshirilmoqda”, dedi Gor.