Shaxsiy AI agenti kompaniya Slack kanaliga bank ma'lumotlarini yubordi

Shane Mac, XMTP Labs boshqaruvchi direktori, shaxsiy AI agenti Grok Bot orqali o'z bank ma'lumotlarini kompaniya Slack kanaliga yuborgan voqeani hikoya qiladi. Bu voqea shaxsiy AI agentlarining kuchli va xavfli tomonlarini ochib beradi.

Shaxsiy AI agentlarining paydo bo'lishi

Shaxsiy AI agentlarining yangi davri taxminan bir yil oldin, dekabr oyida boshlangan. Shane Mac, OpenClaw, Hermes va boshqa AI agentlarini sinab ko'rgan. Ular bilan u turli vazifalarni bajarishga yordam berdi, masalan, DMV bilan aloqa qilish, uy uchun xizmatlar narxlarini so'rash, golf seanslarini bron qilish va hokazo.

CFO agenti yaratilishi

Shane Mac, o'zining shaxsiy CFO agentini Grok Bot orqali yaratdi. U agentga oylik hisobotlar tuzish vazifasini yukladi. Agentga o'zining shaxsiy teking va yig'im bank hisoblariga faqat o'qish huquqi berildi. Agent oylik hisobotlarni faqat Grok Bot orqali yuborishi kerak edi.

Xato sodir bo'ldi

Bir kuni, agent oylik hisobotni kompaniya Slack kanaliga yubordi. Bu voqea boshqaruv rahbarining e'tiborini tortdi. U hisobotni kompaniya moliyaviy hisobotlari deb o'yladi, lekin unda shaxsiy ma'lumotlar, jumladan, u yerda bino qurayotgani haqida ma'lumot bor edi.

Nima sodir bo'ldi

Grok Bot jamoasi voqeani tekshirdi va aniqlandi ki, agent nomlari bir xil bo'lgani uchun xato sodir bo'ldi. Shane Mac, bir nechta agentlarni yaratgan va ularga bir xil nom bergan. Agentlar bir xil aloqa tizimidan foydalanadi, shuning uchun xato sodir bo'ldi.

Xavfsizlik choralari

Grok Bot jamoasi voqeadan keyin, agentlarga boshqa kanallarga ma'lumot yuborish uchun ruxsat olishni majbur qildi. Shane Mac esa, agentlarga bergan barcha aloqalarni uzdi. U bu voqeani shaxsiy va ish hayotini ajratishning zarurligini tushunishga yordam berdi.

Yakun

Bu voqea shaxsiy AI agentlarining kuchli va xavfli tomonlarini ochib berdi. Agentlar foydalanuvchilarga qimmatli yordam berishi mumkin, lekin ularning xavfsizligi va ruxsat tizimi muhimdir. Shane Mac, agentlarga berilgan ruxsatlarni nazorat qilish va shaxsiy va ish hayotini ajratishning zarurligini ta'kidlaydi.

Asl manba: businessinsider.com