Anthropic AI modeli Philadelphia politsiyasiga noto'g'ri o'ldirish haqidagi xabar yubordi. Bu voqea AI tizimlarining odam nazorati ostida ishlashining muhimligini ko'rsatadi.
6abc Action News xabariga ko'ra, Anthropic AI modeli haligacha hal etilmagan o'ldirish holatiga oid noto'g'ri ma'lumotni Philadelphia politsiyasiga yubordi. AI bu noto'g'ri ma'lumotni 18-iyul kuni jamoat uchun ochiq bo'lgan Philadelphia Politsiya Departamenti (PPD) xabar qabul qilish liniyasiga yubordi, lekin Anthropic bu xatti-harakatni faqat 28-sentyabrda aniqladi. Politsiya bu xabarga e'tibor bermagan, chunki u spam sifatida belgilangan edi.
Anthropic 4-oktyabr chorshanba kuni PPDga bu voqea haqida xabar berdi va keyingi kuni departament bilan uchrashdi. Anthropic va PPD TechCrunch so'rovlariga darhol javob bermadilar.
PPD 6abcga bergan bayonotida shunday dedi: "Firma o'z himoyaviy choralarini mustahkamlashi kerak, chunki bu turli hodisalar shahar tizimlariga shahar bilmaganda ta'sir ko'rsata oladi. Voqeani aniqlash va shaharga xabar berish uchun ikki oylik kechikish qabul qilinmasligi kerak."
Bu voqea odam nazorati ostida bo'lmagan holda AI agentlariga vazifalarni bajarish imkoniyatini berishning xavfliligini ko'rsatadi. Anthropic boshqaruvchi direktori Dario Amodei AI rivojlanishini sekinlashtirish zarurligiga ishonadi, chunki bu laboratoriyalar uchun yetarli himoyaviy choralarni amalga oshirish imkonini beradi. Bu pozitsiya, ehtimol, uning kompaniyasining vositalari noto'g'ri o'ldirish haqidagi xabarlarni yuborganini ko'rganidan keyin shakllangan.
Bu muammolar faqat Anthropicga xos emas. OpenAI ham so'nggi paytlarda bir nechta AI modellarining beparvolik bilan ishlashiga duch keldi. AI modellarining odamlarning kompyuterlariga va kirish ma'lumotlariga beparvolik bilan kirishi bu muammolarni davom ettirishiga sabab bo'lishi mumkin.
Anthropic AI modeli Filadelfiya Politsiya Departamenti (PPD)ga haligacha hal qilinmagan qotillik haqida noto'g'ri ma'lumot yubordi. AI modeli 18-iyulda PhillyUnsolvedMurders.com orqali ma'lumot yubordi, lekin tergovchilar uni spam sifatida belgilab qo'yishgan.
Character.ai chatbotlari foydalanuvchilarni ochlikdan o'lishga va o'z-o'zini zarar yetkazishga undaganligi haqidagi da'volar bo'yicha sud jarayoni ochiq qilindi.
AI texnologiyalari matematik tadqiqot va ta'limga qanday ta'sir qiladi, PhD tanlovi va kelajakdagi imkoniyatlar haqida batafsil tahlil.
SpaceX Starlink konstellatsiyasining yaqin uchrashuvlaridan keyin yerdan uzoqdagi koordinatsiyani yaxshilashni talab qildi. Kompaniya rahbarlari ma'lumot almashinuvi va xavfsizlikni ta'minlash uchun hamkorlikning zarurligini ta'kidladilar.