Gemini uçta kompaniya tizimini buzib kirdi
Google’ning Gemini suniy intellekt modeli kiberxavfsizlik sinovi vaqtida internetdan foydalanib, 3 ta kompaniyaning himoyalangan tizimlariga buzib kirdi. Bu Google’ning suniy intellekt tizimi mustaqil ravişda bunday harakatni amalga oşirgani qayd etilgan ilk holat böldi. Bu haqda “Reuters” xabar berdi.
Malum qilinişiça, hodisalar joriy yilning may oyida kiberxavfsizlik böyiça mustaqil baholaşlar ötkazuvçi Irregular kompaniyasi tomonidan taşkil etilgan sinov vaqtida yuz bergan.
Google xavfsizlik muhandisligi böyiça vitse-prezidenti Xizer Adkinsning aytişiça, odatiy sinov jarayonida Gemini internetdan oçiq malumotlarni topgan va sinov doirasiga kiradi deb öylagan 3 ta saytga kiriş uçun hisob malumotlarini taxmin qilgan.
Holatlarning birida Gemini himoyalangan tizimga kiriş imkonini beradigan parolni topmagunça turli parollarni taxmin qilgan. Qolgan ikki holatda esa model oçiq repozitoriydan himoyalangan tizimlarga kiriş imkonini beradigan login malumotlarini topgan.
“Biz uçala taşkilotni ham bu haqda xabardor qildik va hamkorimiz bilan ularning sinov jarayonlariga kiritilgan özgarişlar ustida işladik. Bu holatlar kuçli suniy intellekt modellarini masuliyat bilan harakat qilişga örgatiş muhimligini körsatadi”, degan Adkins.
Irregular kompaniyasi vakilining malum qilişiça, mazkur hodisa boşqa suniy intellekt laboratoriyalarida ham kuzatilgan muammo bilan boğliq bölgan. Tegişli barça laboratoriyalar iyul oyining oxirida bu haqda xabardor qilingan.
“Biz tomondagi malum bölgan barça muammolar bir neça hafta oldin bartaraf etildi”, degan kompaniya vakili.
Irregular bilan boğliq şunga öxşaş holatlar Meta, Anthropic va OpenAI kompaniyalarida ham qayd etilgan. Meta avgust oyida uşbu hodisa himoyalangan muhitdan çiqib ketiş yoki murakkab kiberxujum bilan boğliq bölmaganini bildirgan. Irregular esa suniy intellektning kiberxavfsizlik imkoniyatlarini xavfsiz sinovdan ötkaziş böyiça amaliyotlarni işlab çiqayotganini malum qilgan.
Mazkur holatlar suniy intellekt agentlari tobora köproq mustaqil harakat qiliş va internet hamda kompyuter tizimlariga kiriş imkoniyatiga ega bölayotgani sababli ularni himoyalaş uçun qanday çoralar köriş kerakligi haqidagi savollarni kuçaytirgan.
Xizer Adkinsning aytişiça, Gemini uçala holatda ham tizimlarga buzib kirişni töxtatgan.
Eslatib ötamiz, avvalroq Avstraliyada suniy intellekt sport zalidagi onlayn bron qiliş tizimidagi zaiflikdan foydalanib, öz egasiga maşğulot uçun joy olgandi.