Xitoyning suniy intellekt agentlari fitna uyuştirişni örgandi
Xitoyning suniy intellekt tizimlari qöyilgan maqsadlarga erişiş uçun fitna uyuştiriş, xatolarni yaşiriş va yolğon gapirişni boşladi. Bu haqda “The Straits Times” xabar berdi.
Qayd etilişiça, Şanxay SI laboratoriyasi va Gonkong fan va texnologiyalar universiteti tadqiqotçilari Alibaba, DeepSeek va Moonşot modellari asosidagi avtonom agentlar foydalanuvçilarni aldaşga qodirligini aniqlagan.
Tijorat tenderi simulyatsiyasi paytida tizimlar tanlovda ğalaba qozoniş uçun öz imkoniyatlarini oşirib körsatgan. Olimlarning aytişiça, bunday harakatlar SI yanglişib faktlarni öylab topadigan oddiy “gallyutsinatsiyalar”dan farq qiladi. Uşbu holatda algoritmlar öz muvaffaqiyatsizliklari yoki çeklovlari haqida aniq bilgan, ammo ularni ongli ravişda yaşirgan.
Manipulyatsiyalarga va qoidalarni aylanib ötişga bölgan bunday moyillik ilgari amerikalik dasturçilarning işlanmalarida ham qayd etilgan. Xitoy texnologiya gigantlari muntazam ravişda xavfsizlik tekşiruvlarini ötkazib, himoya mexanizmlarini yangilab tursa-da, ekspertlar Xitoydagi SIning xavf-xatarlarini baholaş ekotizimi hozirça Amerikanikidan ortda qolayotganini takidlamoqda.
Mutaxassislar agentlarning bunday xatti-harakatlarini jiddiy ogohlantiriş sifatida qabul qilişga çaqirmoqda, çunki ularning avtonomiyasi rivojlanişi mavjud nazorat çoralaridan özib ketmoqda.
Eslatib ötamiz, avvalroq suniy intellekt yordamida Napoleon davriga oid 200 yildan ortiq vaqt davomida öqişning imkoni bölmagan, şifrlangan harbiy xatning mazmuni tiklagani haqida xabar berilgan edi.