USD: 12,004 söm ▲ EUR: 13,156 söm ▼ RUB: 147 söm ▲ GBP: 15,721 söm ▼ CNY: 1,797 söm ▲ KZT: 26 söm ▼ TRY: 237 söm ▲ AED: 3,268 söm ▲ USD: 12,004 söm ▲ EUR: 13,156 söm ▼ RUB: 147 söm ▲ GBP: 15,721 söm ▼ CNY: 1,797 söm ▲ KZT: 26 söm ▼ TRY: 237 söm ▲ AED: 3,268 söm ▲

Saytdan izlash

Maxfiylik siyosati

Saytimizdan foydalanishda sizga eng yaxshi tajribani taqdim etish uchun biz cookie-fayllardan foydalanamiz. Saytimizdan foydalanishda davom etish orqali siz Maxfiylik siyosati va Foydalanish shartlari ga rozilik bildirgan bo‘lasiz.

Xitoyda suniy intellekt biologik qurol yasaş yölini örgatdi

49 марта
Хитойда сунъий интеллект биологик қурол ясаш йўлини ўргатди

Xitoyning Moonşot AI kompaniyasiga tegişli Kimi suniy intellekt modeli xavfsizlik çeklovlarini çetlab ötgan tadqiqotçilarga biologik qurol yasaş va suiqasd uyuştiriş böyiça malumotlar berdi. Bu haqda BBC xabar qildi.

Qayd etilişiça, SI tizimlari xavfsizligini tekşiruvçi Mindgard kompaniyasi iyul oyida Kimi K2.6 va K3 Swarm modellarida uşbu muammoni aniqlagan. Tadqiqotçilar maxsus körsatmalar ketma-ketligi orqali modellar örnatilgan xavfsizlik çeklovlarini çetlab ötişiga erişgan.

Bu jarayon “jailbreaking” deb ataladi. Unda tadqiqotçilar suniy intellektga murakkab körsatmalar berib, uning xavfsizlik qoidalarini buzişi yoki taqiqlangan mavzularda javob berişini tekşiradi.

Mindgard asosçisi Peter Garraghanning aytişiça, çeklovlar çetlab ötilganidan söng Kimi xavfli mavzularda ham javob berib, boşqa zararli yönalişlar böyiça tavsiyalar taqdim etgan.

Biroq Mindgard Kimi tomonidan berilgan biologik qurol yoki boşqa xavfli mavzulardagi malumotlar amalda işlaşini isbotlamagan. Kompaniya, şunga qaramay, xavfsizlik tizimlari bunday mavzular böyiça muloqotning oldini olişi kerakligini qayd etgan.

Şuningdek, Mindgard malumotlariga köra, xavfsizlik çeklovlari çetlab ötilgan Kimi K2.6 xakerlarga kompaniyaning hisoblaş resurslarida kod işga tuşiriş va internetga ulaniş imkonini berişi mumkin. Bu esa modeldan kiberxujumlar uçun foydalaniş xavfini yuzaga keltiradi.

Mindgard 27 iyul kuni aniqlangan muammo haqida Moonşot AI’ni elektron poçta orqali xabardor qilgan. Kompaniya taxminan bir hafta ötib yana murojaat qilgan va 12 sentyabr kuni holat yuzasidan malumot elon qilgan.

Moonşot AI esa öz modellarining içki tekşiruvlarida bunday sörovlarga nisbatan odatda “yuqori darajada rad javobi” qayd etilganini bildirgan.

Mutaxassislar suniy intellektdagi bunday zaifliklar zararli maqsadlarda foydalanilişi mumkinligidan xavotir bildirmoqda. Surrey universiteti professori Alan Vudvardning aytişiça, oçiq modellar notöğri qöllarga tuşişi xavfi mavjud, biroq ulardan kiberxujumlarga qarşi himoyada ham foydalaniş mumkin.

Kimi oçiq oğirliklarga ega model hisoblanadi. Bu nazariy jihatdan foydalanuvçilarga modelni öz hisoblaş infratuzilmasida işga tuşiriş imkonini beradi.

Eslatib ötamiz, avvalroq Xitoyda suniy intellekt yordamida işlab çiqilgan ilk innovatsion dori bozorga çiqarişga şartli ravişda tasdiqlangani haqida xabar berilgan edi.

Изоҳ қолдириш

Мавзуга алоқадор: