SI yaqin 10 yil içida insoniyatni yöq qilişi mumkin – ekspert
Suniy intellektning yaqin ön yil içida insoniyatni yöq qiliş ehtimoli 10 foizni taşkil etadi. Bu haqda Amerikaning Anthropic kompaniyasida SI muvofiqligini stress-testdan ötkaziş yönalişi rahbari Evan Xyubinger özining X ijtimoiy tarmoğidagi sahifasida yozdi.
Anthropic tadqiqotçisi Jeykob Kokson texnologik korporatsiyalar örtasidagi poyga dunyoni “ortga qaytib bölmaydigan nuqtaga” yaqinlaştirayotgani va 2027 yil oxiridayoq apokaliptik stsenariyga olib kelişi mumkinligidan xavotir olib, SI sohasini tark etişini elon qilgan.
“Jeykob bu borada haq. Biz haqiqatan ham SI butun insoniyatni yöq qilişi mumkinligiga çin dildan işonamiz! Şaxsan özim (buning ehtimoli — tahr.) yaqin ön yil içida 10 foizdan yuqori deb öylayman”, deb yozdi u.
Xyubingerning sözlariga köra, mavjud işlanmalar katta xavf tuğdirmaydi, biroq “takroriy öz-özini takomillaştiriş natijasida yuzaga keladigan superintellektlar” xavotir uyğotmoqda.
“Biz aytganimizdek, bu biz öylagandan ham tezroq yuz bermoqda”, deb qöşimça qilgan test ötkazuvçi mutaxassis.
Malumot uçun, joriy yilning avgust oyi boşida Anthropic kompaniyasining Claude AI bazasidagi suniy intellekt agenti Avstraliyadagi sport zali saytini buzib kirgandi. Bu mamlakatda uşbu turdagi birinçi xakerlik hujumi böldi.
Joriy yilning iyul oyida ÇatGPT çat-boti işlab çiquvçisi – Amerikaning OpenAI kompaniyasi öz modellari test sinovlari jarayonida Hugging Face maşinaviy örganiş platformasi infratuzilmasini mustaqil ravişda buzib kirganini malum qildi. Keyinçalik bu yagona hodisa emasligi malum böldi.
OpenAI kompaniyasining bir guruh mustaqil SI-agentlari bahorda Germaniya sayti ustidan nazoratni qölga kiritgan va uni boşqa neyrotarmoqlar uçun elonlar taxtasiga aylantirib qöygan.
Anthropic kompaniyasiga 2021 yilda asos solingan bölib, qarorgohi San-Frantsiskoda joylaşgan. Kompaniya Claude yirik til modellari (LLM) seriyasini işlab çiqqan.
Iyun oyida Anthropic IPO ötkaziş uçun maxfiy ravişda ariza topşirganini malum qildi. “Financial Times” gazetasining xabar berişiça, listing doirasida kompaniya 2 trillion dollar yoki undan yuqori baholanişi mumkin. Şu tariqa uning IPÖsi tarixdagi eng yirigiga aylanadi.
Eslatib ötamiz, avvalroq OpenAI kompaniyasi deyarli bir asr davomida matematiklarni qiynab kelgan Nave–Stoks masalasini suniy intellekt yordamida hal qilganini malum qilgandi.