Xavfsizlik tadqiqotining ahamiyati

|
Xavfsizlik tadqiqotining ahamiyati
|
bet | 3/5 | Sana | 16.05.2024 | Hajmi | 35 Kb. | | #238084 |
Bog'liq Sun 1Xavfsizlik tadqiqotining ahamiyati
Yaqin muddatda AIning jamiyatga ta'sirini saqlab qolish maqsadi ko'plab sohalarda, jumladan, iqtisodiy va huquqiy fanlar, tekshirish, xavfsizlik va nazorat bilan bog'liq turli texnik muammolar bo'yicha tadqiqotlarni rag'batlantiradi. Ahamiyati ortib borayotgan jihat shundaki, AI tizimi inson xohlagan narsani qiladi: avtomobildan tortib, barcha mexanizmlarni boshqaradi.samolyotni yurak stimulyatori yoki elektr ta'minoti tizimiga. Yana bir qisqa muddatli maqsad - avtonom qurollarda halokatli qurollanish poygasining oldini olish.
Uzoq muddatda, agar umumiy sun'iy intellektni izlash muvaffaqiyatli bo'lsa va AI tizimi kognitiv vazifalarda odamlardan ustun bo'lsa, nima bo'lishi muhim savol.
I. J. Gud 1965 yilda aytganidek, sun'iy intellektni rivojlantirish kognitiv vazifadir. Bunday tizim potentsial ravishda rekursiv o'zini-o'zi takomillashtirishdan o'tishi mumkin, shundan so'ng inson ongi unga mos kela olmaydi. Inqilobiy yangi texnologiyalarni ishlab chiqish orqali bunday super-zakovat urush, kasallik va qashshoqlikni yo'q qilishga yordam berishi mumkin, shuning uchun umumiy sun'iy intellektni yaratish hozirgacha eng katta voqea bo'lishi mumkin.
Ammo, agar biz sun'iy intellekt o'ta intellektli bo'lishidan oldin uni inson maqsadlariga moslashtirishni o'rganmasak, bu oxirgi voqea bo'lishi mumkinligidan xavotir bor.
Umumiy sun'iy intellekt qachonlardir yaratiladimi, degan savol qolmoqda. Ba'zi ekspertlar uning yaratilishi kafolatlangan deb hisoblashadi. Bu ikkala imkoniyat ham haqiqiy bo'lsa-da, sun'iy intellekt tizimi qasddan yoki qasddan katta zarar keltirishi ehtimoli ham mavjud. Bugungi tadqiqot AI ishlanmalaridan foydalanish va salbiy oqibatlarning oldini olish orqali bunday ehtimoliy salbiy taʼsirlarni yaxshiroq tayyorlash va oldini olishga yordam beradi.
kompyuter DNKsi
AI ifodalaydimi?xavf
Koʻpchilik tadqiqotchilar oʻta aqlli sunʼiy intellekt sevgi yoki nafrat kabi insoniy tuygʻularni namoyon eta olmaydi va u xayrixoh yoki yomon niyatli boʻla olmaydi, degan fikrga qoʻshiladi. AI qanday xavf tug'dirishi mumkinligini ko'rib chiqayotganda, mutaxassislar ikkita stsenariyga ishonishadi:
AI halokatli narsalarni qilish uchun mo'ljallangan: Avtonom qurollar o'ldirish uchun dasturlashtirilgan AI tizimlari. Agar noto'g'ri ishlatilsa, bu qurollar osongina ommaviy qurbonlarga olib kelishi mumkin. Bundan tashqari, AI qurollanish poygasi beixtiyor AI urushiga olib kelishi mumkin, bu esa katta qurbonlarga olib keladi. Bu xavf tor sunʼiy intellekt bilan ham bogʻliq boʻlishi mumkin, biroq u sunʼiy intellektning murakkabligi darajasi oshgani va avtonomiya oshgani sayin ortadi.
AI foydali biror narsa qilish uchun mo'ljallangan, ammo maqsadga erishishni ta'minlash uchun buzg'unchi usulni ishlab chiqadi: bu AI maqsadi va inson o'rtasida to'liq mos kelmaganda sodir bo'ladi. aslida juda qiyin. Agar siz itoatkor aqlli mashinadan sizni aeroportga imkon qadar tezroq olib borishini so'rasangiz, bu hech bo'lmaganda yo'l harakati qoidalarini buzish bilan yakunlanishi mumkin, chunki mashina siz xohlagan narsani emas, balki tom ma'noda siz so'ragan narsani qiladi. Agar superintellekt tizimiga ulkan geoinjeneriya loyihasi topshirilsa, bu bizning ekotizimimizga salbiy ta'sir ko'rsatishi mumkin va insonning uni to'xtatishga urinishlari.topshiriq uchun tahdid sifatida ko'riladi.
Bu misollardan koʻrinib turibdiki, ilgʻor sunʼiy intellekt haqida tashvishlanish yomon niyat emas, balki malakadir. Super aqlli sun'iy intellekt o'z maqsadlariga muvaffaqiyatli erishadi va agar bu maqsadlar biznikiga mos kelmasa, bu muammoga aylanadi.
Ilm-fan va texnologiya sohasidagi koʻplab taniqli shaxslar soʻnggi paytlarda ommaviy axborot vositalarida oʻz xavotirlarini bildirishdi va AI tahdidlari haqida ochiq xatlar yozishdi.
Umumiy sun'iy intellektni muvaffaqiyatli qurish g'oyasi o'nlab yillar davomida ilmiy fantastika deb hisoblanadi. Biroq, so'nggi yutuqlar tufayli sun'iy intellektni rivojlantirishda ko'plab bosqichlarga erishildi va mutaxassislar bizning hayotimizda o'ta aqlli faoliyatlar mavjudligiga jiddiy qarashadi. Ba'zilar hali ham inson darajasida sun'iy intellekt bir asrdan keyin sodir bo'lmaydi deb ishonishsa-da, 2015 yilda Puerto-Riko konferentsiyasida AI tadqiqotchilarining aksariyati bu 2060 yilgacha bo'lishini taklif qilishgan.
AI har qanday odamdan aqlliroq bo'lishi mumkinligi sababli, uning o'zini qanday tutishini oldindan aytishning aniq usuli yo'q. Biz oldingi texnologik ishlanmalarni asos sifatida ishlata olmaymiz, chunki biz hech qachon ongli ravishda yoki bilmagan holda bizni aldab qo'yadigan narsalarni yaratmaganmiz. Biz duch kelishimiz mumkin bo'lgan eng yaxshi misol bizning evolyutsiyamiz bo'lishi mumkin. Odamlar endi sayyorani biz eng kuchli, eng tezkor yoki eng katta ekanligimiz uchun emas, balki biz eng aqlli ekanligimiz uchun boshqaradi. Ammo agar biz endi eng aqlli bo'lmasak, hamma narsaga aminmiznazorat ostida qoladimi? Ehtimol, AI texnologiyasida bu poygada g‘alaba qozonishning eng yaxshi yo‘li uning rivojlanishiga to‘sqinlik qilmaslik, balki xavfsizlik bo‘yicha tadqiqotlarni qo‘llab-quvvatlash orqali uni tezlashtirishdir.
Inson o'rniga AI
|
| |