Microsoft kompaniyasi asoschilaridan biri Bill Geyts kelajakda sun’iy intellekt bir milliard insonning o‘limiga sabab bo‘lishi mumkinligini taxmin qildi. Sun’iy intellekt tizimlari nazoratdan chiqishi mumkinligi haqidagi xabarlar ko‘payayotgan bir paytda bu ogohlantirish jamoatchilik orasida xavotir uyg‘otmoqda. Sun’iy intellekt, bulutli texnologiyalar va kiberxavfsizlik bo‘yicha xalqaro ekspert Devid Lintikum bunday holat yuz berish ehtimoli haqida o‘z fikrlarini bildirdi.

Bill Geyts NBC News telekanaliga bergan intervyusida sun’iy intellekt ommaviy inson talafotlariga olib kelishi mumkin bo‘lgan voqealarga ta’sir ko‘rsatish uchun yetarlicha kuchli ekanini aytdi. Uning fikricha, zamonaviy sun’iy intellekt vositalarining yovuz niyatli insonlar qo‘lida qo‘llanilishi insoniyat uchun nihoyatda katta xavf tug‘dirishi mumkin. Geyts sun’iy intellektdan foydalanishni qonunchilik darajasida tartibga solish zarurligini ham ta’kidladi.

Ushbu taxmin qanchalik haqiqatga yaqinligini baholash uchun Tom’s Guide nashri Devid Lintikum bilan suhbatlashdi.

Ekspertning tushuntirishicha, sun’iy intellekt bir milliard insonning o‘limiga sabab bo‘lishi uchun u muhim infratuzilma, qurol-yarog‘ tizimlari, ta’minot zanjirlari yoki biologik tizimlarni boshqarish imkoniyatiga ega bo‘lishi kerak. Bundan tashqari, sun’iy intellekt tizimlari insonning bevosita ishtirokisiz ishlay olishi lozim. Bunday ssenariy amalga oshishi uchun texnologiyalarning turli tizimlarga noto‘g‘ri joriy etilishi, boshqaruvdagi nosozliklar va sun’iy intellektdan ataylab zararli maqsadlarda foydalanish kabi bir nechta jiddiy holat bir vaqtning o‘zida yuz berishi kerak.

Lintikumning ta’kidlashicha, bunday ssenariy nazariy jihatdan mumkin, biroq odamlar bir qator jiddiy xatolarga yo‘l qo‘ymasa, uning amalda ro‘y berish ehtimoli past.

Ekspertning taxminiga ko‘ra, Bill Geyts sun’iy intellekt texnologiyalari terroristik guruhlar yoki beqaror davlatlar qo‘liga tushishi mumkin bo‘lgan vaziyatni nazarda tutgan bo‘lishi mumkin. Biroq bunday holatda ham texnologiyadan foydalanish niyatidan tortib global miqyosdagi falokat yuz berishigacha uzoq yo‘l bor. Shu sababli mutaxassis bunday darajadagi halokat ehtimolini past deb baholaydi.

Shunga qaramay, Lintikum sun’iy intellekt bilan bog‘liq ayrim xavflar hozirning o‘zida mavjudligini inkor etmaydi. U ma’lumotlarning sizib chiqishi, internetdagi firibgarlik, soxta video va audioyozuvlar, shuningdek, avtomatlashtirilgan tizimlarning noto‘g‘ri ishlashi kabi xatarlarga alohida e’tibor qaratish zarurligini aytdi. Algoritmlarning tarafkash qarorlari va texnologiyalardan kiberhududda noqonuniy foydalanish ham xavotir uyg‘otadi. Ayrim kompaniyalar sun’iy intellektni yetarli nazorat va himoya choralarini ta’minlamasdan joriy etishi ham mumkin.

Ekspert fikricha, asosiy xavflardan biri korxonalar va davlat idoralarining real tizimlariga ulangan, yetarlicha puxta ishlab chiqilmagan sun’iy intellekt yechimlaridir. Lintikum sun’iy intellektdan foydalanish bo‘yicha yetarli tajriba va ko‘nikmaga ega bo‘lmagan odamlar boshqaruvidagi tizimlardan ayniqsa xavotirda ekanini ta’kidladi.

Sun’iy intellekt xavfsizligini ta’minlash va uning ustidan nazoratni saqlab qolish uchun ekspert bir qator choralarni tavsiya etadi. Ular orasida tizimlarning vakolatlarini cheklash, ularni boshqa tizimlardan ajratish va yuqori xavfli amallarni faqat inson tasdig‘i bilan bajarish bor. Shuningdek, sun’iy intellektning barcha harakatlarini qayd etish, tizimlarni muntazam sinovdan o‘tkazish hamda AI agentlariga haddan tashqari keng vakolatlar yoki dasturlash interfeyslariga (API) cheklanmagan kirish huquqini bermaslik zarur.

Lintikumning ta’kidlashicha, xavfsizlik tizim loyihasining boshidanoq uning tuzilishiga kiritilishi kerak. Buning uchun eng kam vakolat berish tamoyiliga amal qilish, harakatlarni nazorat qilish, zarur bo‘lganda avvalgi xavfsiz holatga qaytish imkoniyatini saqlash va tizimlarni bir-biridan ajratish muhimdir. Insonning texnologiyaga bo‘lgan ishonchi, avvalo, uning imkoniyatlarini qanchalik samarali cheklay olishiga bog‘liq.

Ekspert faqat favqulodda o‘chirish tugmasiga tayanish yetarli emasligini ham ta’kidladi. Bunday tugma inson xavfni o‘z vaqtida anglab, zarar yetishidan oldin undan foydalana olsagina samara beradi. Ishonchliroq yondashuv ko‘p bosqichli nazorat mexanizmlari, avtomatik o‘chirish vositalari, amallar chastotasini cheklash, ajratilgan sinov muhitlari, tasdiqlash tartiblari va audit jurnallarini o‘z ichiga olishi kerak. Tizimlar kiberhujumlarga ham chidamli bo‘lishi lozim.

Lintikumning fikricha, sun’iy intellektdan xavfsiz foydalanish faqat ishlab chiqishning yakuniy bosqichida emas, balki loyihaning barcha bosqichlarida ta’minlanishi kerak. Uning ta’kidlashicha, favqulodda o‘chirish tugmasi odamlarda himoyalanganlik hissini uyg‘otishi mumkin, biroq u o‘z-o‘zidan xavfsizlikni kafolatlamaydi.

Ekspert sun’iy intellekt kiberhujumlar xarajatini kamaytirayotgani va ularning sonini oshirayotganini ham aytdi. Bugungi kunda ushbu texnologiya yordamida soxta elektron xatlar tayyorlash, odamlarning ovozini taqlid qilish va qalbaki to‘lov hujjatlarini yaratish ancha osonlashdi. Shu bilan birga, sun’iy intellekt kiberxavfsizlik mutaxassislariga himoyani kuchaytirishda ham yordam berishi mumkin.

Shunga qaramay, mutaxassislar asosiy xavfsizlik qoidalariga rioya qilishda davom etishlari kerak. Bular qatoriga ko‘p bosqichli autentifikatsiya, olingan ma’lumotlarni telefon orqali qayta tekshirish va ma’lumotlarning zaxira nusxalarini yaratish kiradi. Lintikum ishonarli ko‘rinadigan yoki eshitiladigan ma’lumotlar ham soxta bo‘lishi mumkinligini unutmaslik kerakligini ta’kidladi.

Sun’iy intellekt biologik qurollar yaratishga yordam berishi mumkinligi masalasida esa ekspert ehtiyotkorroq fikr bildirdi. Uning aytishicha, sun’iy intellekt biologiya sohasidagi bilimlarni o‘zlashtirish, ish jarayonlarini takomillashtirish va dastlabki tadqiqotlarni osonlashtirishga yordam berishi mumkin. Biroq ommaviy qirg‘in qurollarini yaratish uchun ixtisoslashtirilgan laboratoriya sharoitlari, tegishli materiallar va tajribalar o‘tkazish imkoniyatlari zarur. Bularning barchasi jiddiy to‘siqlarni yuzaga keltiradi.

Shunga qaramay, biologik xavfsizlik choralarini kuchaytirish muhimdir. Ekspert sun’iy intellekt modellariga yuboriladigan so‘rovlarni tekshirish, xavfli tajriba usullariga kirishni cheklash, laboratoriya buyurtmalarini nazorat qilish va biologik xavfsizlik standartlariga qat’iy rioya etishni tavsiya qiladi. Agar sun’iy intellektdan xavfli maqsadlarda foydalanilayotgani aniqlansa, tegishli texnologiyalardan foydalanish cheklanishi va bu haqda mas’ul idoralarga xabar berilishi kerak.

Lintikum sun’iy intellekt xavfsizligi uchun hukumatlar, texnologiya ishlab chiqaruvchilari, kompaniyalar va foydalanuvchilar birgalikda javobgar bo‘lishi lozimligini ta’kidlaydi. Davlatlar qonunchilikda xavflarni hisobga olishi va yetkazilgan zarar uchun javobgarlikni belgilashi kerak. Ishlab chiquvchilar xavfsiz, nazorat qilinadigan va muntazam sinovdan o‘tkaziladigan tizimlarni yaratishlari lozim. Kompaniyalar sun’iy intellektdan foydalanish holatlarini tahlil qilib, ma’lumotlarga kirishni nazorat qilishlari kerak. Foydalanuvchilar esa suhbatdoshining shaxsini tekshirishi va o‘z hisoblarining xavfsizligini ta’minlashi zarur.

Ekspertning umumiy xulosasiga ko‘ra, bugungi kunda asosiy xavf sun’iy intellektning o‘zidan ko‘ra, undan noto‘g‘ri foydalanadigan yoki zarur xavfsizlik choralariga rioya qilmaydigan insonlarning harakatlari bilan bog‘liq.