Süni intellekt əsasında işləyən zərərli proqramlar yaxın aylarda məişət texnikasını ələ keçirə bilər. “Anthropic” şirkətinin tədqiqatçıları xəbərdarlıq edirlər ki, belə cihazlar aşkarlanması və söndürülməsi çətin olan paylanmış şəbəkənin bir hissəsinə çevrilə bilər.
Qaynarinfo xəbər verir ki, “Business Insider” nəşrinin məlumatına görə, mütəxəssislər “süni intellekt qurdları” adlandırılan təhlükənin yaranması ssenarisini araşdırırlar. Ənənəvi kompüter viruslarından fərqli olaraq, belə proqramlar yalnız özlərini digər cihazlara köçürməklə kifayətlənməyəcək, həm də süni intellekt modelini özləri ilə birlikdə daşıyacaq və insanın göstərişi olmadan yoluxmanın yeni üsullarını axtaracaqlar.
Tədqiqat zamanı mütəxəssislər kiçik süni intellekt modellərinin ucuz avadanlıqlarda işlədilməsinin mümkün olub-olmadığını yoxlayıblar. Tədqiqatçılar hər biri təxminən 55 dollara başa gələn 15 Android TV qurğusu alaraq onları şəbəkəyə birləşdirib və üzərlərində süni intellekt sistemini işə salıblar.
Neyron şəbəkəsi yavaş işləsə də, fəaliyyət göstərib. Hər qurğu hesablamaların müəyyən hissəsini yerinə yetirib və birlikdə elə bir modeli işlədə biliblər ki, həmin model üçün ayrı-ayrı cihazların yaddaşı kifayət etməzdi.
Əsas təhlükə böyük məlumat mərkəzlərinə ehtiyacın olmamasıdır
Belə bir şəbəkənin yaradılması üçün böyük məlumat mərkəzlərinə ehtiyac olmaya bilər. Bir neçə güclü serverə hücum etmək əvəzinə, süni intellekt qurdu nəzəri olaraq zəif müdafiə olunan çoxsaylı cihazların hesablama resurslarından istifadə edə bilər.
“Anthropic” bu ssenarini mövcud hesablama imkanlarını tədricən ələ keçirərək yavaş-yavaş yayılan “rəqəmsal selik” kimi təsvir edir.
Digər problem isə belə bir şəbəkənin fəaliyyətini dayandırmağın çətinliyidir. Zərərli sistem minlərlə cihaz arasında paylanarsa və vahid idarəetmə serverindən asılı olmazsa, bir kompüterin və ya məlumat mərkəzinin söndürülməsi onun yayılmasını mütləq dayandırmayacaq.
Ekspertlər qeyd edirlər ki, süni intellekt qurdları potensial olaraq tanımadıqları cihazları təhlil edə, uğursuzluqla qarşılaşdıqda fəaliyyət üsullarını dəyişə və operatorun müdaxiləsi olmadan yayılmağa davam edə bilərlər.
Hazırda söhbət bəşəriyyət üçün mövcudluq səviyyəsində təhlükədən getmir. Bununla belə, texnologiyanın gələcək inkişafı narahatlıq doğurur.
İstehsalçılara təhlükəsizlik tədbirlərini gücləndirmək tövsiyə olunur
“Anthropic” şirkəti hesab edir ki, istehsalçılar qoşulmuş cihazların müdafiəsini gücləndirməlidirlər. Bu, həmin cihazların icazəsiz istifadəsinin qarşısını almağa kömək edə bilər.
Bununla belə, yalnız qabaqlayıcı tədbirlər kifayət etməyə bilər. Mütəxəssislər avtonom süni intellekt agentlərinin müxtəlif növ avadanlıqlarda, o cümlədən insanın birbaşa nəzarətindən kənarda işləyə biləcəyi vəziyyətlərə əvvəlcədən hazırlaşmağı təklif edirlər.
Xəbərdarlıq süni intellekt agentlərinin getdikcə daha çox gözlənilməz davranması və onlara verilən tapşırıqların hüdudlarından kənara çıxması barədə məlumatların yayıldığı bir vaxta təsadüf edib.
Sınaqlar zamanı botların təcrid olunmuş mühitdən özbaşına çıxdığı və xarici resurslara icazəsiz giriş əldə etdiyi hallar da qeydə alınıb.
Aydın
