ABŞ-ın aparıcı süni intellekt şirkətlərindən biri olan “Anthropic”in tədqiqatçılarının getdikcə güclənən modellərin insan nəzarətindən çıxa biləcəyi ilə bağlı xəbərdarlıqları Çində də diqqət çəkib. Ölkədə siyasət formalaşdıran qurumlar oxşar risklərə hazırlaşırlar.

Qaynarinfo xəbər verir ki, ABŞ və Çin qabaqcıl süni intellektin inkişafında və bu texnologiyanın dünya üzrə tətbiqində iki əsas hərəkətverici qüvvədir. Hər iki ölkə süni intellekt siyasəti və sənayedə tətbiq olunan yanaşmalar məsələsində fikir ayrılığı yaşayır. Bu mövzuların ayın sonunda keçiriləcək ikitərəfli danışıqlarda mühüm yer tutacağı gözlənilir.

Pekin süni intellekti idarəolunan risk kimi qiymətləndirir

ABŞ-da müzakirələr qabaqcıl süni intellektin bəşəriyyət üçün mövcudluq təhlükəsi yaradıb-yaratmayacağı üzərində cəmləşdiyi halda, Çində siyasət formalaşdıranlar ümumilikdə süni intellekti güclü, lakin idarəolunan texnologiya kimi qəbul edirlər. Onların fikrincə, texniki standartlar, tənzimləmə və dövlət nəzarəti vasitəsilə riskləri məhdudlaşdırmaq mümkündür.

Pekin və Sinqapurda fəaliyyət göstərən süni intellekt təhlükəsizliyi və idarəçiliyi üzrə tədqiqat qrupu “Concordia AI”ın təsisçisi və baş direktoru Brayan Tse bildirib ki, Çin və ABŞ ekspertləri süni intellektin riskləri ilə bağlı böyük ölçüdə razıdırlar. Onun sözlərinə görə, fərq risklərin “necə çərçivəyə salınması və prioritetləşdirilməsindədir”.

Çin “Anthropic”in təklif etdiyi kimi, süni intellekt şirkətlərinin daxilində müstəqil monitorların yerləşdirilməsini təklif etməyib. Ölkədə formalaşmaqda olan sistem bunun əvəzinə tərtibatçıların öhdəliklərinə, dövlət tərəfindən dəstəklənən standartlara, təhlükəsizlik qiymətləndirmələrinə və kənar testlərə əsaslanır.

Bu yanaşma iki ölkənin süni intellekt sənayesi arasındakı mühüm fərqdən də təsirlənir.

Çinli tərtibatçılar son dövrdə açıq çəkili modelləri daha çox təşviq edirlər. Bu modellərin əsas parametrlərini yükləmək, araşdırmaq və dəyişdirmək mümkündür. “Anthropic” və “OpenAI” kimi ABŞ-dakı aparıcı rəqiblər isə bu spesifikasiyaları ictimaiyyətə açıqlamırlar.

Çin nəzarətdən çıxan süni intellekt agentlərinin qarşısını almağa çalışır

Çinin kiberməkan üzrə tənzimləyicisi, iqtisadi planlaşdırma qurumu və sənaye nazirliyi tərəfindən may ayında yayımlanan siyasət sənədində süni intellekt agentləri üçün “əməliyyat nəzarətinin itirilməsi” təhlükəsizlik riski kimi müəyyənləşdirilib. Süni intellekt agentləri adi çatbotlarla müqayisədə çoxmərhələli tapşırıqları daha müstəqil şəkildə planlaşdırıb həyata keçirə bilən sistemlərdir.

Qaydalar tərtibatçılardan agentlərin düzgün olmayan davranışlarını aşkar etmək, müdaxilə etmək, bloklamaq və belə hallardan sonra sistemi bərpa etmək imkanlarını təkmilləşdirməyi tələb edir.

Sənəddə həmçinin məlumatların zəhərlənməsi, alqoritmlərin manipulyasiyası və sistem zəiflikləri də daxil olmaqla risklərdən qorunmaq çağırışı edilir. Eyni zamanda istifadəçilər agentlərin avtonom qərarları barədə məlumatlandırılmalı və son qərarvermə səlahiyyətini özlərində saxlamalıdırlar.

Çin həmçinin süni intellekt agentlərinin təhlükəsizliyi ilə bağlı məcburi milli standart hazırlamağa başlayıb. “Concordia AI”ın nümayəndəsi Tse bunun dünyada bu sahədə ilk standart ola biləcəyini bildirib.

Çinin kiberməkan üzrə tənzimləyici qurumunun yüksək vəzifəli rəsmisi Van Lihonq sentyabrın 1-də bildirib ki, qabaqcıl modellərin sandbox mühitlərini keçməsi, təhlükəsizlik sərhədlərini aşması və real dünyadakı xarici istehsal sistemlərinə hücum etməsi ehtimalına xüsusi diqqət yetirilməlidir.

Pekin aparıcı ABŞ modellərindən gələn riskləri görür

Çinin dövlət təhlükəsizlik naziri Çen İsin bazar günü hökumətə məxsus media orqanında dərc olunan məqaləsində “Anthropic”in “Mythos” və “OpenAI”nin “GPT-5.5-Cyber” kimi qabaqcıl ABŞ modellərinin Çinin kritik informasiya infrastrukturuna ciddi risk yarada biləcəyini bildirib və süni intellekt təhlükəsizliyinin hərtərəfli gücləndirilməsinə çağırıb.

“Anthropic” və “OpenAI” “Reuters”in şərh üçün göndərdiyi sorğulara dərhal cavab verməyib.

Çinli süni intellekt tərtibatçıları açıq çəkili modelləri qismən ona görə təşviq edirlər ki, kibertəhlükəsizlik qrupları bu modelləri müdafiə məqsədilə araşdıra, dəyişdirə və tətbiq edə bilsinlər.

Model repozitoriyası platforması “Hugging Face” bildirib ki, ABŞ-da daha ciddi məhdudlaşdırılan modellər kriminalistik araşdırma üçün daha az faydalı olduqdan sonra iyul ayında nəzarətdən çıxmış “OpenAI” agentlərinin həyata keçirdiyi müdaxiləni təhlil etmək üçün Çinin “Z.AI” şirkətinin hazırladığı “GLM-5.2” açıq çəkili modelindən istifadə edib.

Lakin ekspertlər açıq çəkili modellərin yaratdığı risklərə də diqqət çəkirlər. Belə modellər çox az nəzarətlə dəyişdirilə və yenidən yayıla bilər.

Tədqiqatçıların bildirdiyinə görə, “Moonshot” şirkətinin “Kimi K3” modeli ötən ay Böyük Britaniyanın Süni intellekt Təhlükəsizliyi İnstitutunun sınaq sandbox mühitindən çıxmağı bacarıb. Bu hadisə Çin modellərinin də ABŞ-dakı analoqları kimi onların girişini və fəaliyyətini məhdudlaşdırmaq üçün nəzərdə tutulmuş nəzarət mexanizmlərindən yayına biləcəyi riskini nümayiş etdirib.

“Moonshot” şirkəti “Reuters”in bu məsələ ilə bağlı şərh sorğusuna cavab verməyib.

Tənzimləyicilər süni intellekt üzərində nəzarətin itirilməsi riskini vurğulayırlar

Çin ilk dəfə 2024-cü ilin sentyabrında Çin Kiberməkan Administrasiyasının (CAC) rəhbərliyi ilə hazırlanmış süni intellekt təhlükəsizliyi çərçivəsində gələcəkdə nəzarətin itirilməsi ssenarisini açıq şəkildə qeyd edib.

Sənəddə bildirilirdi ki, gələcəkdə süni intellektin müstəqil şəkildə xarici resurslar əldə etməsi, özünü çoxaltması, özünüdərk qabiliyyəti formalaşdırması və xarici hakimiyyət əldə etməyə çalışması istisna edilə bilməz. Bu isə onun nəzarət uğrunda insanlarla rəqabət aparması riskini yarada bilər.

CAC 2025-ci ilin sentyabrında sənədin genişləndirilmiş versiyasını yayımlayıb. Yeni çərçivədə bu ssenari daha da konkretləşdirilib. Bildirilib ki, süni intellekt resurslar əldə etməzdən, özünü çoxaltmazdan və hakimiyyət axtarmağa başlamazdan əvvəl intellekt səviyyəsində qəfil və gözlənilməz dərəcədə böyük “sıçrayış” edə bilər.

Sənədə həmçinin “etibarlı tətbiq, nəzarətin itirilməsinin qarşısının alınması” idarəçilik prinsipi əlavə edilib.

Kiberməkan üzrə tənzimləyici qurumun saytında dərc olunan sonrakı ekspert şərhində bildirilib ki, yeni prinsip insanların sağ qalmasına və inkişafına təhlükə yarada biləcək nəzarətin itirilməsi risklərinin qarşısını almağa yönəlib. Şərhdə mümkün “süni intellektin nəzarətdən çıxması” ssenarisinə də istinad edilib.

İnkişaf tempinə fərqli yanaşma

Çinin tənzimləyici yanaşması bəzi Qərb süni intellekt təhlükəsizliyi dairələrinin daha güclü qoruyucu mexanizmlər yaradılana qədər ən imkanlı modellərin hazırlanmasının yavaşladılması və ya dayandırılması çağırışlarından fərqlənir.

Bunun əvəzinə Çin bu ilin əvvəlindən süni intellektin bütün sənaye sahələrinə inteqrasiyasını təşviq edir. Bu, Pekinin dünyanın ikinci ən böyük iqtisadiyyatında texnologiyanı yeni iqtisadi artım mühərrikinə çevirmək strategiyasının bir hissəsidir.

Lakin Çin hakimiyyəti idarəetmə mexanizmlərinin texnologiyanın inkişaf tempinə çatmadığını düşündükdə tətbiqləri təxirə sala biləcəyini də göstərib.

2023-cü ildə Çin şirkətləri generativ süni intellekt xidmətlərini tənzimləyən qaydaların CAC tərəfindən yekunlaşdırılmasını gözlədikləri üçün çatbotların istifadəyə verilməsini bir neçə ay təxirə salmışdılar. Həmin ilin avqustunda qaydalar qüvvəyə mindikdən sonra şirkətlər bir sıra mühüm məhsullarını təqdim etdilər.

Paşa Məmmədli