Süni intellekt şirkəti “Anthropic” süni intellekt modellərindən bioloji silahların hazırlanmasına kömək edə biləcək şəkildə istifadə edilməsi ilə bağlı hallar aşkarladığını açıqlayıb. Şirkət yeni nəsil modellərin yaratdığı risklərlə bağlı diqqətçəkən nəticələrini təqdim edib.

Qaynarinfo xəbər verir ki, süni intellektin gələcəkdə insanüstü sistemlərə çevrilə biləcəyi barədə xəbərdarlıq edərək “Anthropic”dən istefa verən keçmiş əməkdaş Ceykob Koksanın açıqlamalarından sonra şirkət hesabat yayımlayıb.

Koksanın açıqlamalarının gündəmdə olduğu vaxt yayımlanan hesabatda “Anthropic”in süni intellekt modellərindən bioloji silahların hazırlanmasına kömək edə biləcək şəkildə istifadə edilməsi ilə bağlı halların müəyyənləşdirildiyi bildirilib.

Bioloji silah riski

“Anthropic”in süni intellekt modellərindən sui-istifadə ilə bağlı yayımladığı hesabatda ən ciddi risklərdən birinin “bioloji sui-istifadə” olduğu vurğulanıb.

Hesabatda inkişaf etmiş süni intellekt modellərinin mövcud patogenləri daha təhlükəli hala gətirə və ya yeni patogenlərin hazırlanmasına kömək edə biləcək imkanlara yiyələnməsi ilə bağlı narahatlıqlara diqqət çəkilib.

Şirkət bu il “Claude” da daxil olmaqla süni intellekt modellərindən istifadə edərək bioloji silahların hazırlanmasına kömək edə biləcək araşdırmalar aparan bəzi alimlərin fəaliyyətlərinin qarşısını aldığını bildirib. “Anthropic” həmin tədqiqatçıların adlarını, ölkələrini və üzərində işlədikləri bioloji agentləri açıqlamayıb.

“Son dərəcə incə məsələdir”

“Anthropic”in təhdid kəşfiyyatı rəhbəri Ceykob Kleyn bioloji araşdırmaların pis niyyətli olub-olmadığının hər zaman açıq şəkildə müəyyən edilmədiyini söyləyib.

Kleyn bildirib: “Komikslərdəki kimi kiminsə “Hey, hamını öldürəcək bioloji silah hazırlamaq istəyirəm” dediyini görmürsünüz. Bu, son dərəcə incə məsələdir.”

Şirkət qanuni bioloji araşdırmaların da təhlükəli patogenlərin hazırlanmasına töhfə verə biləcəyinə diqqət çəkib. Peyvənd hazırlanması kimi tədqiqatların faydalı nəticələr verə biləcəyi, lakin eyni texnikalardan patogenləri daha təhlükəli hala gətirmək üçün də istifadə oluna biləcəyi qeyd edilib.

Tədqiqatçıların fəaliyyətləri əngəlləndi

Hesabatda dəstəklənməyən bir bölgədə çalışan tədqiqatçının “Claude”dan quş qripinin məməlilərə uyğunlaşması ilə bağlı təcrübələr planlaşdırmaq üçün istifadə etdiyi bildirilib.

Digər bir halda isə dövlət tərəfindən dəstəklənən tədqiqatçının toksinləri kompüter mühitində yenidən dizayn etməyə çalışdığı qeyd olunub.

“Anthropic” istifadəçilərin giriş məhdudiyyətlərini aşmağa və “təhlükəsizlik tədbirlərimizdən yayınmaq üçün araşdırmalarının məqsədini gizlətməyə” çalışdıqlarını da müəyyən etdiyini açıqlayıb. Şirkət bu fəaliyyətlərlə əlaqəli hesabları bloklayıb.

May ayında baş verən başqa bir hadisədə isə bir alimin aylarla davam edən şiddətli ağrı və digər simptomlara səbəb ola bilən çikungunya virusu üzərində təcrübə aparmaq üçün “Claude”dan qrant müraciəti hazırlamaqda yardım istədiyi bildirilib.

“Anthropic” araşdırmanın bir hissəsinin hərbi tədqiqat institutunda aparılmasının planlaşdırıldığını müəyyən etdiyinə görə bu hadisəni narahatedici hesab edib.

Kleyn deyib: “Bilmədiyimiz məsələ bu araşdırmanın silah kimi istifadə olunmaq məqsədilə aparılıb-aparılmadığıdır. Lakin hərbi qurumun funksiyanın artırılması araşdırması aparması narahatedicidir.”

“Anthropic”in hesabatında digər təhdidlər də yer alıb

“Anthropic”in son səkkiz aya dair hesabatında süni intellektdən bioloji silahlardan başqa müxtəlif məqsədlər üçün sui-istifadə edilməsi halları da əksini tapıb.

Hesabatda Çin və İran hökumətləri ilə əlaqəli olduğundan şübhələnilən aktorların müxalifləri və diaspor icmalarını izləmək üçün süni intellekt modellərindən yararlandığı bildirilib.

Rusiya dövlət mediasının da “Claude”dan müstəqil jurnalistika görüntüsü altında onlayn təbliğat hazırlamaq üçün istifadə etdiyi iddia olunub. Bu fəaliyyətlərə Moldova seçkiləri ilə bağlı saxta iddiaların yayılması da nümunə göstərilib.

“Anthropic” həmçinin “Claude”un odlu silahlar, raketlər, silahlı pilotsuz uçuş aparatları və bombalar da daxil olmaqla ənənəvi silahların layihələndirilməsi və hazırlanmasına yönəlmiş proqram təminatı işlərində istifadə edildiyi hallar aşkar etdiyini açıqlayıb. Hesabatda Çindən üç, Rusiyadan iki və Yəməndən bir hadisə ətraflı təsvir olunub.

“Anthropic” əməkdaşından diqqətçəkən istefa

“Anthropic” əməkdaşı Ceykob Koksanın süni intellektin gələcəyi ilə bağlı açıqlamaları da gündəmdə olub.

Koksa süni intellektin “real güc və resurslar əldə edə biləcək insanüstü sistemlərə çevrilə biləcəyini” müdafiə edərək şirkətdən istefa verdiyini açıqlayıb.

Koksanın paylaşımı milyonlarla dəfə izlənərək geniş rezonans doğurub.

Aydın