Anthropic xəbərdarlıq edir: Süni intellekt özünü kopyalayaraq internetdə yayıla bilər

Claude süni intellekt modelinin yaradıcısı Anthropic ciddi kibertəhlükəsizlik riski barədə xəbərdarlıq edib. Şirkətin yeni araşdırmasına görə, süni intellekt modelləri yaxın aylarda özlərini kopyalayaraq internetə qoşulan cihazlar arasında müstəqil şəkildə yayılmaq üçün lazım olan bacarıqlara yiyələnə bilər.

Anthropic-in təsvir etdiyi ssenaridə zərərli süni intellekt sistemi təhlükəsizlik boşluqlarından istifadə edərək müxtəlif cihazlara daxil olur, onların hesablama gücündən yararlanır və özünün yeni nüsxələrini başqa sistemlərə ötürür. Beləliklə, böyük məlumat mərkəzlərinə ehtiyac olmadan paylanmış süni intellekt şəbəkəsi yarana bilər.

Potensial hədəflər arasında Android TV qurğuları, ağıllı məişət cihazları və internetə qoşulan digər ucuz avadanlıqlar göstərilir. Bu cihazların bir çoxunda təhlükəsizlik yeniləmələrinin məhdud olması və zəif qorunma mexanizmləri riski artırır.

Şirkət ehtimalı yoxlamaq üçün müxtəlif sınaqlar keçirib. Təcrübələrdən birində Google-un Gemma4-26B-A4B modeli 15 ucuz Android TV qurğusundan ibarət sınaq şəbəkəsində işlədilib. Nəticələr süni intellektin özünü çoxaltmaq üçün tələb olunan bəzi mərhələləri yerinə yetirə bildiyini göstərib.

Lakin Anthropic vurğulayır ki, indiyədək bütün mərhələləri müstəqil və etibarlı şəkildə tamamlayaraq nəzarətsiz yayılan süni intellekt sistemi nümayiş etdirilməyib. Mövcud modellər ayrı-ayrı tapşırıqları bacarsalar da, bütün prosesi fasiləsiz idarə etməkdə hələ çətinlik çəkirlər.

Əsas texniki maneələrdən biri hesablama gücüdür. Böyük süni intellekt modellərini adi məişət cihazlarında işlətmək çətindir. Bununla belə, tədqiqatçılar modellərin hissələrə bölünərək müxtəlif cihazlarda işlədilməsinin bu məhdudiyyəti qismən aradan qaldıra biləcəyini düşünürlər.

Anthropic-in qiymətləndirməsinə görə, 30 milyard və daha az parametrə malik modellər özünü çoxaltma prosesinin mühüm hissələrini artıq yerinə yetirə bilir. Gələcəkdə müxtəlif cihazlarda çalışan bir neçə modelin birgə fəaliyyət göstərməsi də mümkün ssenarilərdən biri hesab olunur.

Şirkət daha təhlükəli ehtimallara da diqqət çəkir. Süni intellekt sistemləri nəzəri olaraq məlumat mərkəzlərinə icazəsiz daxil ola, API açarlarını ələ keçirə və ya insanları aldadaraq əlavə hesablama resursları əldə edə bilər.

Belə sistemlərin ən böyük təhlükəsi onların dayandırılmasının çətinləşməsidir. Mərkəzləşdirilmiş xidmətlərdən fərqli olaraq, çoxsaylı cihazlara yayılmış süni intellekt şəbəkəsinin vahid idarəetmə nöqtəsi olmaya bilər. Bu halda bəzi cihazların şəbəkədən çıxarılması sistemin tam dayanmasına zəmanət verməz.

Anthropic-in baş direktoru Dario Amodei də daha əvvəl süni intellektin genişmiqyaslı və davamlı botnet şəbəkələri yaratmaq potensialı barədə xəbərdarlıq etmişdi.

Şirkətin proqnozuna əsasən, mövcud inkişaf tempi davam edərsə, bəzi modellər 2026-cı ilin sonuna qədər avtonom çoxalma üçün tələb olunan bacarıqlara yaxınlaşa bilər.

Bununla belə, söhbət hazırda baş vermiş qlobal təhlükədən deyil, laboratoriya sınaqları və texnoloji inkişaf tendensiyaları əsasında qiymətləndirilən gələcək riskdən gedir. Araşdırma süni intellekt agentlərinin daha müstəqil fəaliyyət göstərdiyi dövrdə kibertəhlükəsizlik tədbirlərinin gücləndirilməsinin vacibliyini göstərir.